Филиппов Сергей Николаевич родился в рабочей семье. Отец был слесарем, а мать портнихой.

В школе он учился очень плохо, а в старших классах даже прослыл хулиганом. На уроке химии в отсутствие учителя он смешал соляную кислоту с железными опилками, добавил пару реактивов. После такого эксперимента по всей школе распространился ужасно резкий запах. Занятия были сорваны, а будущего актера исключили из школы.

После исключения из школы устроился учеником пекаря в частной пекарне. Но эта работа его интересовала мало, и в течение последующих месяцев он перепробовал несколько профессий, от токаря до плотника, пока случай не привёл его в балетную студию. Занятия настолько увлекли его, что через несколько недель он считался лучшим учеником и перед ним открывалось блестящее будущее в балете. В 1929 году по совету преподавателей он отправился в Москву, поступать в балетное училище при Большом театре.

Приехав в столицу, он узнал, что приёмные экзамены уже закончились, и по совету знающих людей отправился в Ленинград, в хореографическое училище. Но и на эти экзамены он опоздал и подал документы в только что открывшийся эстрадно-цирковой техникум, куда и был принят. Преподаватели прочили одарённому студенту блестящее будущее и, после окончания техникума, в 1933 году он был принят в труппу Театра оперы и балета.

Карьера балетного танцора оказалась слишком короткой — во время очередного спектакля ему стало плохо. Приехавшие врачи констатировали сердечный приступ и посоветовали уйти из балета. Он поступил в эстрадный театр-студию. Он много выступал на эстрадных площадках Ленинграда и во время одного из концертов его заметил Николай Павлович Акимов, предложивший молодому актёру перейти в Театр комедии.

В 1935—1965 годах — актёр Ленинградского театра комедии, с 1965 года — киностудии «Ленфильм».

Актер во всех фильмах исполнял опасные трюки сам лично без дублёров. На киносъёмках он неоднократно падал с большой высоты на землю или в воду, входил в клетку с тиграми. Он был мастером как больших и сложных ролей, так и эпизодов.

В 1965 году у него была обнаружена опухоль головного мозга. В 1971 году перед съёмками «12 стульев» у актёра начались сильные головные боли от обнаруженного рака мозга, и поэтому Гайдай пригласил Ростислава Плятта, утвердив его на роль Кисы. Однако сам актер заявил, что будет сниматься в любом случае. Ситуация разрешилась, когда слухи о настойчивом желании актера дошли до Плятта, и он сам уступил ему роль Кисы.

Несмотря на небольшой шанс на улучшение, актер после съёмок успешно прошёл лечение и прожил ещё 20 лет, сыграв три своих последних роли также у Леонида Гайдая.