Родился 25 сентября 1910 года в городе Евпатория в семье рабочего. Окончил
9 классов школы.

На флоте с 1931 года, краснофлотец учебного отряда. В 1933 году окончил Специальные курсы командного состава РККФ. Служил на торпедных катерах Тихоокеанского флота: с октября 1931 года — командир торпедного катера, с августа 1934 года — командир звена торпедных катеров.

В мае 1938 года репрессирован, арестован и уволен из РККФ по ложному обвинению.
В апреле 1939 года освобождён и восстановлен на флоте, вновь стал командиром звена. 

С декабря 1939 года — командир отряда торпедных катеров Тихоокеанского флота. 

С августа 1941 года — начальник штаба, с июня 1943 — командир 3-го дивизиона торпедных катеров флота.

Участник Советско-японской войны 1945 года. Дивизион под его командованием потопил 5 транспортов общим водоизмещением 41.000 тонн, сбил вражеский самолёт.

За образцовое выполнение заданий командования и проявленные при этом мужество, отвагу и геройство Указом Президиума Верховного Совета СССР от 14 сентября 1945 года капитану 3-го ранга Кострицкому Сергею Петровичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда».

После войны продолжал службу в Военно-Морском Флоте. С июля 1947 года — начальник штаба, с января 1949 года — командир 2-й бригады торпедных катеров Тихоокеанского флота.

В июне — декабре 1951 года — командир 170-й бригады торпедных катеров Порт-Артурской военно-морской базы.

В 1953 году окончил Военно-Морскую академию. С января 1953 года — командир 34-й дивизии торпедных катеров 8-го ВМФ. 

С марта 1956 — командир военно-морской базы Балтийск. 

С февраля 1961 — командир 78-й бригады учебных и резервных кораблей Балтийского флота. 

С мая 1962 года — командир 78-й бригады Охраны водного района Лиепайской военно-морской базы. С ноября 1964 года — начальник вооружения и снабжения — заместитель начальника тыла Северного флота. 

С декабря 1967 года — в распоряжении начальника 10-го управления Генерального штаба. 

С 1970 года контр-адмирал Сергей Петрович Кострицкий — в запасе.

Жил в Риге. Работал в Латвийском морском пароходстве первым помощником капитана теплохода «Сена». 

Умер 3 февраля 1982 года. Похоронен на городском кладбище Райниса.