Родился 21 сентября 1827 года в Санкт-Петербурге в императорской семье. С пяти лет воспитывался выдающимся моряком и учёным — адмиралом Фёдоровичем Литке.
В 1846 году произведён в капитаны первого ранга и назначен командиром фрегата «Паллада». 30 августа 1848 года зачислен в Свиту Его Величества.

В 1848 году был произведён в контр-адмиралы, назначен шефом Морского кадетского корпуса; шефом же лейб-гвардии Финляндского полка состоял с 1831 года и до своей смерти. В 1849 году участвовал в Венгерском походе, назначен присутствовать
в Государственном и Адмиралтейств-советах. В 1850 году возглавил Комитет для пересмотра и дополнения Общего свода Морских уставов и стал членом Государственного совета и Совета военно-учебных заведений. 

21 января 1853 года вступил в управление морским министерством. Произведён
в вице-адмиралы. Во время Крымской войны Константин Николаевич принимал участие в защите Кронштадта от нападения англо-французского флота.

С 1855 года — адмирал, управляющий флотом и морским ведомством на правах министра. С 1860 года — председательствовал в Адмиралтейств-совете. 

Умер 25 января 1892 года в Павловске от пневмонии.