Родился 13 апреля 1877 года в Санкт-Петербурге. На воинской службе находился с 1893 года. Окончил Морской кадетский корпус в 1896. В службе на Дальнем Востоке с 1896 года. В 1898 году зачислен в штат офицером 2-го разряда. Находился в заграничных плаваниях на транспорте «Якут» (1898), на мореходной канонерской лодке «Кореец», на мореходной канонерской лодке «Манчжур». В 1901—1902 годах нёс службу на эскадренном броненосце «Севастополь». 1 января 1901 года был присвоен чин лейтенанта флота, а в 1902 — штурманского офицера 1-го разряда. В 1904 году был зачислен в 6-й флотский экипаж. На борту транспорта «Анадырь» Дмитриев участвует в Цусимском походе и Цусимском морском сражении. Назначен старшим офицеом крейсера «Адмирал Макаров» (с октября 1908 по апрель 1909), а позже флагманским штурманским офицером штаба начальника Балтийского отряда (с 20 мая 1909). Успешно окончил учебно-воздухоплавательный парк Военного ведомства по 1-му разряду в 1910. В период с декабря 1909 года по апрель 1911 года обучался в Севастопольской авиационной школе — был в числе первых курсантов школы.

26 октября 1911 года капитан 2-го ранга Дмитриев, первый из офицеров флота, получил официальное звание военного лётчика. Летал на нескольких типах самолётов. Один из первых полярных летчиков Российской империи. После окончания авиашколы служил командиром миноносца «Прыткий» (с 18 апреля 1911 по 1912), командиром транспорта «Бакан» (с 25 октября 1912 по 1913), командиром эскадренного миноносца «Всадник» (с 23 декабря 1913 по 1914).

Во время Первой мировой войны командовал эскадренным миноносцем «Лейтенант Ильин» (с 12 января 1915), эскадренным миноносцем «Победитель» (с 29 июня 1915 по 1916). Был назначен исполняющим должность старшего помощника начальника отдела воздушного плавания Главного Управления Кораблестроения (с 21 июля 1916 по 1917) — начальником Управления морской авиации. Со своими обязанностями справлялся блестяще. Являлся председателем постоянной комиссии по испытанию и приёмке самолетов и воздушных кораблей Морского ведомства (с августа 1917).

С 1918 года находился на службе в РККФ в составе частей морской авиации под Ораниенбаумом. В феврале-сентябре 1918 года был начальником Петроградского отделения морской авиации, с сентября 1918 — начальником Управления морской авиации и воздухоплавания, с июня 1920 — председателем комиссии по ликвидации этого Управления. В 1924 флотский штурманский офицер штаба начальника Особого Практического отряда Балтийского моря. С января 1921 находился на преподавательской работе в ВВМУ им. М. В. Фрунзе: преподаватель, с апреля 1934 старший преподаватель, с февраля 1939 старший преподаватель кафедры специальных предметов. С ноября 1939 работает старшим преподавателем кафедры кораблевождения, с апреля 1940 старшим преподавателем кафедры навигации, с ноября 1943 на должности старшего преподавателя кафедры навигации и навигационных приборов. С июля 1944 и до выхода в отставку работал в Баку.

Контр-адмирал Дмитриев Иван Николаевич скончался 28 сентября 1948 года в Ленинграде.