Родился 3 декабря 1830 года в Санкт-Петербурге  в семье офицера. После окончания в 1848 году 1-го кадетского корпуса выпущен в лейб-гвардии Измайловский полк, прапорщик. Участвовал в Венгерском походе 1849 года. В декабре 1851 года произведен в поручики. После окончания Императорской военной академии в 1854 году выпущен в Генеральный штаб, штабс-капитан ГШ. Участник Крымской войны 1853 — 1856 годов; в составе гвардейского отряда в кампанию 1854 года оборонял побережье Балтийского моря от англо-французских войск. В июне 1855 года произведен в капитаны, а в декабре того же года назначен исполнять должность дивизионного квартирмейстера 2-й гвардейской резервной пехотной дивизии. В сентябре 1856 года назначен адъюнкт-профессором военной статистики Николаевской академии Генерального штаба. С 1857 года — профессор той же академии. В 1858 году вместе с Д. А. Милютиным основал военно-научный журнал «Военный сборник» и являлся его первым редактором по военной части. В марте 1859 года Обручева назначают начальником штаба 2-й гвардейской пехотной дивизии, а в августе того же года производят в полковники. 

В конце 1850-х — начале 1860-х годов придерживался либеральных взглядов и был одним из организаторов общества «Земля и воля», член ее центрального комитета. В этот период Обручев неоднократно выезжал за границу, где сблизился с А. И. Герценом и Н. П. Огаревым, сотрудничал с Н. А. Добролюбовым и Н. Г. Чернышевским. Впоследствии он отошел от либерально-демократического движения. В марте 1866 года за отличие по службе его производят в генерал-майоры. 

В январе 1867 года Н. Н. Обручев был назначен управляющим делами Военно-ученого комитета Главного штаба. В этот период он являлся одним из ближайших сотрудников военного министра Д. А. Милютина при подготовке и проведении военных реформ 1860 — 1870-х годов. В мае 1873 года за отличие по службе он был произведен в генерал-лейтенанты и командирован в Турцию, Германию и Австро-Венгрию для сбора сведений по составу и организации их вооруженных сил, а затем в Брюссель — представителем русского отдела на международной выставке. С 1875 года заслуженный профессор Николаевской академии Генерального штаба. В 1876 год разработал стратегический план войны с Турцией, осуществленный во время Русско-турецкой войны 1877 — 1878 годов. В июле — октябре 1877 года Обручев состоял в распоряжении главнокомандующего Кавказской армией, участвовал в боях при Кюрюк-Даре и у Большой Ягны, разрабатывал планы военных действий при Аладже и Карсе. В апреле 1878 года пожалован в генерал-адъютанты, а в феврале 1881 года назначен помощником начальника Главного штаба.

В июне 1881 года генерал-лейтенант Н. Н. Обручев был назначен начальником Главного штаба. Оставаясь в этой должности 16 лет, он принимал самое непосредственное участие в разработке всех вопросов, относящихся к развитию сухопутных сил государства. За это время по его инициативе или при его участии было сформировано три армейских корпуса и сведены в корпуса кавказские и туркестанские войска; введена система резервных войск; кавалерия усилена сформированием новых драгунских полков; в инженерных войсках образованы железнодорожные, телеграфные и воздухоплавательные батальоны и роты и т.д. Он участвовал в разработке плана войны против Германии и Австро-Венгрии, а также плана десантной операции на Босфор. В 1893 году генерал от инфантерии Обручев был назначен членом Государственного совета.

В период его руководства Главный штаб, ведавший вопросами комплектования армии, ее организации, боевой подготовки и мобилизационной готовности, а также включавший в себя Генеральный штаб, превратился в «мозговой центр» Военного министерства, стал важнейшим его органом. Все это потребовало пересмотра сложившейся структуры Военного министерства вообще и разработки новой организации Главного штаба в частности. В 1894 году генерал от инфантерии Н. Н. Обручев представил военному министру детально разработанный проект новой организации Главного штаба. Его суть состояла в том, чтобы превратить Главный штаб в орган, способный выполнять работу «высшего стратегического порядка относительно распределения войск по театрам войны, образования армий, составления планов их сосредоточения и первоначальных действий, подготовки полевого управления в пограничных округах, организации сбора сведений о неприятеле и проч.». В представленном проекте Главному штабу придавался характер учреждения, образованного на более широких началах, нежели прочие главные управления Военного министерства. Обручев считал, что после реорганизации Главного штаба последний должен занять первенствующее положение в министерстве, а его начальник, «как ближайший сотрудник военного министра по всем важнейшим вопросам, касающимся устройства вооруженных сил и обороны государства», — стать товарищем (заместителем) военного министра с правом доклада непосредственно императору. Он также полагал необходимым установить такой порядок, при котором «все мероприятия по обороне государства и по вопросам боевой готовности войск» не докладывались бы военному министру без предварительного рассмотрения начальником Главного штаба. Однако военный министр, которым в тот период являлся генерал от инфантерии П.С. Ванновский, усмотрев в предложенном проекте чрезмерные «возвышение» и самостоятельность Главного штаба и их руководителя, задержал решение вопроса. В декабре 1897 г. Н.Н. Обручев подал в отставку, которая была принята. Лишь пришедший на смену Ванновскому в 1898 году генерал-лейтенант А. Н. Куропаткин возобновил обсуждение проекта. 

Н. Н. Обручев автор ряда работ по военной истории и военной статистике. Он являлся почетным членом Московского университета и почетным членом Санкт-Петербургской академии наук. 

После выхода в отставку проживал в имении жены во Франции, где и умер. Похоронен на Никольском кладбище Александро-Невской лавры в Санкт-Петербурге.