Родился 22 февраля 1855 года в семье дворян Санкт-Петербургской губернии. Начальное образование получил в 1-й Санкт-Петербургской гимназии. На военной службе с сентября 1872 года. В декабре того же года поступил в Пажеский корпус, после окончания которого в 1874 году выпущен корнетом в Кавалергардский полк. В марте 1877 года произведен в поручики, а в 1880 году — в штабс-ротмистры. После окончания Николаевской академии Генерального штаба в мае 1881 года по первому разряду вернулся на строевую службу. С октября 1888 года в течение четырех лет командовал эскадроном императрицы в Кавалергардском полку. В апреле 1889 года произведен в ротмистры, а в апреле 1892 года — в полковники. С октября 1893 года состоял для поручений при военном министре для наблюдения за кавалерийскими частями. В июле 1896 года назначен командиром Крымского дивизиона, но в сентябре того же года переведен на должность командира 35-го драгунского Белгородского полка. В марте 1901 года произведен в генерал-майоры и назначен генералом для поручений при генерал-инспекторе кавалерии, а затем в течение трех лет командовал лейб-гвардии Конным полком. В июне 1904 г. назначен начальником штаба Гвардейского корпуса. С января 1907 состоял в Свите Е.И.В. В 1909 году произведен в генерал-лейтенанты, а в сентябре того же года назначен начальником Генерального штаба. 

В период его руководства Генеральным штабом в нем проводились реформы, начатые в рамках принятой в августе 1908 года программы военных преобразований, направленных на усовершенствование военной системы страны. В соответствии с новым положением, объявленным 1(14) октября 1910 года приказом по военному ведомству № 496, Главное управление Генерального штаба, вновь вошедшее к этому времени в состав Главного штаба, перешло на новую организационно-штатную структуру. При начальнике Генерального штаба был создан специальный комитет для обсуждения важнейших вопросов, имевших отношение к боевой готовности армии. В его ведение перешли офицеры Генерального штаба, несшие службу в войсках. Начальнику Генерального штаба были подчинены Николаевская академия Генерального штаба и Военно-топографическое училище. Однако Гернгросс, не имея серьезного опыта штабной работы, не пользовался большим авторитетом среди подчиненных и мало влиял на суть проводимых реформ. Работавший в то время в ГУГШ начальником мобилизационного отдела генерал А. С. Лукомский вспоминал: «Гернгросс … службы Генерального штаба совершенно не знал; с административными вопросами не был знаком… Он был хороший строевой начальник, безукоризненно порядочный и умный человек, но для должности начальника Генерального штаба он был совершенно не подготовлен». Освобожденный от должности в феврале 1911 года, генерал-лейтенант Е. А. Гернгросс числился в распоряжении военного министра.