Родился в 19 февраля 1888 года в селе Высокое Глушковского района Курской области в крестьянской семье. 

В октябре 1911 года призван на военную службу и направлен в 5-й Заамурский кавалерийский полк. Участвовал в 1-й мировой войне на Западном и Румынском фронтах сначала рядовым, а затем унтер-офицером — командиром пулемётного взвода. В феврале 1918 года 5-й Заамурский кавалерийский полк, в котором служил Медведев, вошёл в состав регулярных частей Красной Армии.

В Гражданскую войну Медведев был начальником пулемётной команды, помощником командира и командиром 5-го Заамурского кавалерийского полка, командиром кавалерийской бригады 2-й кавалерийской дивизии им. Блинова. Участвовал в боях против добровольческих и белоказачьих войск на Дону, в Тамбовской и Саратовской губернии, под Царицыном, на Кубани, Северном Кавказе и в Крыму.

С августа 1924 года, после окончания Военной академии РККА, начальник и комиссар Крымской, затем Тверской кавалерийской школы, командир и комиссар 8-й отдельной кавалерийской Туркестанской бригады.

С декабря 1931 преподаватель Военно-воздушной академии им. Н. Е. Жуковского, а с января 1935 — старший преподаватель Военной академии моторизации и механизации РККА.

С июня 1937 года начальник автобронетанковых частей Ленинградского военного округа, а с апреля 1938 года — заместитель командующего войсками Северо-Кавказского военного округа. С мая 1939 года командующий войсками 11-й армии Белорусского Особого военного округа, принявшей участие в освободительном походе в Западную Белоруссию.

Генерал-лейтенант с июня 1940 года. С апреля 1941 года заместитель командующего войсками, а с января 1942 года по апрель 1944 года командующий войсками Сибирского военного округа.

С июля по ноябрь 1944 года состоял в распоряжении Военного совета 1-го Белорусского фронта, выполнял поручения, связанные с боевыми действиями войск в Белорусской операции. С ноября 1944 года и до конца войны командовал 17-м гвардейским стрелковым корпусом на 4-м Украинском фронте. Принимал участие в Западно-Карпатской, Моравско-Остравской и Пражской операциях.