Родился 29 июля 1900 года в деревне Борисово Курганской области.

В Красной Армии служил с 1918 года. Участник Гражданской войны. После войны находился на партийно-политической работе. По окончании курсов усовершенствования высшего начсостава в 1929 году, военной школы в 1931 году, командовал полком, а после окончания в 1939 году Военной академии имени Фрунзе — дивизией, механизированными бригадой и корпусом.

 

С 1938 года входил в военный совет округа, был командующим армейской группой войск, армией, заместителем начальника Генштаба — начальником Главного разведывательного управления. В начале Великой Отечественной войны находился
на дипломатической работе, затем командовал армиями, фронтами,
был на военно-административной работе.

После войны занимал командные, политические и административные должности,
в 1958-1962 годах был начальником Главного политического управления Советской Армии и Военно-Морского Флота.

С мая 1962 года находился в группе Генеральных инспекторов МО СССР. В 1961 году присвоено звание Маршал Советского Союза. 

Награжден пятнадцатью орденами, многими медалями, Почетным оружием, а также иностранными орденами.

Филипп Иванович умер 29 июля 1980 года.