Родился 1 января 1948 года в Тульской области. На военной службе с 1965 года. Окончил Рязанское высшее воздушно-десантное командное училище в 1969 году, Военную академию им. М.В. Фрунзе в 1981 году, Военную академию Генерального штаба в 1990 году. С сентября 1969 года П.С. Грачев — командир разведывательного взвода и роты курсантов Рязанского воздушно-десантного училища, командир учебного парашютно-десантного батальона. С 1981 года — заместитель командира, а с июля 1982 года — командир отдельного гвардейского парашютно-десантного полка в Афганистане. С июня 1983 года — начальник штаба гвардейской воздушно-десантной дивизии. В 1985–1988 годы — командир гвардейской воздушно-десантной дивизии в Афганистане. С июня 1990 года — первый заместитель командующего, а с декабря 1990 года — командующий Воздушно-десантными войсками. С августа по декабрь 1991 года — первый заместитель министра обороны СССР. В 1992 году Грачеву присвоено звание генерала армии. С января 1992 года — первый заместитель Главнокомандующего Вооруженными Силами Содружества Независимых Государств, с апреля — первый заместитель министра обороны РФ. С мая 1992-го по июнь 1996 года — министр обороны Российской Федерации. На этом посту сформировал Министерство обороны РФ, подготавливал реформы в Вооруженных Силах в соответствии с указаниями Верховного Главнокомандующего — президента Российской Федерации.