Родился 1 декабря 1936 года в селе Куракино Сердобского района Пензенской области. На военной службе с 1954 года. Окончил Орловское танковое училище в 1957 году, Военную академию бронетанковых войск в 1970 году, Военную академию Генерального штаба в 1980 году. С декабря 1957 года И. Н. Родионов — командир танкового взвода, роты, заместитель командира танкового батальона, командир мотострелкового полка, а с мая 1975 года — командир мотострелковой дивизии. С июля 1980 года — командир армейского корпуса, с июня 1983 года — командующий 5-й армией. С апреля 1985-го по апрель 1986 командовал 40-й армией в Демократической Республике Афганистан (ДРА) и одновременно являлся Уполномоченным правительства СССР по делам временного пребывания советских войск в ДРА. С апреля 1988 года — командующий войсками Закавказского военного округа. С августа 1989 года — начальник Военной академии Генерального штаба. С июля 1996-го по май 1997  И. Н. Родионов — министр обороны Российской Федерации, член Совета обороны и Совета Безопасности Российской Федерации. В 1996 году Родионову присвоено звание генерала армии.