Александр Терентьевич Карпов родился 4 (17) октября 1917 года в деревне Феленево (ныне Перемышльского района Калужской области) в крестьянской семье. В 1940 году окончил Качинскую военную авиационную школу. В числе группы лётчиков осваивал истребитель нового поколения И-26 (ЯК-1) .

На фронтах Великой Отечественной войны сражался с июля 1941 года. С сентября 1941 года воевал под Ленинградом, прикрывая легендарную Дорогу жизни.  В последних числах июля 1943 года в пяти боевых вылетах подряд старший лейтенант Карпов сбил семь вражеских самолетов.

28 сентября 1943 года за образцовое выполнение боевых заданий командования и проявленные при этом мужество и героизм Карпову Александру Терентьевичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали "Золотая Звезда" (№ 1202).

30 июня 1944 года гвардии капитан Карпов сбивает очередной самолёт противника, который было решено считать тысячным гитлеровским самолётом, сбитым на ЯКе в небе над Ленинградом. С этой знаменательной победой его поздравил телеграммой генеральный конструктор самолёта – Александр Сергеевич Яковлев.

22 августа 1944 года гвардии капитан Карпов Александр Терентьевич удостоен второй медали "Золотая Звезда". Он стал первым, а как оказалось в последствии, и единственным лётчиком ПВО, дважды удостоенным высшей степени отличия СССР.

Совершив 456 боевых вылетов, проведя 97 воздушных боёв, гвардии майор Карпов сбил лично 28 самолётов противника и 8 в групповых боях. 20 октября 1944 года он погиб при выполнении боевого задания .

Награждён орденом Ленина, тремя орденами Красного Знамени, орденом Александра Невского, медалями. 7 мая 1990 года удостоен посмертно звания "Почетный гражданин города Калуга".

Бронзовый бюст дважды Героя Советского Союза А. Т. Карпова установлен в городе Калуге, где ежегодно в октябре проводятся Дни его памяти, и где его имя носит профессиональное училище № 1.