В 1902-1908 году управляющий Московским учетным банком, член советов Петербургского учетного и ссудного банков, страхового общества «Россия», товарищества Суворина «Новое время». В 1905 году участвовал в земских и городских съездах. В октябре 1905 года участвовал в переговорах с Витте о создании «конституционного кабинета». В ноябре – декабре этого же года присутствовал
на Царскосельских совещаниях, где обсуждалось будущее избирательное законодательство. 

В июле 1906 года Столыпин предложил Гучкову (наряду с Гейденом, Кони,  Львовым) войти в состав формировавшегося правительства в качестве министра торговли
и промышленности. 17 июля 1906 Александр Иванович писал жене: «В день приезда
я был у Столыпина, который заявил мне, что имеется намерение обновить министерство, что первое имя, на котором он остановился, было мое имя, что когда
он назвал меня государю, то и он сказал, что хотел бы назвать именно меня». Обусловил свое согласие принятием Советом министров определенной программы реформ и большим числом министерских портфелей, предоставляемых общественным деятелям. Столыпин был готов пойти на уступки, однако испытывал сильное давление со стороны императора и его ближайшего окружения, не готового согласиться
на формирование правительства с участием представителей либеральной общественности, что предопределило неудачу переговоров. Кроме того, в ходе личной беседы Гучкова и Львова с Николаем II стало ясно, что император не готов
на принципиальное изменение политического курса, что лишало смысла участие общественных деятелей в правительстве. В итоге Гучкову пришлось отказаться
от предложения, тем не менее, он последовательно поддерживал курс нового председателя Совета министров. Вместе с тем уже тогда у Александра Ивановича сформировалось представление об обреченности существовавшего порядка. 4 августа 1906 года он писал жене: «Так тяжело на душе, что и сказать нельзя. Петербургские или вернее Петергофские впечатления совсем доконали меня. Никакого просвета, никакой надежды в ближайшем будущем. Мы идем навстречу еще более тяжелым потрясениям. И что еще вносит некоторое примирительное чувство, так это сознание, что невинных нет, что все жертвы готовящейся катастрофы несут в себе свою вину, что совершается великий акт исторической справедливости. Действительно, жаль отдельных лиц,
до боли жаль, но не жаль всю совокупность этих лиц, целые классы, весь строй…
И тогда хочется просто отойти в сторону».

В августе 1906 года в отличие от многих представителей либеральной общественности поддержал введение военно-полевых судов, считая, что эта мера необходима для установления правового порядка в стране. В декабре 1906 года участвовал в создании газеты «Голос Москвы». 

С мая по октябрь 1907 года член Государственного совета. Настаивал
на необходимости роспуска II Думы, как и всех последующих ее созывов, пока
не сформируется дееспособное большинство, готовое к конструктивному диалогу
с правительством. 8 июня 1907 года, реагируя на правительственные решения 3 июня, Гучков наставлял своих однопартийцев: «Мы должны признать роспуск Государственной думы актом государственной необходимости. Но мы не можем приветствовать его и радоваться, как это делают наши соседи справа, потому что считаем большим несчастьем для страны, что правительство и монарх вынуждены были прибегнуть к акту 3 июня, который является переворотом. С другой стороны, печально, что этот акт является необходимостью».

С октября 1907 года депутат III Государственной думы от города Москвы. Возглавил фракцию «Союза 17 октября». Будучи председателем комиссии по государственной обороне, неоднократно выступал в Думе по вопросам армии и военно-морского флота с резкой критикой высшего военного командования России. 

На пленарном заседании 27 мая 1908 года выступил против доминирования великих князей в системе военного управления страны: «Отношения их к другим равноправным инстанциям военного управления, отношение их к своим начальникам, несомненно, носят на себе отпечаток их общественного положения и связанной с ним фактической безответственности». Регулярно получал поддержку Столыпина в своих конфликтах
с военным и морским министрами, которым после беседы с главой правительства приходилось договариваться с думским большинством. Вместе со Столыпиным подготовил раскол среди правых депутатов, способствовал созданию фракции националистов. 

В 1910 -1911 годах председатель Думы. Сложил с себя полномочия председателя
в связи с проведением закона о земстве в шести губерниях Западного края
в чрезвычайно-указном порядке. Настаивал на необходимости голосовать против этого законопроекта, тем самым подчеркивая свое неприятие незаконных действий правительства. Однако, не нашел поддержки среди большинства октябристов.
Тем не менее, не желая лично участвовать в нападках на Столыпина при обсуждении запросов о применении 87 ст. Основных законов, вскоре отправился на Дальний Восток. В апреле – мае 1911 года он представитель Российского общества Красного Креста в Маньчжурии для борьбы с эпидемией чумы в русских колониях. Встречался
в Петербурге с Столыпиным за несколько дней до гибели последнего. Они беседовали о ближайшем окружении императора, которое, по мнению Столыпина, дискредитировало личность царя и подрывало основы порядка в России. В связи
с фактом убийства Столыпина настаивал на необходимости проведения объективного следствия, заявлял, что «если свет не будет пролит до дна, то надо признать, что “власть есть обреченная власть”». Осенью 1911 года ГУчков занял настороженную позицию
в отношении к правительству Коковцова. 

Существует информация, что Гучков лично занимался распространением попавших
в его руки через Илиодора четырёх или пяти писем (возможно, поддельных) — одно императрицы Александры Федоровны, остальные от великих княжен, к Распутину. Переписка множилась на гектографе и распространялась в виде копий
как агитационный материал против царя. Царь, разобравшись, поручил военному министру Сухомлинову передать Гучкову, что он подлец.

В 1912 году Гучков выступил с речью, в которой содержались крайне резкие нападки на Распутина (после этого Гучков стал личным врагом императрицы Александры Фёдоровны).

9 ноября 1914 года  Александр Иванович писал брату Федору: «Дела идут наружно складно. Но все же объединяющей души у нас нет. Несмотря на хорошие слова, доверия у многих к премьеру нет. Хотелось бы, чтобы они ошиблись. И лично у меня нет ни веры, ни охоты работать». 

Во время избирательной кампании в IV Государственную думу встал в оппозицию
к действующей власти. Считал необходимым заключать предвыборные соглашения
с кадетами. «Очередной противник – не кадет, а правый, или вернее тот сервильный человек, который ползет в Думу под благословением «батюшек»», - писал он 14 сентября 1912 года. 

В 1912 году проиграл выборы по Москве. С 1914 года с начала Первой мировой войны особоуполномоченный Российского общества Красного Креста на фронте. 

В июле 1915 года возглавил Центральный военно-промышленный комитет. Входил
в Особое совещание для обсуждения и объединения мероприятий по обороне государства. 

С сентября 1915 года член Государственного совета. Входил в Прогрессивный блок.
Вел переговоры среди общественных деятелей и офицеров о возможности дворцового переворота и создании ответственного правительства. Настаивал на необходимости активных действий со стороны оппозиций, так как, по его мнению, в будущем политическая инициатива должна была принадлежать той силе, которая бы сыграла решающую роль в свержении прежнего режима. 

2 марта 1917 как представитель Временного комитета Государственной думы вместе
в Шульгиным принял отречение Николая II от престола.

В марте – апреле 1917 года военный и морской министр в составе Временного правительства. В мае 1917 года возглавил «Общество экономического возрождения России». 

В августе 1917 года член Государственного совещания. В сентябре 1917 года член Временного совета Российской республики (Предпарламента). Участвовал
в финансировании Добровольческой армии. 

Весной 1919 года вел переговоры с Пуанкаре и  Черчиллем о поддержке Белого движения. 

В августе 1920 года приезжал в Крым для переговоров с Врангелем. 

В эмиграции жил в Берлине, затем в Париже. В 1921-1923 годах председатель Русского парламентского комитета в Париже. 

С июля 1921 года член Национального комитета. В 1922-1923 годах выступил одним из инициаторов военного переворота в Болгарии, в котором ключевую роль сыграли части Русской армии. 

Умер от рака кишечника. Похоронен на кладбище Пер-Лашез в Париже.