Гучков, живя сначала в Германии, а затем во Франции, участвовал во многих общерусских съездах, часто ездил по странам, где проживали соотечественники, работал в Главном управлении зарубежного Российского общества Красного Креста. В начале 1930-х гг. он возглавил работу по координации помощи голодающим в СССР, постоянно и с обостренным вниманием изучал все сведения о положении на родине, отслеживал ситуацию в среде российской эмиграции, анализировал отношение ведущих политиков Запада к Советской власти. Вел активную переписку, публиковал многочисленные статьи, делал различные записи и справки по этим вопросам.
Известно, что разведслужбы СССР остро интересовались деятельностью Гучкова в эмиграции. Им удалось даже завербовать его дочь, Веру Трэйл. Александр Иванович узнал о том, что каждый его шаг становится известен советской разведке, только в 1932 г. Потрясенный этим, он тяжело заболел. Зимой 1935 г. его здоровье особенно ухудшилось, но ему было не до лечения. Только в конце года Гучков согласился пройти курс обследования. Врачи госпиталя Бусико определили у него рак кишечника. Он не испытывал сильных болей и поэтому не прекращал активной деятельности. Его даже перевели в частную лечебницу Мирабо, где был более свободный режим. Там Александр Иванович диктовал письма, говорил по телефону, общался с посетителями. Он даже ставил врачам условие: «Мне нужно иметь возможность работать. Это — мое условие. Существование без работы мне не нужно».
И в последние месяцы жизни Александр Иванович продолжал размышлять над вопросом: неотвратима ли была революция и гражданская война в России? Он считал, что избежать их было мало шансов из-за «слабого монарха» и подорванных моральных основ правящего сословия. Он писал воспоминания, но они так и остались незаконченными.
Гучков умер в Париже 14 февраля 1936 г., по словам П. Н. Милюкова, «одинокий, молчаливый, среди чужих и не вполне разгаданный». Заупокойная литургия состоялась в храме Александра Невского. На ней присутствовали практически все видные представители эмиграции, принадлежащие к разным, враждующим между собой партиям и объединениям. «Левые» и «правые» политики, военные, литераторы, деятели искусства, которые в другой обстановке не подавали друг другу руки, все пришли почтить его память. Тело знаменитого политика-предпринимателя было кремировано, а урна с прахом установлена в колумбарии на кладбище Пер-Лашез во французской столице.
