В ссылке Алябьев так же занялся сочинением военной и церковной музыки, оставшейся неизданною, как и прочие его сочинения, кроме романсов. Церковные сочинения Алябьева в церковно-певческую практику не вошли. Рукописи их хранятся в библиотеке московской консерватории.
Тюрьма и ссылка разрушили здоровье Алябьева, Ему угрожала полная слепота, и в 1831 году сестра его Екатерина, разделявшая с ним все невзгоды, просит сибирского губернатора И.А. Вельяминова перевести брата для лечения на Кавказ. С превеликим трудом было получено разрешение царя Николая I.
27 января 1832 года Алябьева отправили в Ставрополь в сопровождении казачьего урядника. Пока он ехал, Бенкендорф предписал командующему войсками Кавказской линии и Черномории А.А. Вельяминову, брату сибирского губернатора, «иметь за г. Алябьевым во время нахождения его в Кавказской области строгое наблюдение и, когда он окончит свое лечение, уведомить меня об образе его поведения». Вельяминов от брата уже заранее знал о приезде композитора и еще осенью 1831 года предупредил пятигорское начальство: скоро прибудет новый поднадзорный. Человек передовых взглядов, друг декабристов и А.П. Ермолова, А.А. Вельяминов отнесся к Алябьеву очень благожелательно и сочувственно его встретил.
Зиму Алябьев провел в Ставрополе. Только 5 июня 1832 года получил подорожную на проезд по Кавказскому тракту в Пятигорск. Поселился он в двухэтажном деревянном доме майорши Карабутовой. Это дом был построен в 1823 комендантом Моздокской крепости полковником Котыревым для собственного проживания и сдачи внаймы посетителям Кавказских Минеральных вод. После его смерти дом перешел по наследству его жене, во втором браке М.И. Карабутовой. В настоящее время этот дом является объектом Государственного музея-заповедника М.Ю. Лермонтова, памятником истории и культуры федерального значения.
В Пятигорске Алябьев встречается с прибывшей вслед за братом сестрой Екатериной и любимой им женщиной В.А. Офросимовой (до замужества Римской-Корсаковой), впоследствии ставшей его женой. «Пятигорск, 17 июля 1832 года» — эта дата стоит на рукописи романса «Тайна», сочиненного в те дин на слова А.Ф. Вельтмана и посвященного Е.А. Офросимовой.
Жандармы и здесь не забывают о своем «подопечном». В ведомости «о состоящих под надзором Пятигорской городской частной управы» значится имя бывшего подполковника Алябьева, прибывшего «для пользования глазной болезни на минеральных водах». Из этих же документов видно, что Алябьев 15 августа выехал из Пятигорска на Кислые Води и пробыл там целый месяц. С интересом изучал он самобытную музыкальную культуру Кавказа, Записывал и запоминал напевы горцев, жадно вслушивался в мелодии, исполняемые на кабузе.
