Родился в семье тобольского губернатора 15 августа 1787 года. Спустя 9 лет семья  Алябьевых переехала в Петербург, а в 1804 – в Москву. С юных лет Александр проявлял  творческую одаренность. Первые его произведения были изданы в 1810 году.

При вторжении войск Наполеона в Россию, в 1812 году добровольцем поступил на военную службу в гусарский полк. Служил под командованием поэта-партизана Дениса Давыдова и  участвовал во многих сражениях. 

Вместе с русской армией Алябьев дошел до Парижа. Был ранен и награжден орденами за боевые заслуги. После войны поселился в Петербурге. Здесь сблизился с кружком литературных и  театральных деятелей (А. С. Грибоедовым, Н. И. Хмельницким, А. А. Шаховским, И. И.  Сосницким, писателелями-декабристами А. А. Бестужевым и П. А. Мухановым,  композитором А. Н. Верстовским). С 1823 года жил в Москве и принимал деятельное  участие в театральной жизни. Вместе с Верстовским и Ф. Е. Шольцем Алябьев написал музыку пролога «Торжество муз» к открытию Большого театра в 1825 году. Создал музыку к ряду водевилей,  выступал в любительских концертах. 

В начале того же 1825 года композитор был арестован как подозреваемый в убийстве  помещика Тимофея Времева. Несмотря на недоказанность обвинения, был приговорен к  ссылке в Сибирь с лишением всех прав, орденов и дворянского звания. Вероятно, что  причиной сурового приговора послужила близость Алябьева к декабристским кругам. Все   ходатайства о смягчении участи композитора Николаем I были отклонены.

После 3 лет заключения в крепости Алябьев был направлен в Тобольск, где организовал  симфонический оркестр «казачьей музыки». Также он руководил симфоническими и  хоровыми концертами, выступал как дирижер и пианист. Именно тогда были созданы  многие из лучших романсов Алябьева  «Иртыш», «Зимняя дорога»,  «Вечерний звон», «Два  ворона».  В 1832 году Алябьеву разрешают выехать на Кавказ для лечения. Там он пишет романсы,  изданные под общим заголовком «Кавказский певец». Записывает и гармонизирует песни народов Кавказа, киргизов, башкир, туркменов, татар и использует их в своем творчестве. 

В 1833-34 гг. живет в Оренбурге, затем в Московской губернии. В 1834 г. совместно с  украинским литератором и фольклористом Максимовичем издает сборник «Голоса  украинских песен».

Лишь в 1843 году Алябьев получил разрешение жить в Москве под надзором полиции. Он  снова входит в театральную среду, пишет музыку к драматическим спектаклям. Тяжело  больной, Алябьев до конца жизни не оставлял творческой работы. К числу его последних  произведений относятся песни на слова поэта-демократа Николая Огарева. Наследие композитора представлено практически всеми жанрами, но центральное место  занимает вокальная лирика – более 180 песен и романсов. Самый известный его романс «Соловей» был написан на стихи Дельвига. Алябьев писал романсы на стихи Жуковского, Давыдова, Козлова, Вяземского, Лермонтова, Кольцова. На стихи Пушкина были им  созданы 22 романса, из них 15 при жизни поэта.

Умер композитор в Москве в 1851 году. Похоронен в Симоновом монастыре в  усыпальнице Алябьевых. Сегодня его имя носит ежегодный фестиваль исполнителей,  проходящий в Тюмени и Тобольске – Алябьевская музыкальная осень.