Алексей Мерзляков родился 17 (28) марта 1778 года в небогатой купеческой семье в селе Николаевском Шадринского уезда Пермской губернии.
Его отец, Фёдор Алексеевич Мерзляков, научил сына читать, писать и считать. Особенную охоту к учению и отличные способности в мальчике первым заметил его дядя Алексей Алексеевич Мерзляков, служивший правителем канцелярии при тогдашнем генерал-губернаторе Пермской и Тобольской губерний А. А. Волкове. Он уговорил отпустить восьмилетнего мальчика в Пермь и позднее поступил в Пермское народное училище.
В возрасте 15 лет Мерзляков написал стихотворение «Ода на заключение мира со шведами», которое было отправлено императрице Екатерине II. Государыня приказала напечатать эту оду в издаваемом тогда при Академии журнале и повелела, чтобы Мерзляков по окончании курса наук в училище был отправлен для продолжения образования в Петербург или Москву.
Так, в 1793 году Алексей Фёдорович Мерзляков прибыл в Москву и был зачислен в гимназию при Московском университете, а через пять лет переведён студентом в Московский университет. В том же 1798 году из студентов он был переименован в бакалавры, а в следующем году был отмечен золотой медалью.
В 1804 году Мерзляков, переименованный из бакалавров в кандидаты, а с 10 февраля 1804 года — в магистры словесных наук, занял (и занимал до самой своей смерти) кафедру российского красноречия и поэзии словесного отделения Московского университета; в 1805 году получил степень доктора философии и звание адъюнкта; 23 января 1807 года избран экстраординарным профессором; 30 октября 1810 года утверждён ординарным профессором. В 1817/1818 уч. году стал первый раз деканом словесного отделения; затем постоянно был деканом с 1821 по 1828 год. Его учениками были Тютчев, Грибоедов, Лермонтов.
Алексей Фёдорович Мерзляков был действительным членом Общества любителей российской словесности при Московском университете, действительным членом Общества истории и древностей российских, Казанского и Ярославского обществ любителей российской словесности. Виленский университет избрал его в свои почётные члены. В 1818, 1820—1826 годах профессор Мерзляков служил цензором в Московском цензурном комитете.
В 1812 году Мерзляков открыл публичный курс словесности. Чтения имели большой успех. Он обладал даром импровизатора, чувством красоты языка, прекрасно излагал свои мысли. Его лекции посещали не одни только молодые любители словесности, но и знатнейшие особы столицы, видные литераторы, дамы. Зачастую, лекции кончались аплодисментами, или восторженные студенты выносили его на руках из аудитории. Не случайно, А.С. Грибоедов назвал учителя «великим златоустом».
Это был очень талантливый человек. Он знал пять языков, переводил с древнегреческого языка, писал стихи и романсы, занимался литературной критикой, стремился привить любовь к русской культуре.
Декабристы не раз вспоминали «своего замечательного профессора-словесника Мерзлякова», неизменно называя его «красотой университета».
Мерзляков написал много стихотворений, для своего времени замечательных; переводил произведения древних поэтов, греческих и римских: Феокрита, Софокла, Еврипида, Вергилия, Горация и проч. В 1815 издавал журнал «Амфион», в котором участвовали В.А. Жуковский, К.Н. Батюшков, кн. П.А. Вяземский, Денис Давыдов, кн. И. М. Долгоруков и др. Романсы Мерзлякова и в особенности его песни пользовались большим распространением в публике. В статье «Литературные мечтания» Белинский отдал справедливую дань литературным заслугам Мерзлякова и в первую очередь его песням: «…это был талант могучий, энергический: какое глубокое чувство, какая неизмеримая тоска в его песнях! как живо сочувствовал он в них русскому народу и как верно выразил в их поэтических звуках лирическую сторону его жизни!»
Последние годы жизни Мерзляков провел в бедности. Он тяжело и изнурительно болел. 26 июня 1830 года на празднестве 75-летнего юбилея Московского университета он, уже больной и слабый, читал свои стихи «Юбилей», а ровно через месяц, 26 июля (7 августа) 1830 года, в возрасте 52 лет он скончался от холеры на своей даче в Сокольниках.
29 июля тело его предано было земле на Ваганьковском кладбище, где признательные ученики соорудили на могиле его памятник. Выражая свою любовь к учителю, студенты несли гроб на руках от Сокольников до Ваганькова.
В нашем городе одна из библиотек носит славное имя нашего земляка. Это библиотека-филиал № 7, расположенная в северо-восточном поселке по ул. Автомобилистов.