В 1961 году завершил обучение в Ленинградском химико-технологическом институте. После окончания Школы-студии МХАТ (курс В. П. Маркова) с 1965 года работал в московском театре «Современник». С 1977 года стал частью труппы МХАТ (с 1989 года имени А. П. Чехова), где сыграл множество значительных ролей.
Особое признание ему принесли роли в пьесах А. П. Чехова в постановках О. Н. Ефремова. Также А. В. Мягков выступил как режиссер, поставив несколько спектаклей во МХАТе.
В кинематографе дебютировал в 1965 году. Его актерской сутью стало воплощение внутреннего сопротивления спокойного интеллигентного человека жестокому миру и общественным штампам. Он олицетворял новый тип актера, избегающего ярких внешних преобразований, но ведущего с экрана доверительный диалог со зрителем. В 1975 году сыграл роль Жени Лукашина в телефильме «Ирония судьбы, или С легким паром!» (Государственная премия СССР, 1977).
Тема крушения личности и драмы советского интеллигента конца 1970-х – начала 1980-х годов нашла отражение в ряде фильмов с его участием. Также он создал запоминающиеся гротескные образы в комедиях, которые стали заметным явлением в кинематографе.
Андрей Мягков снялся во множестве других картин, а также участвовал в документальных проектах. В 2010 году по его роману был снят телесериал.
В 1976–1986 годах занимался преподаванием в Школе-студии МХАТ.
Был супругом актрисы А. В. Вознесенской.
Был награжден орденами Почета (1998), «За заслуги перед Отечеством» IV (2003) и III (2019) степеней, Дружбы (2013) и другими
