Родился 23 августа 1934 г. в селе Большая Черниговка Куйбышевской области (ныне – Самарская область) в семье рабочего.
В 1956 г. окончил Куйбышевский институт нефти и газа по специальности "эксплуатация нефтяных и газовых месторождений".
В 1957-1963 гг. работал на предприятиях нефтегазодобывающего комплекса, занимал должности от оператора нефтяной установки до начальника участка.
В 1963 г. стал директором строящихся установок комплексной подготовки нефти, затем работал директором нефтестабилизационного завода, заместителем начальника по добыче и подготовке нефти управления "Богатовскнефть".
В 1971 году был назначен начальником управления «Оренбурггаздобыча».
В 1973 году познакомился с В.С. Черномырдиным, только что назначенным директором Оренбургского газоперерабатывающего завода.
В 1976-1978 гг. – директор ПО "Оренбурггаздобыча".
В 1978-1982 гг.– главный инженер ВПО "Оренбурггазпром".
В 1983 г. – заместитель Министра газовой промышленности СССР и начальник объединения «Тюменьгазпром».
27 мая 1986 г.– первый заместитель министра газовой промышленности СССР В.С.Черномырдина. Вместе они сумели убедить Совет министров СССР создать на базе Мингазпрома Государственный газовый концерн «Газпром» (позднее РАО «Газпром»). В новой структуре Вяхирев становится первым заместителем председателя правления.
С 1992 г. после ухода Черномырдина на работу в правительство РФ, становится председателем правления концерна, затем Российского акционерного общества (РАО) «Газпром».
В 1995-2000 гг. – член Совета движения «Наш дом — Россия».
В 2001 г. после отставки с поста председателя правления "Газпрома" был избран председателем совета директоров "Газпрома".
В 2001-2002 гг. – президент некоммерческого партнерства "Российское газовое общество".
В июне 2002 г. был назначен советником Дмитрия Медведева, который тогда занимал пост первого заместителя руководителя администрации президента России.
Скончался 11 февраля 2013 г. у себя на даче в Подмосковье.