Родился 21 февраля (5 марта) 1904 г. в Санкт-Петербурге в семье токаря петербургского минно-торпедного завода «Леснер».
В 1919-1921 гг. служил в Красной Армии. В 1924г. окончил Ленинградский кооперативный техникум. По окончании был направлен в Сибирь, где работал в системе потребительской кооперации. В 1930 г. вернулся в Ленинград. Окончил Ленинградский текстильный институт (ныне Государственный университет технологии и дизайна).
С 1935 г. на инженерно-технических должностях, с 1937 г. директор Октябрьской прядильно-ткацкой фабрики.
В 1938 г. – заведующий промышленно-транспортным отделом Ленинградского обкома партии.
1938-1939 гг. – председатель Ленгорисполкома.
В 1939-1940 гг. – народный комиссар текстильной промышленности СССР.
С 1940 г. – заместитель председателя Совнаркома СССР и председателем Совета по товарам широкого потребления при этом же совнаркоме.
24 июня 1941 г. 1941 года назначен заместителем председателя Совета по эвакуации при СНК СССР.
1943-1946 гг. – заместитель председателя Совнаркома СССР и глава правительство РСФСР.
В 1948 г. – министр финансов СССР
В 1949-1953 гг. – министр легкой промышленности.
В 1953 г. – министр легкой и пищевой промышленности, в 1953-54 министр товаров широкого потребления, в 1956—57 1-й зам. председателя Госэкономкомиссии СМ СССР, в 1957 1-й зам. председателя, в 1959-60 председатель Госплана СССР.
С 1960 г. – 1-й зам. председателя Совета Министров СССР.
1964-1980 гг. – председатель Совета Министров СССР.
Восьмая пятилетка (1966—1969), которая прошла под знаком экономических реформ Косыгина, стала самой успешной в советской истории и получила название «золотой».
21 октября 1980 г. освобожден от работы на основании поданного заявления в связи с ухудшением состояния здоровья.
Скончался 18 декабря 1980 г., был кремирован, прах помещён в урне в Кремлевской стене на Красной площади в Москве.
Дважды Герой Социалистического Труда (1964, 1974).