Родился 27 марта 1927 года в Баку в семье профессиональных музыкантов. В 1932 году семья переехала из Баку в Москву.
К 7 годам стал учеником музыкальной школы им. Гнесиных.
В 1941 г. семья была эвакуирована в Чкалов (Оренбург), где Мстислав учился в музыкальном училище (ныне Оренбургский государственный институт искусств им. Л. и М. Ростроповичей), в котором преподавал его отец. В 16 лет поступил в Московскую консерваторию.
В 1945 г. получил известность как виолончелист, выиграв золотую медаль III Всесоюзного конкурса музыкантов-исполнителей в Москве.
В 1955 г. на фестивале «Пражская весна» познакомился с известной оперной певицей Г. П. Вишневской, ставшей его женой.
Благодаря международным контрактам и гастрольным турам стал известен на Западе.
В 1962 г. на фестивале, посвящённом музыке Д. Шостаковича, впервые встал за дирижёрский пульт.
В течение 26 лет преподавал в Московской консерватории. С 1961 г. возглавил кафедру виолончели и контрабаса, с 1959 по 1974 г. — профессор.
Семь лет был педагогом Ленинградской консерватории.
С 1974 г., покинув СССР, стал одним из ведущих дирижёров Запада.
В 1978 г. супругов лишили советского гражданства, которое им вернули спустя двенадцать лет — в январе 1990 года. В 1977-1994 гг. возглавлял Национальный симфонический оркестр США в Вашингтоне.
Выступал в качестве дирижера и виолончелиста с лучшими оркестрами мира, среди которых такие известные коллективы как Лондонский симфонический оркестр, Венский Филармонический оркестр, Оркестр де Пари, оркестр Нью-Йоркской Филармонии, Чикагский Филармонический оркестр, Бостонский Филармонический оркестр, оркестр Берлинской Филармонии, Новый Японский Филармонический оркестр, оркестр Баварского Радио, Нидерландский королевский симфонический оркестр, Израильский Филармонический оркестр и другие.
Скончался 27 апреля 2007года в Москве.