В конце 1859 года князь Голицын заболел. Обеспокоенная жена отвезла его для лечения в Монпелье, где в марте 1860 года он умер. Тело Михаила Александровича Голицына было перевезено в Италию и погребено на кладбище Кампо-Санто в Болонье рядом с могилой брата.
Переводчик Московского Главного архива Министерства иностранных дел («архивный юноша»), камер-юнкер, автор дневника с записями о Пушкине Владимир Алексеевич Муханов дал в своем дневнике такую характеристику Голицыну: «Неправильное воспитание сообщило ему направление, не вполне соответствующее его положению; преувеличенная склонность к чужеземному и по несчастию отчуждение от своей собственной страны… воспрепятствовали ему принести своему отечеству ту пользу, которую он бы мог… Просвещенный ум, доброе сердце, большая обходительность, старинная любезность сообщали большую прелесть сношениям с князем Голицыным… У князя были благородные вкусы: он любил картины, статуи, старинную мебель, но особенною страстью была у него любовь к старым книгам».
Что касается библиотеки князя Голицына, она находилась в Москве при его музее и представляла собой обширное собрание ценных книг разнообразного содержания, преимущественно исторического, на латинском, греческом, французском, немецком и итальянском языках, в том числе редчайшие инкунабулы и первопечатные издания, почти полное собрание альдов и эльзевиров, роскошные старинные книги, напечатанные на пергаменте, замечательные по изяществу переплетов книги (в частности, экземпляры из библиотек герцога Филиппа Орлеанского и маркизы Помпадур), редкие рукописи с миниатюрами. К М. А. Голицыну перешла и библиотека, оставшаяся после графа А. М. Дмитриева-Мамонова.
Несмотря на то что он плохо знал русский язык, Михаил Александрович Голицын живо интересовался отечественной литературой. А. О. Смирнова-Россет, фрейлина русского императорского двора, знакомая, друг и собеседник А. С. Пушкина, В. А. Жуковского, Н. В. Гоголя, М. Ю. Лермонтова, вспоминала, как в 1844 году Голицын вошел к ней в гостиную в тот момент, когда Николай Васильевич Гоголь читал там свою пьесу «Женитьба»; князь попросил позволения остаться, а затем горячо благодарил хозяйку за приятно проведенный вечер, сказав, что читал «Мертвые души» с восторгом, и теперь несказанно рад, что наконец увидел автора этого сочинения.
Единственным наследником Михаила Александровича был сын Сергей Михайлович (1843–1915), действительный статский советник, почетный попечитель и главный директор Голицынской больницы. Именно к нему после смерти отца перешли по наследству его музей и библиотека. В январе 1865 года Сергей Михайлович открыл Голицынский музей в своем доме на Волхонке, 14. «Санкт-Петербургские ведомости» по этому поводу писали: «Одним из самых утешительных событий в нашей Москве за последние годы было, конечно, открытие для всеобщего пользования музеев публичных, чертковского и голицынского, с их библиотеками. Надобно постоянно пользоваться этими сокровищами ума и изящного вкуса, чтобы узнать их. Теперешний, еще молодой князь С. М. Голицын, так же как и Г. А. Чертков, сделал самое великодушное употребление из своего наследства, открыв его для бесплатного общественного пользования и беспрестанно пополняя новыми приобретениями. Свободный доступ, учтивая прислуга, удобная расстановка предметов, радушная готовность директоров все показать, все объяснить делают посещение этих собраний самым приятным и назидательным препровождением времени для посетителей и возбуждают искреннюю признательность к учредителям. Голицынский музей имеет относительное преимущество перед чертковским в том, что первый из них заключает в себе образцы и образцы прекрасные, по всем отраслям наук и искусств. В них картины всех школ, античные скульптурные произведения из всех материалов, редкие издания. […] Это наглядный курс образования столь же незаменимый, сколько и необходимый для каждого порядочного человека. Пусть же родители и наставники чаще водят своих детей в голицынский музей, показывают им произведения искусств и исподволь направляют их вкус к тому, без чего жизнь или скука или бремя». Из-за финансовых трудностей в 1886 году С. М. Голицыну пришлось продать отцовские коллекции в казну за 800 тысяч рублей. При приеме библиотеки в ней оказалось 3276 названий (более 10 тысяч томов), из них часть (926 названий, 2959 томов) была передана в Публичную библиотеку, коллекция же музея оказалась в Эрмитаже.
