Следует отметить, что в 1946–1951 гг. органами МГБ было арестовано несколько десятков иностранных агентов, заброшенных с разведывательными заданиями в СССР, в том числе на территорию Украинской ССР, республик Прибалтики, привлечены к уголовной ответственности тысячи фашистских пособников, виновных в арестах, истязаниях и смерти советских патриотов, подпольщиков и партизан, гражданского населения.
В тоже время, будучи безгласным исполнителем указаний Сталина, Абакумов, конечно, не мог не понимать, что отдельные «особые поручения», например, содержащиеся в Указе Президиума Верховного Совета СССР от 21 февраля 1948 г. «О направлении особо опасных государственных преступников по отбытии наказания в ссылку на поселение в отдаленные местности СССР», являлись прямым нарушением принципов советского законодательства. Таковым же являлись и отдельные устные указания и приказы самого министра. Но его положение осложнялось также отсутствием как закона, так даже и положения о МГБ, в которых бы четко регламентировались его функции и полномочия, права министра и иных руководителей.
Достижение МГБ отдельных действительно положительных результатов в борьбе с разведывательно-подрывной деятельностью спецслужб иностранных государств, наверное, породили у Абакумова чувство чрезмерной самоуверенности, породив своеобразное, так хорошо знакомое Сталину «головокружение от успехов».
Причиной падения, казавшегося всемогущим, министра стал банальный донос на него одного из подчиненных, подполковника М. Д. Рюмина, писавшего 2 июля 1951 г.: «тов. Абакумов, по моим наблюдениям, имеет наклонности обманывать правительственные органы путем замалчивания серьезных недочетов в работе органов МГБ». Позднее к ним присоединилось еще и обвинение «в участии в сионистском заговоре в МГБ».
Обвинения Абакумову были аналогичны предъявлявшимся им самим шестью годами ранее Меркулову. Уместно подчеркнуть, что, по своему служебному положению, Рюмин не располагал доступом к документам, которые могли бы дать основания для подобных выводов.
Для рассмотрения заявления М. Д. Рюмина Политбюро ЦК ВКП(б) 4 июля 1951 г. назначило специальную комиссию в составе Г. М. Маленкова, Л. П. Берии, М. Ф. Шкирятова и С. Д. Игнатьева (именно он станет министром после падения Абакумова, а также непосредственным «куратором» первого этапа следствия по его делу).
В этот же день Абакумов был отстранен от исполнения обязанностей министра, а июля был арестован. За этим последовал также арест ряда «выдвиженцев» опального министра.
