В этот же год были учреждены особые временные генерал-губернаторы с почти безграничными полномочиями для искоренения в государстве терроризма, проявившегося во многих частях Империи рядом преступных действий. Лорис-Меликов в апреле 1879 года был назначен временным генерал-губернатором Харьковской губернии, где незадолго перед этим был убит губернатор князь Д. Н. Кропоткин; он стал и командующим войсками Харьковского военного округа. Исполняя обязанности харьковского генерал-губернатора, Он не прибегал к огульным репрессиям, за что население стало к нему относиться очень хорошо, а народовольцы даже не включили его в список генерал-губернаторов, которым они вынесли смертные приговоры.
В начале 1880 года, вскоре после взрыва в Зимнем дворце 5 февраля 1880 года, Лорис-Меликов был вызван в Петербург для обсуждения вопроса о мерах для борьбы с революционным движением. 14 февраля 1880 года он был назначен Главным начальником Верховной распорядительной комиссии, которая была наделена обширными полномочиями; с 3 марта – временным начальником III Отделения Собственной Его Императорского Величества канцелярии. Лорис-Меликов отправил в разные области империи сенатские ревизии. Итогом их деятельности стало резкое уменьшение количества политических дел на местах. А по материалам ревизий он заключил, что главной причиной общественного недовольства стала незавершённость Великих реформ. Это касалось и крестьянского малоземелья, и разорительных для их хозяйств выкупных платежей, и недопущения представителей общества к решению государственных вопросов.
Свою важнейшую задачу Лорис-Меликов видел в усилении репрессий по отношению к революционерам, для чего он считал необходимым объединить жандармо-полицейские и судебные органы; ускорить производство дел по политическим преступлениям; пересмотреть существующую организацию административной ссылки и политического надзора. Одной из мер по усилению политического сыска стала организация постоянной заграничной агентуры.
20 февраля 1880 года И. О. Молодецкий совершил на него неудачное покушение.
Одновременно Лорис-Меликов предложил императору свою программу усовершенствования административной системы государства и изменения социально-экономической политики. Он занимался и вопросами печати, сделав отношение к ней более либеральным. Появились как либеральные газеты и журналы, так и славянофильские.
В конце августа 1880 года граф Лорис-Меликов был назначен министром внутренних дел. К началу 1881 года он подготовил план привлечения общественности к законотворчеству путём созыва представительного органа с законосовещательными полномочиями. Этот план был назван «Конституцией Лорис-Меликова» и был представлен императору Александру II в конце января 1881 года. Тот ее одобрил буквально за несколько дней до гибели.
