В 1896 году произведенный в генералы от инфантерии Голицын снова оказался на Кавказе: в декабре этого года, после смерти С. А. Шереметева, он был назначен главноначальствующим Кавказской администрации, командующим войсками Кавказского военного округа и атаманом Кавказских казачьих войск. По его почину, в соответствии с законом от 12 июня 1903 года, были взяты под контроль правительства имущества армянских церквей. В том же 1903 году на Коджорском шоссе близ Тифлиса генерал Голицын был тяжело ранен в результате террористического акта, совершенного членами армянской социал-демократической партии «Гнчак».
За труды по управлению Кавказом награжден орденом Святого Владимира 1-й степени. В должности главноначальствующего Кавказской администрации Голицын пробыл до 1 января 1905 года, когда был назначен состоять при особе императора. После реформы Государственного совета (1906) Голицын остался его членом до своей смерти в 1907 году.
А теперь, после сухих фактов биографии Г. С. Голицына, дадим слово графу С. Ю. Витте, который дал оценку личностных и профессиональных качеств князя в своих «Воспоминаниях», – имея при этом в виду, что их отличал крайний субъективизм (цит. по: С. Ю. Витте. Воспоминания. В 3 т. Т. II, гл. 24, стр. 105–108).
«Вместо Шереметева 12 декабря был назначен князь Григорий Голицын, член Государственного совета, тот Голицын, которого мы в обществе называли Гри-Гри. Это был очень порядочный, воспитанный, весьма честный человек, но, как говорится, „с зайчиком“. И этот „зайчик“, который так свойствен русским деятелям известного закала, который так рельефно выражается ныне у крайне правых и националистов, в нем еще осложнялся тем, что мать князя Голицына была полька; он был воспитан своею матерью, а потому у него известного рода сумасбродство было соединено с мягкостью обращения, умением мягко стлать, что свойственно натуре поляка. В конце концов князь Голицын был человек весьма воспитанный, образованный, но крайне ограниченный, особенно для государственного деятеля.
Двойственность его характера делала то, что он не мог приобрести друзей в обществе и в толпе людей непосредственного характера, людей, которые действуют, как им Бог на душу положил, без различных политических уверток.
Я помню князя Голицына, когда он недалеко от Тифлиса (в Белом Ключе) командовал грузинским полком – в то время я еще был мальчиком.
Хотя князь Голицын был весьма корректным полковым командиром, но он не пробыл долго на Кавказе, потому что не мог внушить к себе в обществе кавказских прямодушных людей симпатии. Он был чересчур в своих действиях и мнениях тонок и дипломатичен для людей такого непосредственного характера, а поэтому и не оставил по себе в Тифлисе и вообще на Кавказе симпатичной памяти.
