Морское ведомство одним из первых в «эпоху великих реформ» подверглось коренной реорганизации. Ломка прежней структуры началась уже в 1860 г. Одной из целей нового «главного начальника флота и морского ведомства» было продемонстрировать возможность управлять ведомством на новых, либеральных началах. Стремление убедить Александра II и его ближайшее окружение в чудодейственной силе реформ привело Константина Николаевича к необходимости дать слишком поспешное обещание, что бюджет его ведомства не превысит 16,5 млн рублей в год. Это привело к режиму строжайшей экономии, в результате осуществления которого флот резко сократился. Судостроение в должных объемах не велось. Центральный аппарат был полностью реорганизован, ГМШ — упразднен. Теперь во главе флота и морского ведомства стоял генерал-адмирал, которому непосредственно подчинялись главные командиры флотов и портов, центральное управление личным составом, а управляющий Морским министерством заведовал хозяйственной частью. Основными подразделениями министерства продолжали оставаться департаменты, самостоятельно распоряжавшиеся финансовыми средствами в пределах сметы. Портовые управления получили значительную хозяйственную самостоятельность. Кораблестроение оказалось поделено между двумя департаментами: Кораблестроительно-Техническим, занимавшимся проектированием кораблей (он унаследовал функции Пароходного комитета, созданного еще в 1842 г.), и Кораблестроительным, осуществлявшим надзор за ходом работ. Тогда это нововведение было оправдано, так как бурное развитие техники в отечественном флоте только начиналось, и необходимо было дать возможность немногим специалистам сосредоточиться на решении технических вопросов. В то время в России практически не существовало собственного производства паровых машин, броневой стали и многих других новинок, поэтому одной из главных функций офицеров Кораблестроительно-Технического департамента было наблюдение за исполнением заказов за границей, и в повседневной деятельности они не были тесно связаны с Кораблестроительным департаментом, наблюдавшим за судостроением в России.
К 1867–1869 гг. был приурочен новый этап реорганизации ведомства. Великий князь Константин Николаевич с 1865 г. занимал пост председателя Государственного совета, а в 1862–1863 гг. был наместником Царства Польского. Новые обязанности вызвали охлаждение к повседневным делам морского ведомства, и поэтому управляющий Морским министерством получил права министра с передачей ему функций руководства всеми центральными учреждениями, причем сам управляющий подчинялся генерал-адмиралу. Кроме того, стремление экономить во что бы то ни стало привело к упразднению большинства департаментов и объединению всех хозяйственных дел в Канцелярии Морского министерства, превратившейся в главный орган управления ведомством. Естественно, что справляться со своими обязанностями директор Канцелярии мог только до тех пор, пока флот был невелик. Кораблестроительно-Технический департамент был упразднен, а его функции переданы Морскому Техническому комитету, ставшему коллегиальным учреждением. Получившаяся в результате структура центрального управления морским ведомством получила впоследствии название
