Разговор императора и канцлера затрагивал кардинальные вопросы управления страной. Замечание Вильгельма, что следует уменьшить военные кредиты, чтобы обеспечить утверждение их большинством рейхстага и избежать его роспуска, означало отказ от правительственной программы, с которой были связаны все планы Бисмарка. Казалось бы, ему следовало сразу уйти в отставку, но он все еще тянул время, отказываясь вместе с тем отменить приказ 1852 г., пока не дождался утром 17 марта прямого указания императора подать в отставку.
Вечером на заседании кабинета Бисмарк прочел заявление о причинах своего ухода. Они выглядели примерно так: отсутствие единодушия между министрами и отсутствие полного доверия к нему со стороны императора; ощущение, что он стоит на пути императора; официальное уведомление о желательности его отставки. При этом Бисмарк подчеркнул, что его отставка невыгодна для государственных интересов и что его здоровье в хорошем состоянии. Министры реагировали на это вяло, а император снова послал запрос, почему до сих пор не поступило прошение об отставке.
18 марта Бисмарк это прошение подал, и Вильгельм поспешил с ним расстаться. Уже вечером он сообщил на совещании генералов, что вынужден уволить канцлера. Бисмарк не успел еще получить ответ на свое прошение, как новый канцлер, генерал Лео фон Каприви, уже занял часть его служебной квартиры и этим вынудил его к поспешному выселению. Эту обиду Бисмарк помнил до конца своей жизни. Желая соблюсти приличие, император в двух посланиях 20 марта, в день официальной отставки канцлера, лицемерно выразив сожаление об уходе Бисмарка, возвел его в достоинство герцога Лауэнбургского и назначил «генерал-полковником кавалерии с рангом генерал-фельдмаршала». Бисмарк не хотел принимать герцогский титул и просил разрешения сохранить прежние имя и титул. До конца дней он, как и раньше, именовал себя только князем Бисмарком. В отставку ушел и Герберт Бисмарк.
Посетив гробницу Вильгельма I и попрощавшись 26 марта с императором, в субботу 29 марта Бисмарк покинул свою резиденцию и, сопровождаемый толпами поклонников, направился на вокзал, где его ждал почетный караул и военный оркестр. Смешавшись с толпой, вслед отходившему поезду приветственно махали многие важные лица. Бисмарк стоял у окна вагона. Император, конечно, отсутствовал, но о нем Бисмарку забыть не дали. В следующий вторник, когда под торжественную музыку оркестров в Фридрихсруэ он отмечал свое 75-летие, из дворца прибыл подарок, и Бисмарк с изумлением обнаружил, что для полного счастья ему не хватает только огромного портрета кайзера. Впервые в жизни он не нашелся что сказать.
