Розенбаум вернулся в дом к тестю, а через час или два сюда пришел флотский офицер и потребовал отправиться с ним в штаб. Офицер привел просителя на Фундуклеевскую улицу, где, как оказалось, находился штаб деникинской контрразведки. Не говоря Розенбауму ни худого, ни хорошего слова, он ввел его в комнату, где находилось множество (до сотни) людей, которые располагались как придется, так как здесь не было никакой мебели. Нашел себе место на полу и Розенбаум. Здесь, обманутый в своих надеждах, он пробыл до рассвета. В пять часов утра 23 августа 1919 года его вместе с другими людьми, находившимися в этом помещении, под конвоем повели в Лукьяновскую тюрьму. Там всех их поместили в камеры по 15–20 человек в каждую.
Через две недели этого сидения Розенбаум был вызван на допрос к прибывшему в тюрьму следователю Устругову. В ходе его последний сухо сказал задержанному, что командующий посчитал его сведения в рапорте неполными и неточными, имея в виду также место, куда Красная флотилия направлялась. Розенбауму, выразившему желание тут же в рапорте все уточнить и дополнить (как в устной, так и в письменной форме), следователь в резкой форме отказал, сославшись на занятость, и перенес допрос на следующий день. Этого следующего допроса Розенбаум уже не дождался ввиду резкого обострения военных действий. Под Киевом разворачивались бои между красными и белыми, и белые в конце концов вынуждены были отступить на Дарницу и Бровары. Всех арестованных из тюрьмы выпустили со словами: «Идите, куда хотите…». С горьким осадком на душе против добровольцев вышел из заключения Розенбаум; одно лишь радовало его самочувствие — справка с подписью какого-то деникинского чина и печатью. В справке было написано: «Предъявителю сего подпоручику фон Розенбаум Эдуарду Эдуардовичу разрешается свободное проживание во всех местностях, занятых частями Добровольческой армии».
Пробыв несколько дней в Киеве, Розенбаум в очередной раз вынужден был покидать его, направляясь на юг, в Одессу. Тая в душе обиду на добровольческое правительство, он твердо решил в армию не поступать, а зарегистрироваться «Резерве капитанов торгового, морского и речного флотов», штаб которого находился в Одесском порту на Платоновском молу, в помещении бывшей морской полиции. Заведующим этого резерва являлся в прошлом капитан парохода «Великая Княжна Ксения Александровна» Николай Николаевич Арсеньев, а его заместителем — капитан Василий Александрович Юков, которого Розенбаум знал еще с той поры, когда последний служил на пароходе «Владимир». При помощи Юкова удалось зарегистрироваться в капитанский резерв и получить соответствующий документ на право проживания в Одессе. Ну а дальше до получения места надо было как-то жить, и «капитан не у дел» ударился в коммерцию или, попросту говоря, в спекуляцию. А так как самым выгодным было спекулировать спиртом, то он этим и занялся.
