В 1896 году он окончил гимназию и несколько лет по протекции знакомых отца служил весовщиком при портовых складах и магазинах. К работе этой Эдуард не питал никакого интереса: высокомерие опытных коллег его раздражало, а распущенность и хамство вечно пьяных грузчиков злили. Единственное, что ему нравилось в порту, так это нарядные пассажирские пароходы, веселая публика на них, музыка… и гудки, как бы зовущие к где-то существующей, неизменно светлой жизни. И молодой человек стал подумывать о профессии морского штурмана. В начале 1902 года, не достигнув и пятидесяти лет, от неожиданного желудочного кровоизлияния умер Розенбаум-старший, что в корне изменило планы сына на будущее. Между тем подходило время отбывать ему воинскую повинность, и в сложившейся ситуации он не смог придумать ничего лучшего, как поступить в том же году в Елизаветградское кавалерийское училище, что в Херсонской губернии. Учился он с желанием, и длиннополая шинель, сапоги со шпорами, шашка на боку — все это волновало воображение будущего кавалериста, но лошадь, выездка и прочее никак не давались ему; быть же посмешищем у тех своих товарищей, что будто бы родились в седле, он не хотел. На втором году учебы в училище он подал рапорт об увольнении, который беспрепятственно начальством был удовлетворен. Не желая ехать домой, к глубоко страдавшей от неудач сына матери, он, по совету ротмистра жандармерии Розмарицы, поступил зимой 1904 года вольноопределяющимся на службу в 11-ю артиллерийскую бригаду, которая дислоцировалась в небольшом городке Луцке. Тогда же состоялась и его вербовка в число царской охранки с получением задания «присматривать за неблагонадежными». Непосредственный начальник Розенбаума, командир 5-й батареи Сергей Владимирович Лукашевич, сумел заметить в нем служебное рвение, умение ладить с товарищами, и уже через год с небольшим он подал прошение вышестоящему командованию о переводе вольноопределяющего Розенбаума в прапорщики. Высочайший указ об этом был опубликован в специальном разделе военной газеты «Русский Инвалид» от 25 октября 1905 года. Этот номер газеты новоиспеченный прапорщик затем долгие годы хранил вместе с другими важными для себя документами. Что же касается агентурной деятельности Розенбаума в армейской среде, то она по разным причинам была тогда малорезультативной.
Революция 1905–1907 годов еще более укрепила в нем верноподданические чувства и желание служить в армии. Он дважды по рекомендации подполковника Лукашевича ездил в Петербург в Михайловское артиллерийское училище для сдачи экзамена на чин подпоручика артиллерии и дважды по иронии судьбы срезался там на экзамене по аналитической геометрии и механике, а готовиться к третьим испытаниям еще через год (как замечал позднее он) не было уже ни энергии, ни желания. В последний раз приезд из столицы в Луцк совпал с выходом в свет правительственного указа о том, что прапорщики могут оставаться в дальнейшем на военной службе с правом производства до чина штабс-капитана через каждые шесть лет. Этот указ Розенбаума в каком-то смысле удовлетворял. С 1905 по 1909 годы в чине прапорщика он служил еще около полугода в 11-й артбригаде, затем во второй запасной артбатарее и, наконец, в 6-м мортирном артдивизионе, который был расквартирован в Киеве. Отсюда по неизвестным причинам он уволился в запас и в сентябре 1909 года поступил на юридический факультет местного университета Святого Владимира.
