С началом Русско–японской войны, определенный на службу на транспорт «Иртыш», вошедший впоследствии во 2–ю Тихоокеанскую эскадру адмирала 3. Рожественского, Гаральд Граф прибыл на Балтику. У берегов Либавы транспорт потерпел аварию, и пока чинился, корабли эскадры ушли далеко вперед. Часть снарядов, необходимых для боевых кораблей, сгрузили в Либавском порту, отправив их во Владивосток по железной дороге, а оставшиеся грузы — уголь, обувь, малокалиберные патроны и 30 тонн пироксилина — громадный и тихоходный «Иртыш», догнавший эскадру лишь у Мадагаскара, так и вез на себе до Цусимы.
Это было далеко не первое плавание юного мичмана, ибо еще в бытность гардемарином хаживал он в учебные плавания на судах «Моряк» и «Верный», и даже на крейсере 1–го ранга «Князь Пожарский».
Сражение у Цусимы — трагическое не только для флота, но и для всей России, окончилось для мичмана Графа сравнительно удачно. Из двадцати попавших в транспорт японских снарядов лишь один нанес фатальное разрушение, пробив борт ниже ватерлинии. Вода затопила около 10 отсеков, и, получив глубокую осадку, «Иртыш» в ночной мгле, отстав от эскадры, направился к японским берегам. На исходе дня 15 мая 1904 года он затонул у японского о. Хамада. Часть команды, среди которых оказался и наш герой, попала в плен к японцам, где и пробыла около семи месяцев.
После возвращения из плена — снова служба на Балтийском флоте, выезд во Францию, — для приема новых миноносцев, обучение в офицерском Минном классе, последовательное повышение в чинах, служба на миноносце «Трухминец», крейсерах «Аврора» и «Адмирал Макаров» и минном заградителе «Амур».
Биографы Графа сообщают о тесной дружбе, существовавшей между матерью лейтенанта Графа, шведской баронессой Софией Седеркрейц–Энгенштерн и великой княгиней Марией Павловной Старшей. Без сомнения, это весьма способствовало поступательной и устойчивой карьере молодого офицера, однако справедливости ради стоит отметить, что и две уже упоминавшиеся нами добродетели Гаральда Карловича — прилежание и усидчивость — способствовали продвижению в равной степени.
Отчасти приятельству двух дам способствовало и то, что старший сын великой княгини — великий князь Кирилл Владимирович также был морским офицером, участвовал в Русско–японской войне и чудом спасся после взрыва линкора «Петропавловск» на японской мине. Баронесса держала себя подчеркнуто скромно, всем существом подчеркивая безмерное уважение к члену августейшей династии — великой княгине, что особенно ценила трепетно относящаяся к чинопочитанию Мария Павловна, сама между тем не отказывавшая себе в удовольствии фрондировать перед государем и государыней, и даже создавшая целый прогерманский «салон», наподобие генеральши Богданович. Как бы то ни было, самого автора трудно уличить в германофильских настроениях или принадлежности к политике до поры, до времени. К началу войны 1914 года он, будучи уже примерным семьянином, отошел от тягот корабельной службы, полностью посвятив себя преподаванию в Николаевской военно- морской академии и Минной школе.
