В августе 1912 года Серебрянский был призван в армию. Вернее, как утверждают некоторые авторитетные историки, он ушел в армию добровольно, в качестве вольноопределяющегося. Службу Яков Серебрянский начал рядовым 122-го Тамбовского пехотного полка, дислоцировавшегося в Харькове.
В июле 1914 года в связи с началом Первой мировой войны рядовой Серебрянский был направлен в действующую армию на Западный фронт в составе 105-го Оренбургского пехотного полка. Однако служба в действующей армии для молодого человека длилась недолго.
Уже в начале августа 1914 года 105-й Оренбургский пехотный полк в составе 27-й пехотной дивизии 3-го армейского корпуса Первой русской армии принял участие в наступлении в Восточной Пруссии, закончившемся трагическим поражением русских войск — так называемой «Самсоновской катастрофой».
В самом начале Первой мировой войны русское военное командование, решив оказать помощь Франции, приступило к поспешному и совершенно неподготовленному наступлению в Восточной Пруссии. Предполагалось, что с востока в нее вступит Первая русская армия под командованием генерала Ренненкампфа, а с юга — Вторая русская армия во главе с генералом Самсоновым.
Историк А. А. Керсновский в книге «История русской армии» так описывает эти события: «1 августа, на 14-й день мобилизации, наша Первая армия генерала Ренненкампфа тронулась из районов своего сосредоточения к границе.
Справа шел не успевший закончить сосредоточения Двадцатый армейский корпус генерала Смирнова. В центре — Третий армейский корпус генерала Епанчина. На левом фланге, уступом позади, Четвертый армейский корпус генерала Алиева. Вся конница была собрана на флангах: 2-я кавалерийская дивизия Нахичеванского — на правом, 1-я кавалерийская дивизия генерала Гурко — на левом. Три же корпуса шли вперед вслепую. Тыл армии был еще совершенно неустроен.
Совершив три усиленных перехода без дорог, Первая армия с утра 4 августа стала переходить границу. Третий армейский корпус вступил в упорный бой у Сталлупенена с 1-м германским армейским корпусом генерала Франсуа, который в итоге поспешно отступил. <…>
Между Третьим корпусом и запоздавшим Четвертым образовался разрыв в 20 верст[2]. Генерал Епанчин не счел нужным предупредить об этом 27-ю пехотную дивизию, шедшую в обстановке полной безопасности слева. Дивизия подверглась внезапному огневому нападению и короткому удару, причем застигнутый врасплох 105-й пехотный Оренбургский полк был совершенно разгромлен».
