В 1903 году, окончив математическое отделение физико-математического факультета Московского университета, Александр Гарсоев подал прошение о зачислении в Российский императорский флот. В августе 1904 года он был определен юнкером в 18-й столичный флотский экипаж. За полтора года освоил полный курс Морского корпуса и в 1905 году после сдачи экзамена произведен в мичманы.
В 1905–1908 годах проходил службу на различных кораблях: броненосной плавучей батарее, крейсере и миноносцах разных типов.
В 1909 году был послан учиться во Временном штурманском офицерском классе, по окончании которого произведен в штурманы 2 класса. В 1909 и 1910 годах служил на бронепалубном крейсере «Диана» и на новостроящемся броненосце «Андрей Первозванный», а в октябре 1910 года был направлен на учебу в Подводный офицерский класс Либавского учебного отряда подводного плавания. Через год Гарсоеву был вручен знак офицера подводного плавания и он получил назначение на должность помощника командира подводной лодки «Акула», а затем подлодки «Сиг».
Уже в декабре 1911 года стал командиром подвод ной лодки «Почтовый», а осенью 1912 года – подвод ной лодки «Минога».
В 1913–1914 годах Гарсоев служил на крейсере «Россия», в 1915 году прикомандирован к Морскому Главному штабу. В июле 1915 года был назначен командиром подводной лодки «Львица», участвовал в боевых походах на Балтике в годы Первой мировой войны. С 1916 по 1917 год служил в Штабе Воздушной Дивизии Балтийского моря. Произведен в капитаны 2 ранга.
После Октябрьской революции А. Н. Гарсоев перешел на сторону Советской власти. Был назначен военмором XI категории службы связи Балтийского моря. В 1918–1919 годах был начальником Учебного отряда подводного плавания Балтийского флота, занимался его возрождением после двукратной эвакуации из Либавы и из Ревеля.
В 1920 и 1921 годах служил начальником оперативного отдела штаба Черноморского флота, принимал участие в создании морских сил Азовского и Черного морей. В 1921 году был командиром на недостроенных лодках типа Барс «Вепрь» и «Форель» в Кронштадте.
В 1921–1922 годах – главный подводный специалист Штаба Морских Сил Республики (Штаморси). С 1922 по 1923 год – адъюнкт Военно-морской академии РККФ, а затем преподаватель и с 1924 года – профессор военно-морских наук академии. Создал кафедру по новой дисциплине – тактика подводных лодок. Одновременно Гарсоев становится членом Научно-технического комитета ВМФ, председателем секции подводного плавания НТК. С 1925 по 1926 год параллельно совмещал должность начальника отдела подводного плавания в Техническом управлении ВМФ. В декабре 1926 года Гарсоев был включен в состав специальной подкомиссии для составления наряда промышленности на строительство первых подводных лодок.
