После окончания гимназии он в конце 1875 г. поступил юнкером в Балтийский флот и три года учился в специальном юнкерском классе Морского корпуса, после чего в 1877 г. был произведен в гардемарины. В сентябре 1878 г. А.И. Вилькицкий был произведен в свой первый офицерский чин – мичмана. Блестящие аттестации, которые он получил за годы учебы и стажировки, способствовали тому, что вскоре он был зачислен в Николаевскую Морскую академию в Петербурге, которую так же блестяще окончил в 1880 г.
Уже тогда А.И. Вилькицкий увлекся гидрографией, но лишь через два года после окончания академии он смог добиться зачисления в облюбованный им гидрографический департамент. Сразу после зачисления в этот департамент, в 1882 г., Вилькицкого направили в Пулковскую астрономическую обсерваторию для прохождения специального трехлетнего курса астрономии и геодезии и геодезической практики. Вместе с офицерами геодезического отделения Николаевской академии Генерального штаба мичман Вилькицкий зимой изучал высшую геодезию и практическую астрономию, а в летние месяцы 1882–1885 гг., уже в чине лейтенанта, он работал начальником гидрографической и промерной партии на Балтийском море и в Онежском озере.
В своей работе он удачно применяет на практике ряд новых теоретических положений при описании берегов, проведении магнитных и других геофизических наблюдений. Его успехи были замечены, основательная астрономическая подготовка, полученная Вилькицким, привела к тому, что недавний слушатель академии стал в 1885 г. преподавателем в своей альма-матер. Эта деятельность Вилькицкого продолжалась более 20 лет, до 1908 г., когда обязанности начальника российской гидрографии не оставили ему больше времени для преподавания.
К середине 1880-х гг. относятся первые научные работы А.И. Вилькицкого, касающиеся производства гидрографических работ, приборов и методов, а также геофизических исследований. Проведенные им по поручению Императорского Российского географического общества определения силы тяжести в ряде пунктов Европейской и Азиатской России привлекли внимание специалистов. Они были выполнены столь тщательно, что в 1887 г. Российское географическое общество предложило молодому ученому возглавить первую в России Арктическую гидрографическую экспедицию и провести ряд исследований на Новой Земле. Морское же министерство дополнительно поручило ему уточнить географические координаты Архангельска. Так А.И. Вилькицкий впервые попадает в Арктику. В течение двух лет, в 1887–1889 гг., он производил гравиметрические измерения на Новой Земле, произвел измерения для определения ускорения силы тяжести с помощью маятника. В том же 1887 г., когда он доложил предварительные результаты своих научных исследований, географическое общество присудило Вилькицкому почетную награду – малую Золотую медаль, а после обработки материалов в 1891 г. его удостоили высшей награды – Золотой медали имени основателя общества графа Ф.П. Литке.
