Еще ребенком, в 1767 г., Барклай, подобно многим дворянам той поры, был зачислен на военную службу капралом в Новотроицкий кирасирский полк, которым командовал его дядя. Действительную службу Михаил начал через два года вахмистром Псковского карабинерного полка, который с 1776 г. квартировал в Прибалтике.
Через пару лет Барклая произвели в корнеты, потом в подпоручики, но первый офицерский чин – поручика – он получил только в 1786 г. Незнатное происхождение Барклая сказалось на его продвижении по службе, ему понадобилось более 20 лет, чтобы достигнуть чина полковника. Медленный рост в чинах Михаил Богданович старался компенсировать постоянным самообразованием. В 1786 г. он был переведен в Финляндский егерский корпус. Егеря в ту пору считались элитой, и отбор в них был крайне жесток – требовались только проворные и сметливые.
В 1788 г. Барклай был назначен адъютантом к генерал-поручику принцу Виктору Амадею Ангальт-Бернбургскому в чине капитана. Участвовал во Второй Русско-турецкой войне 1787—1791 гг., боевое крещение получил при штурме Очакова, показав «примерное мужество и хладнокровие». Тогда Михаил одним из первых ворвался в Стамбульские ворота крепости, за что был удостоен ордена Св. Владимира 4-й степени и очень престижного золотого Очаковского креста на георгиевской ленте. В 1789 г. секунд-майор Барклай-де-Толли состоял в отряде уже знаменитого казачьего полковника М. И. Платова, отличился в бою под Каушанами, при взятии Аккермана и Бендер.
На войне со шведами в 1788—1790-х гг. в условиях труднопроходимых финляндских топей Барклай проявил себя как способный самостоятельный командир. Судьба распорядилась так, что во время атаки на укрепленную деревню Керникоски, расположенную под Выборгом, был смертельно ранен (пушечным ядром ему оторвало обе ноги) благодетель Барклая принц Ангальт-Бернбургский. Умирая, он поручил Михаилу Богдановичу руководство войсками и подарил свою роскошную шпагу, с которой Барклай никогда не расставался. С нею он въехал в покоренный Париж; с нею же был похоронен. Войну со шведами Барклай закончил уже премьер-майором в Тобольском пехотном полку.
В 1791 г. Барклая перевели в Санкт-Петербургский гренадерский полк. На войне с польскими повстанцами Т. Костюшко в 1794 г. молодой командир показывает себя мастером маневра, отличился при взятии Вильны (ныне Вильнюс), при разгроме поляков у Гродно и при суворовском штурме предместья Варшавы – Праги. За что был награжден Георгием 4-й степени и произведен в подполковники.
