Б. П. Шереметев родился в семье боярина и киевского воеводы Петра Васильевича Шереметева. Как представитель знатного рода, Борис Шереметев в 1669 г. начал свою службу при дворе. В чине стольника он сопровождал царя Алексея Михайловича в поездках по монастырям и подмосковным селам, стоял рындой у трона на торжественных приемах.
В 1679 г. для Шереметева началась военная служба. Он был назначен товарищем воеводы в Большой полк, а через два года — воеводой одного из разрядов. С восшествием на престол в 1682 г. царей Иоанна и Петра Алексеевичей был пожалован в бояре. Боярский чин открыл перед ним возможность широкого участия в высшем государственном управлении, главным образом в качестве члена Боярской думы. В марте 1686 г. в Москве начались переговоры с польским посольством о заключении военного союза против турок, и Шереметев был одним из тех, кто их вел. В результате переговоров за Россией был окончательно закреплен Киев, и эта большая победа русской дипломатии принесла Борису Петровичу чин ближнего боярина и вятского наместника. Позднее он был отправлен с русским посольством в Польшу для ратификации договора, а затем в Вену к императору Леопольду I с сообщением об этом союзе.
Дипломатические поручения были, однако, только эпизодами в жизни Шереметева. Настоящим поприщем, на котором он приобрел известность, стало военное дело. По возвращении из посольства он получил должность воеводы в Белгороде, в обязанности которого входила защита южных рубежей от татарских набегов, а в следующем, 1688 г. принял участие в Крымском походе князя В. В. Голицына. Первый боевой опыт будущего фельдмаршала оказался неудачным. В сражениях в Черной и Зеленой долинах отряд под его командованием был смят татарами, хотя сам он проявил личную храбрость.
В борьбе придворных группировок за власть Шереметев без колебаний стал на сторону Петра в его борьбе с сестрой Софьей, но еще в течение почти восьми лет, до 1695 г., он так и оставался белгородским воеводой.
Петр I, отправляясь в Азовский поход, поручил Шереметеву сформировать 120-тысячную армию, которая должна была отправиться к низовьям Днепра и сковать действия крымских татар. В первый год войны, после четырехдневной осады, ему сдался укрепленный турецкий городок Кизы-Кермень на Днепре, после чего турки оставили еще три таких городка. Но до Крыма Шереметев не дошел и вернулся с войсками на Украину, хотя почти все татарское войско в это время находилось под Азовом. С окончанием Азовских походов Борис Петрович по указу Петра вновь вернулся в Белгород.
