Ровесники его уважали за никогда не слабеющую твердость и любили, потому что он был добрый человек, верный друг, честный товарищ, активно благожелательный во всех случаях жизни. В личных же интересах он всегда был уступчив, ставил себя на последний план. Будучи превосходным учеником по занятиям, Федор отнюдь не принадлежал к типу «примерных», никогда не старался отличиться перед раздавателями благ. В поведении он всегда являл самостоятельность и перед начальством, которое его даже побаивалось, и перед товарищами. Нравственная смелость бессменно проникала во все его поступки.
В своем доме после смерти отца он стал авторитетом. Проявлял он в семье не одну любовь и неослабное сыновнее и братское внимание, но оказывался способен на решительное приятие страдания, когда того требовало благо близких. «Уже тогда Федор держался теории, что человеку должно твердо переносить не одну нравственную, но и физическую боль, и он осуществлял ее суровою практикою над собой. Вообще в ту пору, и в последующую, он проявлял своеобразную склонность к юношескому аскетизму или стоицизму. Если чего-нибудь очень хочется из радостей жизни, значит, нельзя; и он умел, следуя такому велению — отказаться от многого. То было, может быть, наивное, но крепкое обострение моральной строгости, которою проникнута была его благородная душа».
Оба брата были необычайно дружны. Их соединяли действительно братские отношения, хотя они мало были похожи характерами. Федор был на год с небольшим старше Сергея. «Последний проявлялся более блестяще, более агрессивно импонировал. Первый представлялся смирнее, тише и мягче. Младший иногда принимал даже тон старшего, на что тот реагировал как на должное, и выходило это мило и просто. Но в Федоре чувствовалась подлинная оригинальность и редкая глубина, которая вручала ему на деле определяющую роль. Происходило это не в силу властолюбивой воли, а благодаря могуществу большого, большого ума, который давал ему такое положение. Многие из находившихся в сфере влияния его молодого гения не отдавали себе отчета в наличности такого преобладания, потому что в нем не сказывалось никакого гнета. То был мягко светящий луч, и он не замечался, как привычное благо, как доброе здоровье».
Сергей Федорович Ольденбург имел в кружке репутацию главного проводника идеологии. Он вдохновлял и горячо поддерживал тех, кто поднимал новый вопрос или высказывал мысль, был строителем, двигателем и убежденным агитатором открываемой истины. Обладая открытою экспансивностью, он мог увлеченно и легко заражать проектами и идеями остальных товарищей. «В близких друзьях он превозносил от всего сердца их лучшие качества. Он охотно искал, легко находил — добрые свойства, видные таланты и в более дальних, с радостью приветствовал во всех выраставшее благо. Общий след Сергея Ольденбурга, несмотря на кипучую живость, был несколько отвлеченный, и любимые идеи часто принимали у него вид поспешных схематических афоризмов, лишенных иногда настоящей глубины и жизненной гибкости, но и их одухотворял юношеский энтузиазм. Самоуверенность его облекалась в цвет милой молодой веры, которая привлекала головы и покоряла сердца. Благодаря всему этому и специально благодаря свободной выразительности его речи, симпатичной и приветливой благожелательности он являлся в кружке одним из виднейших «лидеров» и сильнейших органов лучеиспускания его идей. И знакомились с ним всего быстрее, и нас узнавали через него… Для всех нас Сергей был прекрасным ферментом начал добра», — писал И. М. Гревс, вспоминая свои годы юности
