Шмелев был нетерпелив, а служба в адвокатуре связана с постоянными ожиданиями — то клиента, то слушания дела, то решения и проч. К тому же ему не поручали серьезных дел; лишь однажды ему довелось вести солидное дело, которое он выиграл. Ожидание было невыносимым еще и потому, что постоянно не хватало денег. Кроме того, в самом адвокатском деле он видел какое-то лукавство. Адвокатуру он оставил и решил поработать в провинции.
С 1901 по 1907 год Шмелев служил чиновником по особым поручениям Владимирской казенной палаты, по сути являлся налоговым инспектором. Жили Шмелевы во Владимире, но по роду занятий он ездил по глубинке. Так он узнал уездную Россию, увидел деревенскую жизнь, наблюдал провинциальное чиновничество, мелкопоместное дворянство, фабричный народ. Из владимирской глухомани он вынес впечатления для рассказов «По спешному делу» (1907), «Гражданин Уклейкин» (1908), «В норе» (1909), «Под небом» (1910), «Патока» (1911). Сам он ничего тогда не писал, но, останавливаясь у народных учителей, лесничих, священников, фабрикантов, инспекторов, акцизников, многое читал из их домашних библиотек, а это были Д. Мамин-Сибиряк, П. Мельников-Печерский, Н. Лесков, А. Чехов, Вас. Немирович-Данченко, А. Амфитеатров, который привлек Шмелева своим языком — языком улиц, трактиров, трущоб, канцелярий, светских салонов.
После истории с книгой «На скалах Валаама» Шмелев восемь лет не брался за перо — «не исполнилась душа» («Первая книга»). В «Автобиографии» он вспоминал, как в августе 1905 года долго бродил по лесу, увидел журавлиный косяк, летящий к солнцу, подумал, что вот и осень надвигается, и вдруг почувствовал в себе желание переломить ход жизни. Вечером, в тот же день, ощутил потребность писать — и в один вечер создал рассказ «К солнцу» — душа «исполнилась». «К солнцу» — рассказ для сына. Шмелев отправил его в журнал «Детское чтение», где он и был опубликован в 1907 году. Потом появились «Служители правды», «Гассан и его Джедди» (1906), «В новую жизнь» (1907). Он писал для детей, писал о животных, птицах, о человеческой природе, склонной и к жестокости, и к состраданию, о бескорыстии и беззащитности зверя. Например, о беговой лошади, которая выигрывает приз ради своего жокея («Мэри», 1907). Или о раненом ястребе, к которому охотник испытывает жалость и которого он так и не смог спасти («Последний выстрел», 1908). Удивительно, что и с самим Шмелевым позже случилось похожая история: он, Ольга Александровна и сын жили у монастыря под Серпуховом, ястребы унесли его любимую, выведенную им в инкубаторе белую курочку, он принялся стрелять по ястребам — и далее события протекали точно так же, как в рассказе. Герой другого рассказа — ирландский сеттер, он раздражает пассажиров парохода, но вызывает их сострадание, оказавшись за бортом судна («Мой Марс», 1910).
