1 июля 1871 г. Витте был причислен чиновником к канцелярии Новороссийского и Бессарабского генерал-губернатора, а через два года назначен столоначальником. В управлении Одесской железной дороги, куда его определил на службу дядя, он на практике изучил железнодорожное дело, начав с самых низших ступеней, побывав в роли конторщика грузовой службы и даже помощника машиниста, но скоро, заняв должность начальника движения, превратился в крупного железнодорожного предпринимателя. В 1874 г. с упразднением Новороссийского и Бесарабского генерал-губернаторства Витте был «оставлен за штатом на общем основании», после чего состоял при Департаменте общих дел Министерства путей сообщения и в 1875 г. был произведен в титулярные советники. Однако в апреле 1877 г. он подал прошение об увольнении с государственной службы. После окончания русско-турецкой войны 1877–1878 гг. принадлежавшая казне Одесская дорога влилась в частное Общество Юго-Западных железных дорог, возглавлявшееся известным банкиром и железнодорожным дельцом И.С. Блиохом. Там Витте получил место начальника эксплуатационного отдела. Новое назначение потребовало переезда в Петербург.
В столице он прожил около двух лет. События 1 марта 1881 г., (убийство императора Александра II), оставившие заметный след в биографии Витте, застали его уже в Киеве.
Духовный мир молодого человека складывался под влиянием его дяди. Вдохновляемые князем Барятинским и шефом жандармов графом П.А. Шуваловым, Фадеев и его единомышленники в середине 1870-х годов выступили с программой преобразований, направленных против либеральных реформ 1860-х годов. Эту программу Фадеев развивал в книге «Русское общество в настоящем и будущем. Чем нам быть?» (СПб. 1874). Он обвинял Петра I в заимствовании западных идей, не прижившихся на русской почве. В русском дворянстве автор видел единственную силу («культурный слой»), способную противостоять наступлению нигилизма. Дворянство должно было стать полным хозяином и в системе местного управления, возглавив всесословную волость и взяв целиком в свои руки земство.
Участвовал ли Витте в политических дискуссиях середины 1870-х годов — неизвестно. Сохранились только сведения более позднего характера о его безусловном сочувствии программным сочинениям Фадеева. Нуждаются в проверке данные о том, что в те годы Витте выступал как публицист, печатая свои фельетоны в одесских газетах «Правда» и «Новороссийский телеграф» под псевдонимом «Зеленый попугай».
