Обретя многочисленные связи в Петербурге и опыт успешного книгоиздания (ряд польских книг Вольф печатал в Париже, здесь уже налаживая типографские связи, которые с успехом в широком масштабе применит позднее), в 1853 г. он открывает свой собственный книжный магазин, поместившийся в Гостином дворе. Одновременно с заведением теперь уже собственной книготорговли, Вольф выходит на русскоязычный книжный рынок, к 1860-м сделавшись одной из основных фигур на нем, сумев создать полноценное универсальное книжное издательство. Незадолго до смерти он вспоминал:
«Говорят […], что мне посчастливилось. […] Но, повторяю, я никогда не действовал очертя голову. Я намечал себе план, и шел к цели по этому плану осторожно, упорно, сказав себе твердо, что только постепенными, осторожными, равномерными шагами я могу чего-нибудь добиться… О быстром обогащении, о крупной наживе на каком-нибудь издании я никогда не думал. Соблазнительные случаи и предложения в этом отношении я отклонял. Если вы проследите ход моей книжной и издательской деятельности, то вы увидите, что я шел всегда маленькими, но верными шагами, расширял свою деятельность, не торопясь. Начал я незначительными по размеру изданиями, рассчитанными на сравнительно небольшой, но верный сбыт, и лишь постепенно дошел до того, что стал издавать многотомные сочинения» (Либрович, 1916: 486–487).
Вольф славился своим умением угадывать спрос, так, он едва ли не первым из издателей всерьез подошел к детской литературе, издавая сравнительно дорогие, старательно сделанные книги для разных возрастов, затем начав издавать журнал детского чтения и т. п. Аналогично он начал издавать литературу по естественным и точным наукам, заказывать переводы в тот момент, когда большинство коммерческих издателей не обращали внимания на эти возможности, много сил и средств он вложил в книги для семейного чтения, иллюстрированные издания – планировал создать соответствующий журнал, на что уже не хватило ресурсов (и влияния, чтобы преодолеть цензурные препятствия), эту идею успешно воплотил в жизнь уже его бывший сотрудник, Маркс, став основателем и издателем «Нивы». Сам Вольф не делал секрета из того, что служит источником его понимания аудитории: вплоть до последних лет жизни, будучи владельцем многомиллионного дела, он неизменно продолжал по нескольку часов бывать в своем книжном, общаясь с покупателями, служа сам лучшим каталогом и библиографическим указателем по своей коллекции, а его магазин оставался одним из лучших по полноте и разнообразию иностранных изданий.
