Каждый ученик был дорог для отца Иоанна, у него не было ни неспособных, ни безалаберных. Ему случалось даже просить позволения начальства гимназии брать на поруки отчисленных учеников и лично отвечать, духовно их воспитывая с великим тщанием, за подростков, которых сегодня называют трудными.
Что касается благотворительной деятельности, спустя некоторое время для батюшки стало ясно, что священническое жалованье не обеспечит пропитанием всех, кто голодает и нищенствует, и что все, кого научать добру надобно, одна школа не вместит. Поэтому в 1872 году отец Иоанн дважды со страниц газеты «Кронштадтский вестник» призвал местных жителей задуматься, почему в городе такое большое количество нищих и какими способами возможно эту проблему решить. Сам же он настаивал на том, что для нищих следует найти общее жилье, рабочий дом и ремесленное училище. Идея его не нашла поддержки сразу, но отец Иоанн не отказался от ее осуществления. И хотя на это потребовалось десять лет, в результате подвижнических усилий его на собранные пожертвования в 1881 году был заложен Дом трудолюбия, по окончании строительства в 1882 году ставший четырехэтажным каменным зданием.
Однако Дом трудолюбия — это не собственно здание, а название масштабного замысла отца Иоанна, воплотившегося в создание при его прямом участии нескольких благотворительных учреждений, число которых с течением времени выросло до двадцати пяти. Это и мужские и женские мастерские, и вечерние курсы труда, где можно было освоить рабочую специальность, и школа, и детский сад, и приют для сирот, и народная столовая, обед в которой был очень дешев и где в дни праздников получали бесплатное питание несколько сотен людей. При Доме трудолюбия функционировали бесплатная читальня и платная библиотека, воскресная школа для рабочих, бесплатная лечебница. В 1888 году благодаря личным средствам отца Иоанна и собранным им деньгам был возведен ночлежный дом, в 1891 году — заложен странноприимный дом. Эти заведения предоставляли ночлег бездомным обитателям Кронштадта, здесь находили приют и получали уход больные и старики, не имевшие родни, тем, кто не имел работы, обеспечивали возможность заработка. К началу века Дом трудолюбия представлял собой целый городок с собственным производством, о величине которого наглядно говорит тот факт, что в 1902 году в пеньковых и картузных мастерских одновременно трудилось свыше семи тысяч человек.
Вполне понятно, что отец Иоанн, который предотвратил гибель сотен людей от голода и нужды, обеспечил приютом нищих, стал необычайно популярной фигурой в Кронштадте. Широте его славы способствовал и дар проповеди, в котором воплощалось горение его духа: послушать наставительное слово кронштадтского батюшки в Андреевском соборе непременно собиралось большое количество прихожан, и число их с каждым днем прибывало.
