Из бесед Петровского с рабочими выяснилось, что в городе немало меньшевиков, есть они и на мариупольских заводах. Меньшевики высказывались против восстановления подпольных организаций, распавшихся в связи с наступлением реакции.
Петровский понял, что начинать надо прежде всего с создания хотя бы и небольшой, но крепкой подпольной большевистской группы, раздобыть революционную литературу и заняться ее распространением, а также наладить кружки для самообразования и изучения основ марксизма. Так и было сделано.
Первую подпольную группу Петровский сколотил на заводе «Провиданс», где работал сам. Она сначала собиралась на квартире А. З. Заворуева, а потом — Олейникова и Зеленского. Товарищи из Екатеринославского комитета РСДРП пересылали Петровскому, хотя это было очень нелегко сделать в то время, газеты и запрещенные цензурой книги и брошюры. Все это было, конечно, строго законспирировано, и знали об этом лишь несколько человек из подпольной группы — те, кому было поручено заниматься перевозкой этой литературы.
Вокруг Петровского всегда были люди. Они приходили к нему за советом, помощью или поручением ежедневно. Рабочие беседовали с ним и в цехе, во время перерыва, и на квартире Петровского, где каждый был желанным гостем. Петровскому верили, и потому не раз, по просьбе рабочих, он как их представитель ходил на переговоры с заводской администрацией по разным спорным вопросам, и его участие обычно способствовало разрешению конфликта в пользу рабочих.
Авторитет Петровского среди мариупольцев рос очень быстро. Знали его рабочие и в других городах губернии. И когда начались выборы губернского правления профсоюза металлистов, не удивительно, что в его состав вместе с большевиками И. Меренковым, М. Миллером, И. Захаренко избрали и Григория Ивановича Петровского. Этот профсоюз существовал тогда как легальная организация. Она давала возможность большевикам расширить свою пропагандистскую работу в заводских массах, так как подпольными методами осуществить это было гораздо труднее. При помощи профсоюза легче было приобретать нелегальную литературу и более успешно распространять ее. В Мариуполе появились и легальные большевистские газеты, сначала «Звезда», а с 1912 года — «Правда». Все это способствовало разоблачению соглашательской, предательской политики меньшевиков, отрекавшихся после поражения первой революции от революционного знамени РСДРП.
Работа Петровского и других большевиков в правлении профсоюза металлистов была полезна, поскольку помогала партии следить и направлять деятельность профсоюза так, как того требовали интересы будущей революции. Она была полезна и в том смысле, что публичная деятельность Петровского была по форме вполне законной и полиция не вправе была ее запретить и без суда покарать за нее. Это подтверждается и таким примером из его публичной деятельности: в 1907 году екатеринославские жандармы не удержались от искушения донести по начальству о том, что «… Петровский ездил в Петербург в качестве делегата от рабочих Брянского завода хлопотать перед членами II Государственной думы об открытии Брянского завода, каковой ввиду убийства начальника прокатных мастерских инженера Мылова не функционировал в течение трех месяцев…» Тайно они доносили, а привлечь к ответственности формально не имели права.
