Основой войск по охране тыла были пограничные части. К выполнению этой задачи в первые недели войны были привлечены 48 пограничных отрядов, 10 отдельных комендатур, 4 резервных пограничных полка, 2 отдельных резервных батальона и 23 части обеспечения. Вместе с ними участия в мероприятиях по охране тыла принимало 2/3 личного состава подразделений внутренних войск НКВД, которые были переданы в оперативное подчинение начальникам войск по охране тыла фронта. Произошло это 26 июня 1941 года, когда согласно Указанию заместителя комиссара внутренних дел СССР № 31 начальниками охраны войскового тыла пяти фронтов были назначены начальники пограничных войск НКВД. Им были немедленно переданы в оперативное подчинение пограничные, оперативные (с 1942 года внутренние), конвойные войска, войска НКВД по охране железнодорожных сооружений и особо важных предприятий промышленности. Также руководители республиканских и областных управлений НКВД получили разъяснение из Москвы, чем должны заниматься начальники охраны войскового тыла.
Если рассматривать количественное соотношение, то изначально к охране тыла ДКА (действующая Красная Армия) были привлечены 163 тысячи военнослужащих НКВД. Из них пограничников — 58 733 человека. По состоянию на 1 сентября 1941 года в охране тыла ДКА было задействовано военнослужащих пограничных войск — 52 821 человек, внутренних войск — 90 618 человек (в т. ч. оперативных — 19 262, железнодорожных — 34 679, по охране особо важных промышленных объектов — 20 796 и конвойных — 15 881). К февралю 1942 года общая численность пограничных войск, охранявших тыл действующей армии увеличилась до 67 610 человек. Хотя в количественном отношении основную нагрузку продолжали нести внутренние войска. А к концу войны охраной тыла действующей армии были заняты 57 полков войск НКВД численностью 85 тыс. чел., не считая частей, выполнявших задачи по борьбе с бандитизмом. Войска также несли гарнизонную службу на территории, освобождаемой от противника.
Согласно постановлению Государственного Комитета Обороны «Об охране важнейших промышленных предприятий», датированному 8 августа 1941 года, войска НКВД по охране железнодорожных сооружений и особо важных предприятий промышленности приняли под охрану 250 объектов 22 наркоматов (в т. ч. Наркомата авиационной промышленности, Наркомата нефтяной промышленности, Наркомата электростанций и др.). А к концу 1944 года под их охраной находились 487 заводов и других объектов.
