1-е отделение, образованное в ноябре 1922 г. на базе 10-го и 11-го отделений КРО, занималось осведомительской работой в иностранных представительствах. Его начальником (до января 1924 г.) был бывший руководитель 10-го и 11-го отделений Зельман Маркович Залин (Левин), ранее член еврейской социалистической партии «Поалейи- Цион», работавший в виленском подполье в 1919 г. вместе с Пилляром и в Особом отделе Западного фронта в 1920 г. под общим руководством члена РВС фронта, в 1922 г. — зампреда ГПУ И.С. Уншлихта, а осенью 1920 г. — недолго бывший начальником Иностранного отделения Особого отдела ВЧК.
После Залина 1-е отделение возглавил Александр Романович Формайстер, бывший член Польской социалистической партии (ППС) и Социал-демократии Королевства Польского и Литвы (СДКПиЛ), прошедший непростой путь от польского национализма к большевизму, также работавший в ЧК на Западном фронте.
2-е отделение КРО занималось контршпионажем против разведок прибалтийских и скандинавских стран. Его первым начальником был эстонский коммунист Йоханнес Кясперт, вскоре перешедший на работу в Коминтерн. Его сменил латвийский большевик Карл Карлович Сейсум-Миллер.
3-е отделение ведало борьбой против польской, румынской, венгерской, чешской, болгарской и югославской разведок. Из названных стран дипломатические отношения с СССР имели только Польша и Чехословакия (остальные признали Советский Союз только в 1934 г., а Югославия — в 1940 г.); работа против разведок этих государств велась с нелегальных позиций. Отделение возглавлял польский коммунист Юрий Игнатьевич Маковский, имевший опыт чекистской работы. В феврале 1923 г. его сменил Ян Каликстович Ольский, бывший председатель ГПУ при ЦИК Белорусской ССР; с мая того же года по совместительству он являлся помощником начальника КРО. В том же году отделение возглавил литовский коммунист Казимир Иосифович Науиокайтис.
В функции 4-го отделения входило противодействие шпионажу центрально — и западноевропейских стран, а также США, наблюдение за деятельностью организации «АРА», занимавшейся оказанием продовольственной помощи голодающим в России. Его начальником был Виктор Станиславович Кияковский (Стецкевич). Преемником этого бывшего офицера польской разведки стал Владимир Андреевич Стырне, ранее работавший в Туркестане и Особом отделе ВЧК в Москве.
5-е отделение занималось борьбой с контрабандой, надзором за пограничной и таможенной службами (начальник — В.А. Розанов).
