Тем же Постановлением было положено начало организации внешней разведки, которая ограничивалась главным образом зафронтовой полосой противника.
Например, летом 1919 года были направлены в тыл белых агенты "Верг", ранее служивший в царской контрразведке, с заданием поступить в Харькове в белогвардейский разведорган, и "Добренко", который должен был проникнуть в агентурную сеть белых в качестве связника с агентурой на советской территории. Операция была успешно проведена. В том же году в савинковскую организацию в Польше был внедрен агент "Арцыбашев", с помощью которого удалось ликвидировать действовавшую в Белоруссии организацию "Зеленый дуб".
Осенью 1919 года в Москве и Петрограде были ликвидированы организации "Национальный центр" и "Тактический центр", в составе которых были военные специалисты РККА - бывшие царские офицеры, готовившие вооруженный мятеж, намеченный к моменту наступления белых армий.
Позже, в 1920 году, в Ростове-на-Дону путем агентурного проникновения были раскрыты две крупные антибольшевистские организации - "Штаб спасения России" и "Комитет по формированию армии спасения России" под руководством генерала князя Ухтомского.
18 августа 1919 года ЦК РКП(б) назначил Ф. Э. Дзержинского по совместительству с другими должностями начальником Особого отдела ВЧК, его первым заместителем - бывшего председателя Уфимской ЧК И. П. Павлуновского, вторым - бывшего секретаря ВЦИК в ВЧК В. А. Аванесова. Тогда же при Отделе были назначены особоуполномоченные - бывший генеральный консул РСФСР в Берлине В. Р. Менжинский, бывший нарком Госконтроля К. И.Ландер, сотрудник ВЧК А. X. Артузов, по совместительству секретарь Совнаркома Я. С. Агранов и В. Д. Фельдман. Делопроизводством и прочими организационными делами занималось Управление делами Особого отдела; с 3 ноября 1919 года им заведовал (управделами) направленный в ВЧК Г. Г. Ягода.
24-25 декабря 1919 года в Москве состоялся 1-й Всероссийский съезд Особых отделов. С лета 1919 года Особый отдел ВЧК координировал оперативную охрану границы, а 24 ноября 1920 года Совет труда и обороны полностью передал охрану границ РСФСР из Наркомата внешней торговли в ведение Особого отдела ВЧК.
С дифференциацией разведывательной работы Особого отдела ВЧК в его составе в апреле 1920 года было создано ведавшее внешней разведкой вначале Иностранное отделение, а 20 декабря - самостоятельный Иностранный отдел ВЧК. Временно исполняющим обязанности начальника Иностранного отдела был назначен бывший первый секретарь представительства РСФСР в Эстонии Я. X. Давыдов (Давтян); 20 января 1921 года начальником стал Р. П. Катанян.
Необходимость во внешней разведке стала насущной после разгрома белых армий, оставшиеся части которых были вынуждены эмигрировать. Инструкция для Иностранного отделения Особого отдела ВЧК предусматривала создание при соответствующем разрешении ЦК РКП(б) резидентур при полпредствах и торговых миссиях РСФСР под дипломатическим прикрытием. На резидента, занимавшего официальную должность и о тайной работе которого мог знать только руководитель представительства, возлагалась обязанность при помощи завербованных агентов получать сведения о деятельности спецслужб этой страны и русских эмигрантских организаций. В страны, с которыми Советская Россия не имела официальных отношений, направлялись нелегальные агенты Особого отдела. Качественно новый этап в организации внешней разведки начался после образования по приказу Ф. Э. Дзержинского Иностранного отдела ВЧК.
Создавались органы ВЧК на транспорте. В ответ на жалобы центральных железнодорожных организаций на незаконные аресты, увольнения и перемещения железнодорожников Совнарком РСФСР 26 июля 1918 года принял "Обращение ко всем железнодорожникам", в котором обязал ВЧК немедленно пересмотреть все дела об арестах. 7 августа 1918 года правительство постановило организовать в составе ВЧК Железнодорожный отдел для пересмотра этих дел совместно с Контрольной комиссией из представителей Всероссийского исполнительного комитета железнодорожников и Всероссийского совета профсоюза железнодорожников. Однако 16 августа 1918 года ВЧК опубликовала сообщение о том, что на новый отдел возложена задача организации борьбы с контрреволюцией, спекуляцией и саботажем на всех железных дорогах страны. При каждой губЧК также создавались железнодорожные отделы, на крупных станциях и узлах - железнодорожные отделения, на обычных станциях вводилась должность комиссара. Приказом ВЧК от 11 мая 1919 года вместо железнодорожных отделов губЧК были организованы транспортные ЧК с прямым подчинением ВЧК, действовавшие в территориальных границах дорожных управлений, заменивших весной 1919 года округа путей сообщения. 16 января 1920 года Совет рабочей и крестьянской обороны принял постановление, обязывавшее транспортные Ч К информировать Наркомат путей сообщения о состоянии транспорта. Железнодорожный отдел ВЧК с декабря 1918 года возглавлял член Коллегии ВЧК и МЧК И. П. Жуков, с 11 января 1919 года - член Коллегии ВЧК, бывший заведующий Инструкторским отделом ВЧК В. В. Фомин. 10 мая 1919 года Коллегия ВЧК переименовала Железнодорожный отдел в Транспортный и утвердила "Положение о Транспортном отделе ВЧК". 30 сентября 1919 года В. В. Фомина вновь сменил И. П. Жуков. 10 февраля 1920 года вместо направленного в Особый отдел Юго-Западного фронта Жукова начальником был назначен Н. Н. Зимин, а после его перехода в Наркомат путей сообщения начальником с 21 ноября 1920 года стал бывший начальник транспортной ЧК в Петрограде Г. И. Благонравов.
28 октября 1918 года ВЦИК утвердил "Положение о ВЧК и местных чрезвычайных комиссиях", значительно увеличившее штат органов ВЧК. Новое Положение, вводившее для органов ЧК единство организационных и правовых принципов, обсудили делегаты 2-й Всероссийской конференции чрезвычайных комиссий, состоявшейся 26-30 ноября 1918 года в Москве. ВЧК объявлялась центральным органом, объединявшим деятельность местных чрезвычайных комиссий и ведущим непосредственную борьбу с контрреволюцией, спекуляцией и преступлениями по должности на всей территории РСФСР. Свою работу ВЧК должна была согласовывать с Наркоматом внутренних дел и Наркоматом юстиции; Ф. Э. Дзержинский входил в Коллегию НКВД, а наркоматы направили в ВЧК своих представителей. 11 декабря 1918 года Совет рабочей и крестьянской обороны (председатель В. И. Ленин) специальным постановлением обязал органы ВЧК предварительно извещать руководство центральных государственных учреждений о намечаемых арестах сотрудников организаций и предприятий, подведомственных этим учреждениям, или ставить в известность не позднее 48 часов после ареста с объяснением причин задержания. Постановление разрешало местным партийным организациям брать арестованных на поруки и участвовать в следствии. Однако ВЧК не справлялась с проверкой деятельности местных чрезвычайных комиссий. К концу 1918 года на территориях, контролируемых Советами, уже действовали 40 губернских и 365 уездных Ч К. Руководители местных партийных организаций и Советы считали комиссии своими исполнительными органами, что приводило к самоуправству и недовольству населения Советской властью. В декабре 1918 года в большевистской печати появились статьи с требованием ликвидировать ВЧК. Представитель Наркомата юстиции в Коллегии ВЧК М. Ю. Козловский сообщил в ЦК РКП (б) о незаконных репрессиях, применяемых местными чрезвычайными комиссиями. Однако Бюро ЦК РКП(б) не поддержало Козловского и постановило отстранить его от представительства в ВЧК и запретить критику ВЧК в партийной печати. В то же время ВЦИК по предложению Коллегии ВЧК упразднил уездные чрезвычайные комиссии: в каждый уезд направлялся из губЧК уполномоченный, который входил в состав так называемого Политбюро при уездной милиции. 8 января 1919 года член Бюро ЦК РКП(б), председатель Моссовета Л. Б. Каменев направил В. И. Ленину проект о немедленной ликвидации ВЧК и ее местных отделений, передаче борьбы с контрреволюцией в революционные трибуналы, надзор за которыми предлагалось поручить Особому отделу при ВЦИК. Проект обсуждался в Центральном комитете партии 4 февраля 1919 года, но принят не был. 17 февраля 1919 года ВЦИК утвердил предложенное Центральным комитетом постановление "О праве вынесения приговоров ВЧК и революционными трибуналами", где функции чрезвычайных комиссий ограничивались выявлением и пресечением только тайной подрывной деятельности, а право расстрелов и арестов сохранялось лишь при подавлении вооруженных выступлений в местностях, объявленных на военном положении. Смертная казнь была отменена через год, 17 января 1920 года, когда стало очевидным, что Гражданская война закончится поражением контрреволюционных сил.
23 декабря 1918 года Коллегия ВЧК приняла решение об организации Оперативного отдела, сотрудники которого по заявкам других отделов производили обыски, аресты, устраивали засады.
В январе 1919 года Иногородний отдел ВЧК был реорганизован в Инструкторский отдел, обеспечивавший связь ВЧК с местными ЧК. Отдел возглавил бывший секретарь Отдела по борьбе со спекуляцией и упраздненного Иногороднего отдела Г. С. Мороз.
24 февраля 1919 года на базе отдела по борьбе с контрреволюцией был образован Секретный отдел ВЧК, занимавшийся борьбой с антисоветской деятельностью различных политических объединений, церкви и сектантских организаций.
Для борьбы с контрреволюцией в промышленности Коллегия ВЧК 30 сентября 1919 года приняла постановление о создании Экономического отдела ВЧК.
Для оперативного учета информации и изучения трофейных документов белых армий был организован Регистрационно-справочный отдел ВЧК; сведения на лиц стали заноситься в картотеки. С 21 ноября 1919 года отдел возглавлял Я. М. Роцен. Приказом ВЧК от 7 июня 1920 года Отдел был переименован в Регистрационно-статистический отдел ВЧК.
22 ноября 1918 года по решению президиума ВЧК производство следствия передавалось из линейных (оперативных) отделов в единый Следственный отдел, но, просуществовав четыре месяца, 21 марта 1919 года он был расформирован и следственная работа вновь передавалась в линейные отделы. 21 июня 1919 года Следственный отдел опять был воссоздан; его возглавил Пинес. Причинами организационной неустойчивости являлись поиск отвечавшей функциям ВЧК структуры и нехватка квалифицированных кадров. 21 ноября 1919 года заведующим Следственной частью (так было изменено название отдела) стал член Коллегии ВЧК Г. С. Мороз, а его заместителем - П. П. Валескалн, который, после назначения Мороза полномочным представителем ВЧК в Киргизском крае, с 7 апреля 1920 года возглавил Следственную часть. В ее состав входило Юридическое бюро, ведавшее систематизацией нормативных актов о ВЧК и выдачей по запросам справок. В начале января 1920 года руководство ВЧК выступило с инициативой ликвидировать институт следователей и сосредоточить ведение предварительного расследования и агентурно-оперативной работы в руках оперативного сотрудника. В феврале 1920 года эту инициативу поддержали делегаты 4-й Всероссийской конференции чрезвычайных комиссий, и институт следователей как в ВЧК, так и на местах был ликвидирован. Сохранившаяся Следственная часть ВЧК вела дела, не подведомственные оперативным отделам. Проведенная реорганизация отрицательно сказалась на качестве следствия, что отмечалось в приказе ВЧК от 17 апреля 1920 года, но выделение следствия в органах безопасности в самостоятельную структурную часть последовало значительно позже.
3 сентября 1918 года постановлением Совнаркома в ведение ВЧК из Наркомата внутренних дел передавалась Центральная пересыльная тюрьма (Бутырская).
По-прежнему острой оставалась проблема кадрового состава органов ЧК. Еще в марте 1918 года Президиум ВЧК учредил бюро справок (позднее бюро справок и жалоб), куда могли обращаться граждане с жалобами на незаконные действия советских учреждений и должностных лиц, в том числе и органов чрезвычайных комиссий. В мае 1919 года в Центральном бюро справок, подведомственном Наркомату госконтроля, было учреждено специальное отделение по делам ЧК. Ранее, 25 октября 1918 года, ЦК РКП(б) утвердил подготовленный Ф. Э. Дзержинским проект положения о ВЧК, призванный упорядочить отношения центральной и местных ЧК с советскими учреждениями. Тогда же ЦК осудил опубликованное в № 3 "Еженедельника чрезвычайных комиссий" письмо партийных работников из г. Нолинска Вятской губернии, требовавших применять при допросах пытки, постановил закрыть журнал и назначить политическую ревизию ВЧК специальной комиссией ЦК в составе председателя Моссовета Л. Б. Каменева, наркома по делам национальностей И. В. Сталина и наркома юстиции Д. И. Курского. Однако в партийные органы и правительство продолжали поступать сообщения о самоуправстве и других незаконных действиях центральных и местных органов ЧК. Особой жестокостью отличались чрезвычайные комиссии на Украине. 10 апреля 1919 года правительство назначило председателем Всеукраинской ЧК М. Я. Лациса с требованием очистить комиссии от скомпрометировавших себя сотрудников, но спустя два месяца Лацис сообщил председателю Совнаркома В. И. Ленину, что "чистка" невозможна, поскольку заменить "малоспособных и малонадежных" некем. Чрезвычайные комиссии всех уровней возглавлялись только членами партии, а среди рядовых сотрудников коммунисты к началу 1920 года составляли половину, особенно много коммунистов числилось в особых отделах. Работа в ЧК по постановлению Совнаркома от 14 ноября 1918 года фактически приравнивалась к службе в армии, а постановлением Совета труда и обороны от 17 сентября 1920 года все сотрудники ЧК окончательно приравнивались в правах и обязанностях к военнослужащим. Особое внимание в эти годы уделялось политическому воспитанию чекистов - укреплению веры в правоту дела коммунизма и преданности партии. Уже в сентябре 1918 года по решению ЦК РКП(б) в Москве открылись первые трехнедельные курсы на 100-120 слушателей по подготовке заведующих отделами, следователей, разведчиков и т. п. В августе 1919 года срок обучения был продлен до двух месяцев, а число слушателей - увеличено до 200 человек. Окончившие курсы направлялись в местные ЧК, откуда были направлены на учебу.
Характерной особенностью кадрового состава органов ЧК в период Гражданской войны являлась многонациональность: поляки (около тысячи), немцы (более 300), финны, чехи, венгры и др.
27 марта 1919 года Совнарком РСФСР утвердил новый состав Коллегии ВЧК: Ф. Э. Дзержинский, Я. X. Петерс, И. К. Ксенофонтов, М. Я. Лацис, М. С. Кедров, В. А. Аванесов, А. В. Эйдук, К. М. Волобуев, И. Д. Чугурин, Ф. Д. Медведь, В. В. Фомин, И. П. Жуков, С. Г. Уралов, Г. С. Мороз. 24 апреля 1919 года по предложению Ф. Э. Дзержинского был сохранен постоянный Президиум ВЧК в составе трех человек: председатель - И. К. Ксенофонтов (заместитель председателя ВЧК) и два члена - Г. С. Мороз и И. Д. Чугурин.
29 июля 1920 года Совнарком ввел в Коллегию ВЧК новых членов - начальника Центрального управления чрезвычайных комиссий Украины В. Н. Манцева, нового начальника Особого отдела ВЧК (сменившего командированного на Украину Дзержинского) В. Р. Менжинского, управделами Особого отдела Г. Г. Ягоду, начальника Транспортного отдела ВЧК Н. Н. Зимина, заместителя председателя МЧК С. А. Мессинга и заместителя наркома внутренних дел, начальника войск внутренней охраны В. С. Корнева. Из коллегии выбыли: А. В. Эйдук, К. М. Волобуев, И. Д. Чугурин, В. В. Фомин, И. П. Жуков, С. Г. Уралов и Г. С. Мороз, остались: Ф. Э. Дзержинский, Я. X. Петерс, И. К. Ксенофонтов, М. Я. Лацис, М. С. Кедров, В. А. Аванесов и Ф. Д. Медведь. Продолжал действовать Президиум ВЧК, принимавший внесудебные решения по следственным делам, законченным в ВЧК.
26 ноября 1920 года при Президиуме ВЧК вместо Оперативного отделения было создано Специальное отделение по охране партийных и государственных деятелей и правительственных объектов; отделение возглавил сотрудник ВЧК с декабря 1917 года, начальник охраны В. И. Ленина А. Я. Беленький.
С 24 октября 1919 года по 16 июля 1920 года при ВЧК действовал Особый революционный трибунал.
В первые годы Советской власти высшие государственные посты, в том числе и выборные, занимали бывшие профессиональные революционеры, в основном лидеры большевистского крыла российской социал-демократии, знавшие друг друга по партийной работе. Это был замкнутый круг функционеров, еще более сузившийся после политического поражения левых эсеров, поэтому нередко один и тот же деятель одновременно занимал несколько ответственных должностей. Председатель ВЧК Ф. Э. Дзержинский одновременно являлся с 30 марта 1919 года наркомом внутренних дел РСФСР (по 1923 год), с августа 1919 года - начальником Особого отдела ВЧК, с апреля 1921 года (по февраль 1924 года) - наркомом путей сообщения, а также членом ЦК РКП(б), кандидатом в члены Политбюро ЦК РКП(б) и членом ВЦИК. Очевидно, что в эти годы каждодневное руководство работой ВЧК осуществляли заместители председателя.
На 3-й Всероссийской конференции чрезвычайных комиссий, проходившей с 1 по 3 июня 1919 года, делегаты приняли "Положение об Особых отделах" и решение о создании Секретно-оперативного отдела ВЧК. Отдел возглавил ранее занимавший должность начальника Отдела по борьбе с контрреволюцией ВЧК Н. А. Скрыпник, после его отъезда на Украину - бывший заведующий следственной частью Военного отдела ВЧК А. В. Эйдук, затем - сотрудник ВЧК С. Г. Уралов, с 17 сентября 1919 года - бывший председатель Всеукраинской ЧК М. Я. Лацис. На конференции Ф. Э. Дзержинский, возглавивший к тому времени по совместительству наркомат внутренних дел, выступил с докладом о необходимости взаимодействия на местах органов ЧК и милиции.
Строительство агентурного аппарата неминуемо требовало обращения к традиционным методам работы негласных служб. ВЧК использовала опыт Охранного отделения царского Министерства внутренних дел, поэтому уже первые инструкции отличались подробностью, профессиональным подходом и жесткими требованиями к работе агента. Руководство ВЧК также предпринимало попытки привлечь к осведомительству членов коммунистической партии. 1-й съезд Особых отделов обратился по этому поводу за помощью в ЦК РКП(б), который 2 марта 1920 года разослал в губернские и армейские парторганизации специальный циркуляр с требованием активней помогать органам Ч К. В июле 1920 года Центральный комитет партии по просьбе Президиума ВЧК рекомендовал коммунистам, работавшим на транспорте, быть осведомителями. 6 августа 1920 года уже ВЧК прямо обратилась к губкомам РКП(б) "обязать всех коммунистов быть осведомителями", однако большинство членов партии отказывалось от регистрации в осведомители.
3-6 февраля 1920 года состоялась 4-я Всероссийская конференция чрезвычайных комиссий. Делегаты приняли "Положение и инструкции Чрезвычайным комиссиям по борьбе с контрреволюцией, спекуляцией, преступлениями по должности, шпионажем и саботажем", перестраивавшие работу органов в условиях перехода от войны к мирной жизни. На конференции в заключительном заседании выступил В. И. Ленин, призвавший чрезвычайные комиссии помочь наладить работу железных дорог и "сохранять полную боевую способность к отражению врага".
6 апреля 1920 года при ВЧК было создано Юридическое бюро под начальством М. М. Луцкого.
13 сентября 1920 года в структуре ВЧК появился новый орган - Управление делами ВЧК; его начальником по совместительству стал член Коллегии ВЧК и управделами Особого отдела Г. Г. Ягода. 1 декабря 1920 года в Управление делами ВЧК вошли управления делами Особого отдела и Транспортного отдела ВЧК.
С 21 сентября 1920 года начал действовать под начальством Л. М. Брагинского Административно-организационный отдел ВЧК, состоявший из административного отдела и организационного отдела. 1 декабря 1920 года Административно-организационный отдел был преобразован в Административно-организационное управление, куда вошли административные отделы Особого отдела и Транспортного отдела. Начальником Управления стал бывший начальник Особого отдела Западного фронта И. А. Апетер. Управление занималось разработкой структуры органов ЧК, подбором и расстановкой кадров, учетом личного состава, проверкой работы местных ЧК.
В Гражданской войне победу одержали революционные силы - большевистская партия и созданная ею Красная Армия. Победа большевиков была бы невозможна без установления особой государственной системы - диктатуры пролетариата и поддержки со стороны рабочих и крестьян. Органы ЧК сыграли исключительную роль в победе революционных сил над белыми армиями и интервентами, обеспечивая тыл Красной Армии. На территориях страны, где сохранялась Советская власть, в массовом порядке проводились регистрация и учет населения по социальному признаку, а в районах после восстановления Советской власти - и лиц, участвовавших в белом движении. Чекисты широко практиковали аресты, облавы, в газетах регулярно публиковались списки расстрелянных по приговорам трибуналов и сообщения о раскрытых контрреволюционных заговорах. Партийные комитеты и советские органы власти обращались к населению с призывами проявлять бдительность и сообщать о враждебно настроенных лицах в чрезвычайные комиссии. Жесткие меры исключали возможность массового недовольства населения и создания способных к вооруженному сопротивлению контрреволюционных организаций. Органы ЧК использовали и тайные методы борьбы - подставы своих сотрудников на вербовку в подпольные антисоветские группы и вербовку участников подполья. В августе-сентябре 1918 года ВЧК предотвратила попытку английской разведки организовать антисоветские выступления латышских красноармейских частей, охранявших Московский Кремль. В июне-июле 1919 года в Петрограде была раскрыта разветвленная подпольная организация "Национальный центр", в августе - ее московское отделение. В сентябре ВЧК провела в Москве операцию по ликвидации "Добровольческой армии Московского района" и позднее - других организаций, связанных с "Национальным центром". Наиболее значительные белогвардейские организации раскрыли в августе 1920 года Омская и Ставропольская губЧК.
Переход к мирному хозяйственному строительству проходил в сложных внутренних и международных условиях. Потерпев военное поражение в России, правительства западных стран не оставляли надежд на падение Советской власти и реставрацию капитализма. На первый план борьбы с Советской Россией вышли политическая, экономическая и финансовая блокада, подготовка и проведение разведывательными органами подрывных операций и использование в борьбе русской эмиграции. Внутри страны усилились антибольшевистские настроения среди крестьянства, рабочих, интеллигенции и духовенства, активизировалась деятельность подпольных монархических, белогвардейских, эсеровских и меньшевистских групп. В условиях возникшего политического кризиса роль органов государственной безопасности в подавлении классовых и идейных противников большевистской партии значительно возросла. В апреле 1921 года руководитель государства В. И. Ленин поручил Ф. Э. Дзержинскому подготовить и представить в Политбюро РКП(б) план работы чрезвычайных комиссий на текущий и первую половину 1922 года. План Дзержинского предусматривал окончательную ликвидацию антисоветских организаций, в первую очередь меньшевистских и эсеровских, разоружение крестьян в центральных и поволжских губерниях, охваченных восстаниями, очистку этих губерний от организаторов восстаний и бандитских формирований, локализацию волнений рабочих, подавление забастовок, укрепление вооруженных отрядов особого назначения и др. Это была программа, под реализацию которой выстраивалась организационная структура органов ВЧК.
Мировая и Гражданская войны до крайности разорили экономику страны. С марта 1921 года большевики приступили к проведению "новой экономической политики", призванной сохранить и укрепить Советскую власть. Тогда же началась перестройка работы советского государственного аппарата. В 1921 году окончательно сложилась и система органов государственной безопасности.
Приказом Административно-организационного управления ВЧК от 14 января 1921 года было образовано Секретно-оперативное управление ВЧК с широкими полномочиями. Новое Управление возглавил по совместительству с должностью начальника Особого отдела Управления В. Р. Менжинский. Управление вначале состояло из трех отделов.
На Особый отдел возлагалась контрразведка в Красной Армии и Военно-Морском Флоте, против разведок зарубежных стран и политического бандитизма на территории Советской России. Отделом руководили начальник - В. Р. Менжинский, заместитель начальника - Г. Г. Ягода, помощник начальника - А. X. Артузов; при Отделе состояли сотрудники для поручений - В. С. Кияковский (Стецкевич), И. И. Сосновский (Добржинский), К. Ф. Роллер (Л. Чиллек); Отдел включал: 13-е спецотделение - контрразведывательная работа против Финляндии, Эстонии, Латвии, Литвы, Польши и Румынии (начальник О. В. Эйдукевич); 14-е спецотделение - страны Востока (начальник Калужский, заместитель - И. И. Цитович); 15-е спецотделение - страны "Большой Антанты" (начальник Щепкин), 16-е спецотделение - контрразведка в Красной Армии (начальник Я. С. Агранов), 17-е спецотделение - контрразведывательная работа против "офицеров" (начальник Калинин). 11 августа 1921 года было организовано 18-е отделение по борьбе с бандитизмом под начальством Ф. В. Патаки. После создания особых отделов ЧК в их ведение перешла служба военной цензуры. Инструкция, утвержденная 10 октября 1920 года, содержала подробное изложение методов перлюстрации и требовала соблюдения строжайшей конспирации. Негласному просмотру теперь подвергалась любая почтово-телеграфная корреспонденция, если это вызывалось оперативной целесообразностью. 11 августа 1921 года военная цензура была возложена на Информационный отдел.
Оперативный учет лиц, уличенных и подозреваемых в контрреволюционной деятельности, велся самостоятельно оперативными подразделениями центральной и местными Ч К. Летом и осенью 1918 года на учет ставились прежде всего бывшие кадровые офицеры, владельцы крупной собственности, помещики, бывшие сотрудники царского Министерства внутренних дел, лидеры буржуазных партий и т. п., то есть критерием учета являлись социальный статус и профессиональная деятельность до революции. Особый отдел ВЧК подготовил утвержденную 24 апреля 1920 года инструкцию о порядке регистрации и методах накопления оперативной информации. Инструкция рекомендовала брать на учет всех иностранцев, проживавших в РСФСР, а за рубежом - ведущих антисоветскую деятельность, офицеров белых армий и др.
На Секретный отдел Управления возлагались выявление и борьба с антисоветской деятельностью монархистов, кадетов, меньшевиков, эсеров, оппозиционно настроенного духовенства и др. Отделом руководили начальник Т. П. Самсонов, заместитель начальника И. 3. Сурта; при Отделе состояли сотрудники для поручений - Рутковский, Орлов, Малахов, Лукин, Мавричев и секретарь С. Б. Иоффе; Отдел включал отделения по направлениям: 1-е отделение - работа против анархистов (начальник М. В. Бренер); 2-е отделение - против меньшевиков (начальник А. Ю. Ремишевский); 3-е отделение - против правых эсеров (начальник Кожевников); 4-е отделение - против правых партий (начальник Я. М. Генкин); 5-е отделение - против левых эсеров (начальник У. И. Пюкинен); 6-е отделение - против оппозиционного духовенства (начальник П. Л. Валейчик); 7-е отделение - против других оппозиционных партий (начальник И. А. Шпицберг); 8-е отделение - осведомительское; 9-е отделение - против еврейских "противосоветских партий" (начальник Л. И. Юргенс). С конца 1920 года по приказу ВЧК секретным отделам постановке на постоянный оперативный учет подлежали все выявленные члены небольшевистских партий и других организаций.
Оперативный отдел Управления осуществлял ведение наружной разведки и установки. Возглавляли Отдел начальник (Б. М. Футорян) и помощник начальника; при Отделе состояли комиссар для особых поручений и сотрудник для особых поручений; в Отдел входили: секретариат (секретарь С. Б. Иоффе), оперативное отделение (начальник Ш. В. Гольдесгейм), техническое отделение, активная часть Оперода (начальник Т. К. Грикман), отделение обработки материалов (начальник М. И. Шкляр), бюро обработки, бюро печати, регист-рационно-статистическое отделение (начальник Я. Роцен), справочное бюро, бюро розыска, бюро статистики (начальник Е. Г. Смиттен), архив (начальник А. С. Хржонщ).
В Управление был включен и Иностранный отдел; с 10 апреля 1921 года его вновь возглавил Я. X. Давыдов (Давтян), а с 6 августа - С. Г. Могилевский. В течение 1921 года легальные резидентуры были созданы в Англии, Франции и Германии, одновременно осуществлялось развертывание нелегальной разведки. Во внешнюю разведку направлялись опытные члены партии, а основные линии разведывательной работы определялись ЦК РКП(б). Параллельно внешнюю разведку осуществляло Разведывательное управление Штаба Красной Армии. Для координации деятельности двух независимых разведок предусматривался ввод в состав Коллегии ВЧК начальника Разведуправления.
28 марта 1921 года в Секретно-оперативное управление приказом Управления делами ВЧК вошел Информационный отдел (начальник - партийный работник и журналист И. Н. Стуков, с 21 сентября 1921 года - Б. Б. Бортнов-ский), созданный на базе отделения обработки материалов Оперативного отдела. На Отдел возлагалась организация обеспечения партийного и советского руководства информацией о политическом и экономическом положении страны и отдельных регионов. Позднее в инструкции для местных органов ВЧК указывались источники информации: доклады осведомителей в учреждениях и на предприятиях, уполномоченных ВЧК на местах, сведения о различных происшествиях (аварии, крушения, пожары, взрывы и т. п.), следственный и агентурный материал, периодическая печать, "народная молва" (слухи).
25 января 1921 года по указанию ЦК РКП(б) в ВЧК было создано Экономическое управление, а на местах - отделы, для организации борьбы с саботажем, спекуляцией, должностными преступлениями и подрывной деятельностью контрреволюционеров в учреждениях и на предприятиях. Управление возглавил известный деятель советской юстиции Н. В. Крыленко, с сентября 1921 года - его заместитель М. К. Ихновский. После Х съезда РКП(б), определившего меры по восстановлению и развитию производительных сил страны, руководство ВЧК разъясняло местным ЧК необходимость возврата к рыночным отношениям и требовало пересмотра методов защиты интересов государства в условиях новой экономической политики.
Экономическое управление ВЧК насчитывало по штату около 400 человек и состояло из Отдела надзора и публичного обвинения, Статистико-экономического отдела, пятнадцати спецотделений, курировавших наркоматы и другие центральные учреждения.
28 января 1921 года при ВЧК был образован Специальный отдел для координации и контроля ведомственных шифровальных служб и централизованной организации секретного делопроизводства в государственных учреждениях. Отдел возглавил бывший председатель Петроградской Ч К Г. И. Бокий, с июня 1921 года вошедший по должности в Коллегию ВЧК. 5 мая 1921 года правительство приняло постановление об обязательном исполнении государственными учреждениями распоряжений и циркуляров Спецотдела по вопросам шифровального дела. В 1920-е годы в отдел входили также отделения радиоперехвата, изготовления необходимых для проведения секретных операций документов, химическая лаборатория и др.
На правах самостоятельного отдела в августе 1921 года была создана Следственная часть Президиума ВЧК. Ей предоставлялось право возбуждения и проведения следствия по преступлениям, совершенным сотрудниками ЧК, выдачи санкций на высшую меру наказания и конфискацию имущества по делам, ведущимся в органах ВЧК, надзора за ведением следствия в органах ЧК и содержанием заключенных. Дознание и предварительное следствие по делам, возбуждаемым органами ЧК, по-прежнему оставались прерогативой секретных и особых отделов, подведомственных Секретно-оперативному управлению ВЧК, а также проводились в транспортных Ч К.
По постановлению Совета труда и обороны от 19 января 1921 года была проведена централизация состоявших при чрезвычайных комиссиях вооруженных частей и отрядов. Они сводились в единые войска ВЧК, на которые возлагалась непосредственная борьба с открытыми антисоветскими выступлениями и бандитизмом. Организационное строительство и руководство войсками осуществляло учрежденное 1 апреля 1921 года Управление войск ВЧК, включившее и Отдел пограничной охраны. В 1921 году должность начальника войск ВЧК (до 25 марта - командующего) занимали В. С. Корнев, М. И. Розен, С. С. Филиппов, П. К. Студеникин, с 21 декабря - Ф. В. Патаки.
5 апреля 1921 года Политбюро ЦК РКП(б) назначило заместителем Ф. Э.Дзержинского И. С. Уншлихта, позднее, с 8 ноября 1921 года, возглавившего по совместительству Московскую ЧК.
К концу 1921 года ВЧК состояла из управлений: Секретно-оперативного, Экономического, Административно-организационного, Управления войск ВЧК и Управления делами, отделов: Транспортного, Спецотдела и Следственной части.
Местные органы государственной безопасности в 1921 году состояли из губернских ЧК, транспортных ЧК, особых отделов фронтов и армий. ГубЧК являлись отделами губернских исполнительных комитетов - органов местных Советов депутатов и состояли, как правило, из административного отдела, координировавшего работу уездных Политбюро при уездной милиции, секретного отдела, осуществлявшего непосредственную деятельность по защите политического режима, и экономического отдела. Уездные Политбюро, введенные вместо уездных ЧК, были упразднены 17 января 1922 года. ГубЧК возглавлял председатель, при котором состояла коллегия из пяти членов.
Продолжали действовать транспортные ЧК, осуществлявшие государственный контроль работы железных дорог и водного транспорта. Комиссии, состоявшие при транспортных управлениях, назывались районными, при важных транспортных узлах - участковыми.
В послевоенное время широко практиковалось проведение всероссийских и региональных съездов и конференций работников Ч К.
В 1921 году на всей территории федерации в органах Ч К насчитывалось 90 тысяч чекистов, однако в течение последующих трех лет их численность уменьшилась наполовину. Тогда же на другую работу перешло немало руководящих работников местных комиссий и почти половина Коллегии ВЧК.
В конце 1921 года политическое руководство страны приняло решение реорганизовать ВЧК, карательные функции которой не отвечали требованиям новой экономической политики.
ГПУ-ОГПУ
После победы, одержанной революционными силами над внутренней контрреволюцией и интервентами, партия большевиков продолжила политическое переустройство государства и курс на социалистическое преобразование народного хозяйства.
Отвоеванное в трехлетней войне международное существование Советской России как независимого государства оставалось крайне непрочным. Органы ГПУ являлись важнейшим институтом, обеспечивавшим в эти годы государственную безопасность.
Правительства западных стран предпринимали меры по политической, экономической и финансовой международной изоляции Советской России, полагая, что Советская власть в таких условиях неминуемо падет. Одновременно разведывательные органы, главным образом, Франции, Англии, Польши и США усилили деятельность как в плане добывания информации, так и установления связей с антисоветскими силами на территории РСФСР.
Угроза безопасности Советской власти исходила также от русской эмиграции, поскольку за рубежом оказались не только сотни тысяч вынужденных покинуть страну гражданских лиц, но и воинские части и соединения белых армий (в начале 1920-х годов русская эмиграция насчитывала около 2 миллионов человек). В эмигрантской среде возникли многочисленные военно-политические организации: "Российский общевоинский союз", "Объединенный казачий совет", "Народный союз защиты Родины и свободы" и другие, стратегической целью которых являлось свержение власти большевиков.
Внутреннее положение Советской России оставалось нестабильным: экономика была разорена войнами, засуха 1921 года вызвала небывалый в истории страны голод, промышленность и транспорт не работали из-за отсутствия топлива, в промышленных центрах усилилось забастовочное движение рабочих, а в сельских районах вспыхивали крестьянские восстания.
Ограниченный возврат к капиталистическим формам в торговле и промышленности наряду с жесткими мерами подавления внутренних антисоветских сил позволили партии большевиков преодолеть политический кризис.
1 декабря 1921 года Политбюро ЦК РКП(б) постановило реорганизовать Всероссийскую чрезвычайную комиссию. Инициатором сужения карательных функций ВЧК был член Политбюро Л. Б. Каменев, позицию которого поддерживал В. И. Ленин. В постановлении, предложенном Лениным, комиссии в составе Л. Б. Каменева, наркома юстиции Д. И. Курского и председателя ВЧК, наркома внутренних дел Ф. Э. Дзержинского поручалось подготовить предложения о сужении компетенции ВЧК и права ареста, введении месячного срока для общего ведения дел, усилении судов, изменении названия ВЧК, а также подготовить и провести через ВЦИК общее положение "об изменении в смысле серьезных умягчений".
Необходимость сужения полномочий ВЧК была поддержана делегатами 11-й Всероссийской конференции РКП(б). 23 декабря 1921 года В. И. Ленин выступил на IX Всероссийском съезде Советов с предложением ограничить деятельность ВЧК политической сферой. 28 декабря съезд принял резолюцию о реорганизации ВЧК и обязал Президиум ВЦИК в кратчайший срок пересмотреть Положение о ВЧК.
Коллегия ВЧК разработала свой проект Положения, с которым ознакомился председатель Совнаркома В. И. Ленин. Проект предусматривал ограничение компетенции ВЧК борьбой с контрреволюционными действиями, сохранение карательных функций, прежнего названия и подотчетности исключительно Совету народных комиссаров. В. И. Ленин отклонил проект, сообщив заместителю председателя ВЧК И. С. Уншлихту, что реорганизация должна проводиться только по указаниям Политбюро ЦК РКП(б).
23 января 1922 года Политбюро поручило Д. И. Курскому и И. С. Уншлихту подготовить и представить на утверждение проект декрета ВЦИК об упразднении ВЧК, разрешении всех дел о преступлениях только в судебном порядке и возложении на Народный комиссариат внутренних дел функций по обеспечению государственной безопасности с учреждением в составе наркомата Государственного политического управления (ГПУ). 2 февраля 1922 года члены Политбюро одобрили проект и направили его во ВЦИК, утвердивший 6 февраля 1922 года декрет "Об упразднении Всероссийской чрезвычайной комиссии и о правилах производства обысков, выемок и арестов".
Этим декретом статус органов государственной безопасности понижался до уровня структурного подразделения НКВД с подчинением наркому внутренних дел. 9 февраля 1922 года Политбюро утвердило Положение о ГПУ, согласованное И. С. Уншлихтом с Наркоматом юстиции.
Вопрос о причинах реорганизации ВЧК не так прост, как кажется. По справедливому замечанию исследователя С. В. Леонова, "не совсем понятно, почему переход к нэпу начался в марте 1921 года, а реорганизация ВЧК была проведена лишь в феврале 1922. Хотя это можно объяснить определенной инерционностью изменений политических и государственных структур на крутом историческом вираже, остается неясным, какие конкретные факторы вызвали данное преобразование. Непонятно и то, что именно побудило большевистское руководство к столь радикальным - если судить по официальным декларациям - мерам, тем более что почти сразу же после создания ГПУ его функции, существенно суженные по сравнению с ВЧК, вновь стали стремительно расширяться". Он также отмечает, что "ВЧК наряду с Красной Армией была важнейшим государственным институтом, внесшим неоценимый вклад в выживание советского режима, но у значительной части большевиков, а уж тем более у беспартийной советской общественности (про несоветскую нечего и говорить) сохранялась определенная настороженность к ВЧК, поэтому в периоды смягчения обстановки выдвигались находившиеся втуне опасения, раздражение от ее бесконтрольности и самоуправства, а порой и откровенный ужас. Особенно остро эта проблема встала после завершения Гражданской войны и перехода к новой экономической политике.
Ф. Э. Дзержинский и чекистское руководство, вынужденные реагировать на изменение обстановки и настроений в партии, попытались взять инициативу в свои руки. Со второй половины 1920 года началась определенная перестройка деятельности ВЧК, связанная не только с внутренней реорганизацией, но и с попытками ограничения непосредственных расправ, усиления агентурной работы и улучшения взаимодействия с другими ведомствами". С. В. Леонов приводит интересные данные: "В ответ на вопросы анкеты, изложенной в приказе ВЧК от 23 июня 1920 года об отношениях с ревтрибуналами, партийными и советскими органами, более 80 % губернских ЧК заявили о том, что эти отношения удовлетворительные или что они стали таковыми в последнее время, и только четыре комиссии указали на имеющиеся проблемы. (Причем смоленские и особенно пермские чекисты отметили осложнения, возникающие с партийными организациями из-за преследований ЧК "подчас ответственных работников", так или иначе замешанных в преступлениях.) В то же время лишь три-четыре ЧК заявили, что улучшать отношения с другими органами не требуется". По мнению историка, "начало принципиального изменения отношения большевистского руководства к ВЧК стало отправной точкой в деле об аресте германского кинематографиста Бартельса". 20 октября 1921 года по предложению Л. Д. Троцкого Политбюро ЦК РКП(б) обсудило этот вопрос и постановило "строжайше наказать тех ответственных чекистов, которые помимо главы соответствующего ведомства т. Чичерина произвели обыск и арест Бартельса". Было решено "дать строжайшую инструкцию т. Уншлихту и создать еженедельные совещания его с представителями НКИД и РВСР", принести официальные извинения немецкой организации. Столь бурная реакция объяснялась не только стремлением большевистской верхушки к развитию отношений с Германией, но и взятым курсом на установление экономических и дипломатических отношений с капиталистическими державами, и большевистское руководство, естественно, не могло позволить чекистам сорвать свои планы. Многочисленные вопросы, связанные с нормализацией отношений с западными странами в октябре-декабре 1921 года, обсуждались почти на каждом заседании Политбюро. Примечательно, что едва ли не столь же часто на этих заседаниях в данный период стали рассматриваться и проблемы деятельности ВЧК. Заседание Политбюро 20 октября имело далеко идущие последствия. Уже 23 октября, вдохновленный его решениями, Г. В. Чичерин написал В. И. Ленину письмо, в котором привел многочисленные факты произвола и грубейших злоупотреблений властью чекистами Черноморско-Кубанского побережья по отношению к иностранцам и даже дипломатическим представителям (аресты дипкурьеров, обстрелы турецких судов, насильственные обыски, изъятия товаров, оскорбления и грубость, откровенное игнорирование мнения НКИД и его представителей). "Поддержка хороших отношений с Турцией положительно невозможна, - подчеркивал наркоминдел. - С Америкой, Германией и Персией уже возник из-за этого ряд конфликтов". Разъяренный Ленин, полностью поддержав Чичерина, предложил "арестовать паршивых чекистов" и виновных расстрелять.
Уже на следующий день оргбюро ЦК приняло постановление о "перемещении ответственных работников ВЧК". 27 октября Политбюро утвердило его и пересмотрело свое решение по делу Бартельса, предписав чекистам "в случаях особо важных обысков, особенно если дело касается иностранцев" извещать главу соответствующего ведомства. Кроме того, по предложению Троцкого, Политбюро приняло постановление об инструктировании органов ВЧК в отношении иностранцев и предписало привлечь к суровой ответственности тех чекистов, которые инструкции нарушают и "руководствуются методами 18 года".
ВЧК совместно с наркоматами иностранных дел, внешней торговли и военным, ведомством было предписано выработать "совершенно точные и ясные инструкции" по отношению к иностранцам, а НКИД и НКВД - "внимательно следить за тем, чтобы аппарат ЧК отражал соответствующие изменения в нашем международном положении". Политбюро решило опубликовать правительственное сообщение о том, что "враждебная... международная печать распространяет слухи о невозможности из-за органов ЧК иметь деловые отношения с Советской Россией", что несколько случаев "неправильных действий" чекистов подтвердились, правительство расследовало их и наказало виновных.
Это был недвусмысленный сигнал Западу о реальной готовности к налаживанию взаимоотношений. Зачем потребовался этот шаг, стало ясно уже на следующий день, 28 октября, когда советское правительство обратилось к ведущим державам с предложениями созыва международной конференции для решения всех спорных проблем (в том числе связанных с царскими долгами, блокировавшими выделение кредитов и приток серьезных инвестиций), кардинального улучшения отношений; признания советского режима и заключения всеобщего мира.
Решения Политбюро от 20 и 27 октября не только сузили права чекистов по отношению к иностранцам и в сфере международных отношений, но дали толчок к дальнейшему ограничению их полномочий и к началу реальной реорганизации всемогущего ведомства. Инициатором всего этого стал В. И. Ленин. 9 и 11 ноября СТО, а затем Политбюро поставили вопрос о сокращении штатов ВЧК. 10 и 15 ноября 1921 года Совнарком, обсудив вопрос о надзоре "за следствием", поручил разработать нормы, регулирующие взаимоотношения ВЧК и Наркомюста и устанавливающие надзор НКЮ за следственным аппаратом ВЧК, для чего была создана комиссия в составе Ф. Э. Дзержинского, Л. Б. Каменева и Д. И. Курского. Среди ее членов сразу же начались разногласия. Дзержинский выступил против сколько-нибудь серьезных сокращений в ЧК. При существовавшем штате в 105 тысяч человек он предлагал определить новый штат ВЧК в 100 тысяч основного состава и 25 тысяч резерва. На заседании Политбюро 25 ноября 1921 года было принято предложение Каменева и Курского - 90 тысяч основного состава человек и 15 тысяч резерва.
29 ноября Ленин написал записку Каменеву, в которой поддержал его и по другим вопросам, связанным с максимально возможным урезанием полномочий ВЧК, 1 декабря 1921 года набросал проект постановления Политбюро, в котором впервые поднял вопрос о возможном изменении ее названия. Вечером того же дня Политбюро поручило комиссии разработать проект документа, руководствуясь указаниями вождя. Дальше дело застопорилось. Лишь 18 декабря пленум ЦК рассмотрел проблему компетенции ВЧК, но на следующих заседаниях к обсуждению не вернулся. Между тем принятые 11-й партконференцией и IX съездом Советов резолюции о необходимости пересмотра положения о ВЧК и сужения ее компетенции предопределили победу ленинской линии.
В январе 1922 года, в период активного развития отношений с ведущими державами и подготовки Генуэзской конференции, последовали дальнейшие шаги. 5 января 1922 года Политбюро решило создать комиссию по ознакомлению с делом заведующего отделом стран Согласия Наркомата иностранных дел А. Ф. Нуортевы, арестованного чекистами еще в марте предыдущего года. 23 января было принято постановление Политбюро, которым Д. И. Курскому и И. С. Уншлихту поручалось разработать проект нового положения и внести его во ВЦИК. Подробные директивы комиссии предусматривали упразднение ВЧК и создание при НКВД Главного политического управления с существенно более узкими функциями. Вместе с тем подчеркивалась задача "сохранения максимально боевого аппарата ВЧК" и предлагалось введение в состав судей "особо выдвигаемых ВЧК лиц", что усиливало контроль чекистов за судебными органами.
26 января Уншлихт написал записку Ленину, в которой выразил свое несогласие с принятыми решениями. Он был готов даже принять новое название, но выступал против потери самостоятельного статуса и введения ГПУ в состав НКВД, а также против резкого урезания полномочий своего ведомства. Однако возражения Уншлихта и других чекистов (в частности, Я. X. Петерса, который написал Ленину о несвоевременности упразднения ВЧК) не возымели существенного эффекта. 2 февраля 1922 года Политбюро утвердило проект положения об "упразднении ВЧК" и, в то же время, пойдя на некоторые уступки чекистам, сохранило за ГПУ права военного ведомства в отношении снабжения и предусмотрело образование при НКВД коллегии ГПУ, утверждаемой Совнаркомом. 6 февраля 1922 года президиум ВЦИК принял декрет "Об упразднении ВЧК и о правилах производства обысков, выемок и арестов".
9 марта Политбюро утвердило положение о ГПУ и особых отделах. Особыми постановлениями права еще не созданного, по сути, ГПУ были расширены. Ему, по предложению И. С. Уншлихта, были предоставлены права вынесения "внесудебных приговоров с ведома президиума ВЦИК" по делам собственных сотрудников, "непосредственной расправы" над лицами, "уличенными в вооруженных ограблениях", и уголовниками, "пойманными с оружием в руках", а также ссылки и заключения в Архангельский концлагерь "подпольных анархистов, левых эсеров и уголовников-рецидивистов".
ГПУ на момент образования сохранило структуру ВЧК, но функции отделов были ограничены - борьба со спекуляцией и ведение общеуголовных дел возлагались на другие подразделения НКВД, отменялись права вынесения приговоров и внесудебных расправ, за исключением Коллегии ГПУ, вводилась децентрализация губернских органов ГПУ с подчинением их губисполкомам и действующих на основании особого для губернских отделов ГПУ положения.
Местные органы ГПУ состояли из областных отделов ГПУ (в автономных республиках и областях), губернских отделов и аппаратов уездных уполномоченных; особых отделов фронтов, военных округов и армий, особых отделений дивизий; особых отделов по охране границы; транспортных отделов. Положением предусматривалась организация аппаратов полномочных представителей в регионах или в границах военных округов.
На ГПУ и местные отделы возлагалась борьба с контрреволюционными преступлениями, шпионажем, охрана государственных тайн, путей сообщения и грузов, политическая охрана границ и борьба с контрабандой. Управлению передавались войска ВЧК, сведенные в отдельную армию ГПУ.
Уже 10 марта 1922 года Коллегия ГПУ издала приказ "О текущем моменте и задачах органов ГПУ по борьбе с контрреволюцией", обязывающий усилить оперативную работу по выявлению работающих на транспорте, предприятиях, в учреждениях эсеров, кадетов и монархистов, раскрытию эсеровских организаций и усилить контроль над иностранцами, находившимися на территории страны.
Изменение названия органов государственной безопасности и их переподчинение НКВД были политическим актом, поскольку основные функции остались прежними. Уже 27 апреля 1922 года Политбюро ЦК РКП(б) предоставило ГПУ внесудебное право расстрела на месте преступления бандитов и высылки уголовных элементов. Во время разработки Уголовного кодекса РСФСР в разделе "О контрреволюционных преступлениях", борьба с которыми возлагалась на ГПУ, по просьбе В. И. Ленина намеренно широко было сформулировано понятие контрреволюционного преступления, карающегося расстрелом или высылкой из страны.
Органы ГПУ имели право оперативной деятельности, создания агентурно-осведомительного аппарата на территории страны и за ее пределами, просмотра внутренней и международной корреспонденции, производства дознания, предварительного следствия, обысков, выемок и арестов, регистрации и сбора сведений на уличенных и подозреваемых в преступлении лиц, подавления вооруженных антисоветских выступлений. Внесудебные расправы допускались по постановлениям ВЦИК. Право производства арестов и обысков предоставлялось только после постановления ГПУ, губернских и областных отделов ГПУ и по ордеру, подписанному председателем. Срок предъявления обвинения арестованному ограничивался двумя неделями, а содержания под стражей - двумя месяцами. ГПУ занималось также выдачей разрешений на выезд за границу и въезд в страну иностранных и советских граждан.
Сотрудники ГПУ, как и ранее ВЧК, в вопросах снабжения продовольствием, обмундированием и т. п. приравнивались к военнослужащим Красной Армии.
В "Договоре об образовании СССР", принятом I Всесоюзным съездом Советов 30 декабря 1922 года, предусматривалось учреждение при Совете народных комиссаров СССР объединенного Государственного политического управления. 2 ноября 1923 года Президиум ЦИК СССР принял по этому поводу постановление, а 15 ноября утвердил "Положение об ОГПУ и его органах". Как ранее ВЧК, ОГПУ приобрело статус центрального государственного учреждения, а председатель ОГПУ теперь входил в состав правительства. Позднее, в соответствии с Конституцией 1924 года. Управление окончательно получило статус союзного наркомата. По Положению на ОГПУ возлагались организация на всей территории Союза оперативной деятельности, руководство республиканскими ГПУ и охрана границы.
1 декабря 1922 года был введен новый штат центрального аппарата ГПУ (2213 человек). Он состоял из трех управлений - Секретно-оперативного управления (начальник В. Р. Менжинский), Экономического управления (начальник 3. Б. Кацнельсон), Административно-организационного управления (начальник И. А. Воронцов); Штаба войск ГПУ; трех отделов - Специальный отдел (начальник Г. И. Бокий), Юридический отдел (начальник В. Д. Фельдман), Отдел снабжения (начальник С. Ф. Сидоров); Специального отделения, обеспечивавшего охрану руководителей страны (начальник А. Я. Беленький, с 1 октября 1928 года - А. М. Шанин); Секретариата Коллегии ГПУ (начальник Р. Д. Езерская) и Курсов ГПУ (начальник В. Д. Фельдман).
Высшим органом ГПУ являлась Коллегия при председателе ГПУ, имевшая право издавать приказы, обязательные для исполнения всеми подразделениями. В ее состав в конце 1922 года входили нарком внутренних дел и председатель ГПУ Ф. Э. Дзержинский, заместитель председателя И. С. Уншлихт, начальник Секретно-оперативного управления В. Р. Менжинский, начальник Особого отдела Г. Г. Ягода, начальник Восточного отдела Я. X. Петере, начальник Специального отдела Г. И. Бокий, начальник Петроградского губотдела ГПУ С. А. Мессинг, начальник Московского губотдела ГПУ Ф. Д. Медведь. 21 декабря 1922 года в штат аппарата Коллегии была введена должность уполномоченного по особым делам при председателе ГПУ, ее занимал М. М. Луцкий.
30 августа 1923 года руководство партии назначило наркомом внутренних дел А. Г. Белобородова, а Ф. Э. Дзержинский остался только председателем ГПУ. 18 сентября 1923 года он был назначен председателем Объединенного государственного политического управления, первым заместителем председателя стал по совместительству с должностью начальника СОУ В. Р. Менжинский, вторым заместителем - заместитель начальника СОУ и начальник Особого отдела Г. Г. Ягода. В марте 1926 года заместителем председателя был назначен по совместительству начальник ИНО М. А. Трилиссер.
После смерти Ф. Э. Дзержинского 20 июля 1926 года ОГПУ возглавил с 30 июля 1926 года бывший первым заместителем председателя ОГПУ В. Р. Менжинский. В память о первом руководителе советских органов государственной безопасности Дивизии ОСНАЗ при Коллегии ОГПУ было присвоено имя Ф. Э. Дзержинского.
30 июля 1927 года начальником Секретно-оперативного управления вместо Менжинского стал Ягода, по совместительству к своим должностям, а ИНО был выведен из структуры СОУ.
27 октября 1929 года изменился состав заместителей председателя: Г. Г. Ягода, освобожденный от руководства СОУ и 00, был назначен первым заместителем, полпред ОГПУ в Ленинградском военном округе (руководитель органов госбезопасности на всем Северо-Западе) С. А. Мессинг - вторым зампредом и начальником ИНО. В новый состав Коллегии вошли полномочный представитель ОГПУ в ЗСФСР С. Ф. Реденс, начальник Экономического управления Г. Е. Прокофьев, начальник Транспортного отдела Г. И. Благонравов, выбыли - Я. X. Петере, И. П. Павлуновский, перешедшие на партийную и хозяйственную работу, остались - начальник Спецотдела Г. И. Бокий, полномочный представитель ОГПУ в УССР В. А. Балицкий и полпред ОГПУ в Северо-Кавказском крае Е. Г. Евдокимов (назначен членом Коллегии 10 днями ранее), М. А. Трилиссер был уволен с должностей зампреда и начальника Иностранного отдела фактически за неумеренную критику "правого уклона" в дискуссиях на партийных собраниях в ОГПУ.
К этому же времени относится традиционно считающийся первым случай расстрела чекиста по "политическому делу" (за коррупцию, должностные преступления чекистов расстреливали и ранее, во времена Дзержинского). За связь с высланным из СССР Л. Д. Троцким по решению Коллегии ОГПУ был расстрелян сотрудник Иностранного отдела, бывший левый эсер и участник убийства в 1918 году германского посла Мирбаха Я. Г. Блюмкин. Через два месяца, в январе 1930 года, по таким же мотивам был расстрелян уполномоченный ИНФО ОГПУ Б. Л. Рабинович, еще через два месяца - еще один сотрудник центрального аппарата ОГПУ Г. А. Басов (по обвинению в шпионаже), в ноябре того же года по такому же обвинению - уполномоченный КРО ОГПУ Н. Н. Жихарев, в апреле 1931 года - начальник Томского горотдела ОГПУ Б. Д. Грушецкий ("должностные преступления и связь с чуждым элементом"), в апреле 1933 года - сотрудник охраны ОГПУ В. И. Сафонов ("шпионаж"), в августе того же года по аналогичному обвинению - надзиратель внутреннего изолятора ОГПУ Т. А. Забабурин, через 3 месяца, в ноябре 1933 года, также за шпионаж - сотрудник центрального аппарата ОГПУ Б. М. Севастьянов и помощник инспектора общего отдела ПП ОГПУ Московской области М. А. Капустин. За первую половину 1934 года, до ликвидации ОГПУ и утраты чекистами права вынесения внесудебных приговоров, успели расстрелять еще двоих - сотрудника ПП ОГПУ по Средне-Волжскому краю (Самара) А. С. Чаадаева за "участие в антисоветской организации" и сотрудника центрального аппарата ОГПУ X. Я. Агитштейна (вместе с двумя земляками-бессарабцами) за "шпионаж". Все они были посмертно реабилитированы. Полная статистика по нереабилитированным до сих пор неизвестна.
По состоянию на 1 декабря 1929 года центральный аппарат ОГПУ после введения нового штата включал следующие подразделения: Секретно-оперативное управление (начальник Е. Г. Евдокимов) - Секретный отдел (начальник Я. С. Агранов), Контрразведывательный отдел (начальник Я. К. Ольский). Особый отдел (начальник Я. К. Ольский), Информационный отдел и политконтроль (начальник Н. Н. Алексеев), Оперативный отдел (начальник К. В. Паукер), Восточный отдел (начальник Т. М. Дьяков), Отдел центральной регистратуры (начальник А. М. Шанин); Главное управление Пограничной охраны и войск ОГПУ (начальник И. А. Воронцов); Экономическое управление (начальник Г. Е. Прокофьев); Специальный отдел ОГПУ (начальник Г. И. Бокий); Иностранный отдел ОГПУ (начальник С. А. Мессинг); Транспортный отдел ОГПУ (начальник Г. И. Благонравов); Административно-организационное управление (начальник И. А. Воронцов) - Организационный отдел (начальник И. М. Островский), Административный отдел (А. П. Флексер), Хозяйственный отдел (начальник А. К. Колесников), Отдел службы связи (начальник П. А. Яковлев), Тюремный отдел (начальник К. Я. Дукис), Суздальский, Верхнеуральский, Ярославский и Челябинский политизоляторы, вспомогательные хозяйственные службы; а также: Особоуполномоченный при председателе ОГПУ (на правах отдела; М. М. Луцкий), Особая инспекция при Коллегии ОГПУ, Центральное шифровальное бюро ОГПУ, Специальное отделение при Коллегии ОГПУ, Особоуполномоченный при Коллегии ОГПУ (В. Д. Фельдман).
25 апреля 1930 года в ОГПУ было создано Управление исправительно-трудовых лагерей (начальник Ф. И. Эйхманс, с 16 июня 1930 года - Л. И. Коган).
После упразднения по решению Политбюро ЦК партии от 5 декабря 1930 года наркоматов внутренних дел союзных и автономных республик на ОГПУ возлагалось руководство деятельностью милиции и уголовного розыска; 30 декабря 1930 года в связи с этим было организовано новое центральное подразделение - Главная инспекция по милиции и уголовному розыску, преобразованная 27 декабря 1932 года в Главное управление рабоче-крестьянской милиции при ОГПУ (начальник Г. Е. Прокофьев).
Летом 1931 года в руководстве ОГПУ произошли кадровые изменения, в частности, Г. Г. Ягода из первых заместителей был переведен во вторые, а первым назначен бывший замнаркома РКИ СССР И. А. Акулов, была введена должность третьего заместителя (назначен бывший председатель ГПУ Украины В. А. Балицкий, вместе с которым в центральный аппарат пришло значительное количество украинских чекистов). С. А. Мессинг, Я. К. Ольский, И. А. Воронцов, полпред ОГПУ по Московской области Л. Н. Бельский вовсе были уволены из ОГПУ, Евдокимов переведен в Среднюю Азию и т. д. Как разъяснялось в письме Политбюро секретарям республиканских и региональных партийных комитетов, причинами перестановок явились участие работников центрального аппарата в групповой борьбе против руководства ОГПУ (то есть Ягоды, так как Менжинский был тяжело болен), обращение вышеназванных чекистов в ЦК партии и "необоснованная критика" работы органов ОГПУ. В частности, они называли "липовым" дело "Весна", по которому в 1930-1931 годах было репрессировано несколько тысяч военных специалистов и командиров Красной Армии, в основном бывших офицеров.
31 июля 1931 года из Коллегии ОГПУ выбыли С. А. Мессинг и Е. Г. Евдокимов, введены новый начальник Иностранного отдела А. X. Артузов, начальник Секретного отдела Я. С. Агранов и начальник Отдела кадров Д. А. Булатов. С 5 августа по 3 декабря 1931 года в состав Коллегии входил полномочный представитель ОГПУ в ЗСФСР Л. П. Берия, избранный 14 ноября 1931 года первым секретарем ЦК КП(б) Грузии. Произошли и изменения в руководстве региональных представительств ОГПУ.
25 июля 1931 года на правах самостоятельного отдела ОГПУ был учрежден Отдел кадров, образованный на базе ликвидированного Административно-организационного управления ОГПУ (начальник - бывший заведующий оргинструкторским отделом ЦК партии Д. А. Булатов).
18 августа 1931 года самостоятельность приобрели Финансовый отдел ОГПУ (начальник Л. И. Берензон) и 16 октября - Мобилизационный отдел (начальник Д. А. Булатов).
На основании постановления Совнаркома СССР от 23 марта 1932 года на ОГПУ была возложена еще одна не имеющая прямого отношения к обеспечению государственной безопасности функция - руководство пожарной охраной в СССР. Отдел военизированной пожарной охраны (начальник М. Е. Хряпенков) с 13 октября 1933 года входил в состав Главного управления пограничной охраны и войск ОГПУ.
В октябре 1932 года И. А. Акулов, пытавшийся наладить партийный контроль в органах ОГПУ (это была одна из первых и не очень удачная попытка) и не нашедший должного контакта с чекистами, перешел на партийную работу (с 1933 года назначен прокурором СССР), должность первого заместителя председателя ОГПУ оставалась вакантной, а поскольку В. Р. Менжинский часто болел, то ведущую роль в руководстве ОГПУ стал играть Г. Г. Ягода.
По состоянию на 1 января 1934 года председателем ОГПУ оставался В. Р. Менжинский, заместителями председателя являлись Г. Г. Ягода, Я. С. Агранов (с февраля 1933 года), по совместительству - начальник Главного управления рабоче-крестьянской милиции Г. Е. Прокофьев и председатель ГПУ Украины В. А. Балицкий, основную часть времени проводивший в Харькове. Центральный аппарат состоял из управлений, самостоятельных отделов и подразделений: Секретариат Коллегии (секретарь П. П. Буланов), Управление делами (управляющий И. М. Островский), Отдел кадров (начальник Д. А. Булатов), Особый отдел (начальник М. И. Гай), Секретно-политический отдел (начальник Г. А. Молчанов), Экономическое управление (начальник Л. Г. Миронов), Иностранный отдел (начальник А. X. Артузов), Оперативный отдел (начальник К. В. Паукер), Транспортный отдел (начальник В. А. Кишкин), Специальный отдел (начальник Г. И. Бокий), Учетно-статистический отдел (начальник Я. М. Генкин), Особоуполномоченный при Коллегии ОГПУ (В. Д. Фельдман), Финансовый отдел (начальник Л. И. Берензон), Главное управление пограничной охраны и войск ОГПУ (начальник М. П. Фриновский), Главное управление рабоче-крестьянской милиции (начальник Г. Е. Прокофьев), Главное управление лагерей (начальник М. Д. Берман), Мобилизационный отдел (начальник А. Г. Лепин), Инженерно-строительный отдел (начальник А. Я. Лурье).
На XVII съезде ВКП(б) (26 января - 10 февраля 1934 года) заместители председателя ОГПУ Г. Г. Ягода и В. А. Балицкий в отличие от председателя В. Р. Менжинского (умершего 10 мая 1934 года) были избраны в ЦК ВКП(б); кандидатом в члены ЦК был избран член Коллегии ОГПУ, полпред ОГПУ в Дальневосточном крае Т. Д. Дерибас; тогда же съезд принял резолюцию "О партийном и советском строительстве", в которой, в частности, говорилось об упразднении в народных комиссариатах института коллективного руководства - коллегий.
20 февраля 1934 года И. В. Сталин предложил Политбюро обсудить вопрос об учреждении НКВД СССР, который бы включал органы ОГПУ. Уже на следующий день, 21 февраля, Г. Г. Ягода передал Л. М. Кагановичу проект постановления ЦИК СССР об организации НКВД СССР и Особого совещания при наркоме внутренних дел с правом вынесения внесудебных приговоров.
Почти через полгода, после долгого обсуждения, 10 июля 1934 года решение Политбюро об образовании НКВД СССР и Особого совещания было оформлено решением ЦИК.
С момента образования основным и самым многочисленным в ГПУ-ОГПУ являлось Секретно-оперативное управление. В декабре 1922 года оно включало десять отделов: Секретный отдел (начальник Т. П. Самсонов), Особый отдел (начальник Г. Г. Ягода), Контрразведывательный отдел (начальник А. X. Артузов), Транспортный отдел (начальник Г. И. Благонравов), Иностранный отдел (начальник М. А. Трилиссер), Восточный отдел (начальник Я. X. Петерс), Оперативный отдел (начальник И. 3. Сурта), Информационный отдел (начальник В. Ф. Ашмарин), Отдел центральной регистратуры (начальник А. М. Шанин), Отдел политконтроля (начальник Б. Е. Этингоф). 30 июля 1927 года начальником Управления был назначен Г. Г. Ягода; тогда же в прямое подчинение Коллегии ОГПУ из Управления вывели Иностранный отдел. С 26 октября 1929 года Управление возглавил Е. Г. Евдокимов. С ростом возлагавшихся политическим руководством страны на ОГПУ задач статус самостоятельных отделов получили Транспортный отдел (с 28 октября 1929 года). Оперативный отдел (с 5 марта 1931 года) и др. В августе 1931 года после отстранения Е. Г. Евдокимова должность начальника Управления оставалась вакантной, а Управление состояло только из двух отделов - Секретно-политического и Отдела центральной регистратуры. 16 апреля 1932 года Управление было упразднено, а отделы перешли в непосредственное подчинение председателю и Коллегии ОГПУ.
Руководство ГПУ в ходе структурной перестройки 1922 года пыталось устранить параллельную деятельность оперативных подразделений. Контрразведкой и борьбой с контрреволюцией одновременно занимались особые отделы, транспортные органы. Иностранный и Секретный отделы. В мае 1922 года Коллегия ГПУ постановила реорганизовать Особый отдел и соответственно особые отделы на местах, учредив на основе их кадров Контрразведывательный отдел в составе Секретно-оперативного управления и новый Особый отдел. Его деятельность теперь ограничивалась осведомительно-информационной работой - изучением настроений личного состава Красной Армии и Военно-Морского Флота - и раскрытием значительных должностных преступлений в армии.
Задачами Контрразведывательного отдела являлись борьба с зарубежными разведками, белогвардейскими организациями и контрреволюционными партиями как за рубежом, так и на территории РСФСР - на промышленных предприятиях, транспорте, в государственных учреждениях, частях и соединениях армии и флота, борьба с заговорами, бандитизмом, а также незаконными переходами границы и контрабандой. Отдел состоял из десяти, с конца 1922 года из семи отделений: осведомительная работа в иностранных представительствах;