1936 г. – Учетно-архивный, с ноября 1936 г. – Учетно-регистрационный отдел (УРО) – Я. М. Генкин) осуществлял хранение оперативных материалов, регистрацию и учет дел арестованных, вел справочную и статистическую работу, а также главную оперативную картотеку. Специфической деятельностью занимался Специальный отдел – шифрование и дешифрование, охрана государственной тайны, осуществление контроля за сохранением секретности переписки в НКВД, партийных и государственных органах и т. д.
Отдел был создан в 1921 г., когда по решению Малого Совнаркома при ВЧК заработала криптографическая служба, получившая со временем название «специальной». По инициативе Ф. Э. Дзержинского ее руководителем стал Глеб Иванович Бокий. Тогда же появился и приказ, предписывающий центральным и периферийным органам «чрезвычайки» направлять в Спецотдел обнаруженные при обысках и арестах, а также полученные агентурным путем и даже случайно шифры, ключи к ним, шифрованные материалы и т. д. Вскоре в комплексе связи Советского Союза была введена и более надежная (криптостойкая) шифрсистема.
За короткое время с участием Г. Бокого удалось организовать почти образцовую работу по криптографии и радиоразведке. В частности, начала функционировать радиопеленгаторная станция № 3, положившая начало советской военно-морской радиоразведке. С учетом особой значимости Спецотдела, будучи формально в структуре ОДПУ – НКВД, реально он находился в ведении ЦК ВКП(б). Ситуация кардинально изменилась с приходом в НКВД Н. И. Ежова. Реорганизация ведомства, а также изгнание «птенцов» Генриха Ягоды кардинально отразились не только на отделе, но и на судьбе его руководителя. Глебу Бокому была оказана «особая» честь: 16 мая 1937 г. его арестовали в кабинете наркома. В ноябре вынесли смертный приговор, вскоре расстреляли. Реабилитирован в 1956 г.
На Иностранный отдел (ИНО – А. Х. Артузов, с мая 1935 г. – А. А. Слуцкий) возлагались внешнеполитическая, экономическая, научно-техническая разведка и внешняя контрразведка. Отдел кадров возглавлял Я. М. Вейншток. Задача отдела заключалась в подборе и обучении кадров для ГУГБ.
Аналогичные функции и задачи возлагались на аппараты территориальных органов государственной безопасности. Общим в деятельности структурных подразделений ГУГБ было одно: агентурно-оперативная работа.
7 октября 1935 г. ЦИК и Совнарком СССР приняли постановление о введении для личного состава органов и войск НКВД специальных персональных званий. Для высшего начальствующего состава ГУГБ ими стали звания комиссаров и майоров государственной безопасности, средний и старший состав ограничился званиями наподобие армейских. Наркому внутренних дел СССР предусмотрели звание генерального комиссара госбезопасности. Для военнослужащих войск НКВД вводились такие же воинские звания, как в РККА.
В ноябре, в зависимости от занимаемой должности, начальствующий состав ГУГБ одел новые, определенного размера, количества и цвета звезды
