«Специальный отдел при ОГПУ считает такой темп, взятый штабом РККА в разрешении вопроса об организации военно-морской части по дешифровке, слишком медленным. Желательно ускорить разрешение этого вопроса, т.е. в отношении дешифровальной службы РККА отстала от армий своих возможных противников, у которых это дело давно налажено».
И только в августе 1930 года был создан первый дешифровальное подразделение при штабе РККА. Находилось оно в оперативном подчинении Спецотдела при ОГПУ и фактически входило в его состав. По штату оно называлось 13-м сектором 7-го отдела Штаба РККА. Приказом РВС СССР от 5 августа 1930 года было утверждено «Положение о 7-ом отделе Штаба РККА».
В одном из пунктов этого Положения было записано, что на отдел возлагались вопросы организации дешифровальной работы, руководства и контроля за ней. «Начальник 7-го отдела в специальном отношении подчиняется начальнику Специального отдела при ОГПУ». Начальником военно-морского дешифрувального сектора было решено назначить помощника начальника Спецотдела при ОГПУ Павла Хрисанфовича Харкевича (1896-?).
Развитие военной дешифровальной службы продвигалось быстрыми темпами. Менее чем через год 13-й дешифровальный сектор был реорганизован в 5-й отдел 4-го управления штаба РККА, но как и раньше остался в оперативном подчинении Спецотдела при ОГПУ. Все работники отдела имели хорошую языковую подготовку и зарекомендовали себя способными аналитиками. Ведущими специалистами в дешифровке военных шифров того времени были Борис Владимирович Звонарёв (1899-1944), Карл Густавович Тракман (1887-1938), Павел Матвеевич Шунгский (1893-?) и др.
В области подготовки и обучения кадров Спецотдел ОГПУ сотрудничал со специальной дешифровально-разведывательной службой (далее – ДРС) ГШ РККА. 15 ноября 1929 года были открыты «Курсы совершенствования командного состава РККА», на которых готовились офицерские кадры шифровальной службы. Тогда же в Херсоне в режиме строжайшей секретности был организован отдел по подготовке офицеров шифровального дела. Именно выпускники херсонского отдела впоследствии принимали участие в разработке малогабаритной дисковой кодирующей машины К-37 «Кристалл», осуществившей настоящую революцию в шифровальном деле.
В январе 1931 года были созданы объёдиненные дешифровальные трёхмесячные курсы по подготовке криптологов дипломатического и военного направлений с ежегодным выпуском 25 человек; а в 1932 году при ДРС – Центральные курсы по подготовке дешифровальщиков. Начальником курсов был назначен П.Х. Харкевич, а преподавателями – И.А. Зыбин, И.М. Ямченко, Б.А. Аронский, Кильдишев. В 1934 году начальником этих курсов был назначен опытный криптолог Сергей Григорьевич Андреев, который работал в Спецотделе с 1921 года.
Эти курсы затем вошли в состав спецотделения Разведывательных курсов усовершенствования командного состава (РКУКС). С 1 сентября 1939 года на этих курсах началась подготовка военных криптологов. Два выпуска – 1939 и 1940 годов в количестве 107 человек были направлены на укомплектование 10-го отдела РУ ГШ и
