5 мая 1921 года считается датой образования единой шифровальной службы страны.

В то же время история криптографической службы является неотъемлемой частью истории Российского государства. Становление этой службы происходило на протяжении веков. Первые специалисты-тайнописцы появились в России в 1549 году, когда был образован Посольский приказ, осуществлявший общее руководство внешней политикой России.

С XVII века дипломатическая переписка начинает переправляться не только через курьеров, но и по почте. В начале XVIII века Петр I учредил Посольскую походную канцелярию, ведавшую политической перепиской. С 1709 года она называлась Посольской канцелярией. В ней была сосредоточена работа по шифрованию и расшифровке переписки Петра и его приближенных, а также созданию шифров.

После образования Коллегии иностранных дел созданием и рассылкой шифров занималась первая экспедиция.

С учреждением согласно Манифеста Александра I 8/20 сентября 1802 года МИД Российской империи были образованы три секретных экспедиции: первая - цифирная (шифровальная), вторая - цифирная (дешифровальная) и третья - газетная (служба перлюстрации).

В начале XIX века в МИД был организован цифирный комитет, в состав которого вошли наиболее опытные криптографы.

В 1828 году трем секретным экспедициям канцелярии МИД было присвоено наименование «Департамент внешних сношений».

В 1846 году наименование трех секретных экспедиций «Департамент внешних сношений» было заменено на «Особую канцелярию министерства».

Шифры МИД разделялись на секретные и несекретные. Помимо них вводились шифры специального назначения.

В 1862 году Особая (секретная) канцелярия была объединена с общей канцелярией.

В конце XIX века при канцелярии министра был шифровальный департамент с двумя отделениями. В одном отделении шифровались сообщения министерства послам и консулам за границу и разбирались полученные от них сообщения. В другом - разбирались копии с перлюстрированных шифротелеграмм.

В годы Первой мировой войны в МИД России организацией всей шифровальной службы, как и ранее, ведал цифирный комитет.

В структуре Народного комиссариата по иностранным делам (НКИД) в 1917 году было пять отделов, в том числе типографский, который занимался изданием дипломатических документов, в нем же работала группа шифровальщиков.

В связи с дальнейшим расширением деятельности Наркоминдела постепенно изменялась его структура. В декабре 1917 года в структуре НКИД РСФСР значился «Отдел шифровальный и печатный».

По сведениям, составленным на 29 апреля 1918 года, в составе НКИД находился самостоятельный Шифровальный отдел. После реорганизации наркомата в августе 1918 года, когда Канцелярия НКИД по делам Запада была переименована в Отдел Запада, в него были включены несколько отделений, комиссий, а также шифровальное отделение. В конце 1920 года в НКИД разрабатывается «Циркуляр о шифрах».

1 марта 1921 года заведующим шифровальной частью был назначен И.М.Иохель, бывший заведующий канцелярией наркома.

5 мая 1921 года постановлением Малого Совнаркома был образован Специальный отдел ВЧК-ГПУ, его начальником назначен Г.И.Бокий. Эта дата считается началом создания единой криптографической шифровальной службы страны.

6 июня 1921 года Совет народных комиссаров утвердил Положение о Народном комиссариате по иностранным делам. В статье 11 этого  положения определялись задачи, стоявшие перед Управлением делами НКИД, важнейшей из которых было также осуществление шифровальной связи.

В приложении к отчету НКИД РСФСР за 1922 год съезду Советов была приведена структура НКИД, согласно которой «Шифровальное отделение» по-прежнему входило в состав Управления делами НКИД и называлось «Шифровальной частью».

6 июля 1923 года вторая сессия ЦИК СССР утвердила Конституцию СССР, в соответствии со статьями 49 и 51 которой был образован НКИД СССР.

12 ноября 1923 года четвертая сессия ЦИК СССР утвердила новое положение о НКИД СССР. В результате шифровальная часть была названа «шифровальной и секретной частью». Она выводится из состава Управления делами и становится структурной частью секретариата коллегии.

7 января 1925 года комиссия при секретно-шифровальной части НКИД заслушала доклад о работе секретной части и постановила слить секретную и шифровальную части и именовать вновь созданную часть «Секретно-шифровальной частью НКИД». А уже 7 марта 1925 года было принято решение о ликвидации секретной части, а вместо нее учреждено в составе шифровальной части III отделение (секретное),
9 марта 1925 года Коллегия НКИД утвердила это решение.

В конце 1925 года существовавшие в НКИД в качестве организационных единиц «части» и «отделы» были переименованы в «отделы» и «подотделы». Секретариат коллегии стал функционировать на правах управления, секретно-шифровальная часть была переименована в секретно-шифровальный отдел, а входившие в его состав три отделения были, соответственно, переименованы в первый, второй и третий подотделы. В ведение шифровального отдела входил также и секретный архив НКИД СССР.

В 1927 году вместо шифровального отдела, состоявшего из трех подотделов, был создан секретно-шифровальный отдел, состоявший уже из двух подотделов. Третий подотдел был ликвидирован, и создан секретный архив.

12 февраля 1930 года административная комиссия НКИД рассмотрела вопрос об улучшении работы и изменении структуры секретариата коллегии и постановила выделить из состава секретариата секретно-шифровальный отдел как самостоятельный отдел, подчиненный непосредственно одному из членов коллегии. 3 марта 1930 года это решение комиссии было утверждено Коллегией НКИД СССР.

В мае 1939 года секретно-шифровальный отдел НКИД СССР был реорганизован. Из него был выделен как самостоятельный отдел шифровальный с непосредственным подчинением заместителю наркома и переименован в 10-й отдел НКИД. Все функции секретно-шифровального отдела, не относившиеся к 10-му отделу, были, соответственно, переданы отделу кадров, управлению делами и политархиву. Наименование должности «шифровальщик» было упразднено, и были введены должностные названия, принятые в оперативных отделах НКИД (ответственный референт, старший  референт, референт и младший референт).

Во время Великой Отечественной войны шифровальщиками работали в основном женщины, поскольку мужчины добровольцами ушли в ополчение.

В марте 1946 года НКИД СССР был переименован в МИД СССР.

В 1989 году 10-й отдел был преобразован в Управление связи МИД.

В 1992 году Управление связи было включено в созданный Департамент по административным вопросам (ДАВ) МИД России.

В августе 1996 года Управление связи выводится из ДАВ.

С 1 февраля 2000 года Управление связи переименовано в Департамент специальной связи (ДСС).

В разные годы руководителями шифровальной службы НКИД - МИД были Н.Г.Маркин, И.М.Иохель, В.Д.Цибизов, М.Ф.Безухов, Э.К.Липко, М.С.Залетин, Ю.И.Бондаренко, И.В.Климов, Ф.М.Шляков, Ф.М.Рыжих, Н.С.Жеребцов, И.И.Лобанов, А.И.Калинин, Ю.И.Канцуров, В.Н.Семенов.