Другим значительным шагом Сталина, предпринятым им после смерти Свердлова, было привлечение на свою сторону земляка Енукидзе, заменившего Аванесова на посту секретаря ВЦИК (Всероссийского Центрального исполнительного комитета). Как преемник Аванесова, Енукидзе также взял на себя негласное управление системой безопасности Кремля. Приблизительно в это же время Сталин заручился поддержкой старейшего члена ЧК Ивана Ксенофонтова. Будучи уже Генеральным секретарем партии, Грузин смог провести Ксенофонтова во ВЦИК. Ксенофонтов, о котором известно очень немногое, занимал также пост управляющего делами партии, однако в действительности он выполнял функции офицера связи между Сталиным и секретной службой. Этот в определенном смысле загадочный соратник Хозяина также мог пойти далеко в системе, личной охраны диктатора, если бы и он не умер естественной смертью в 1926 году.
Механизмом, с помощью которого Сталин добивался и удерживал верховную власть, был партийный секретариат, который он возглавлял. Функции его секретариата очень сильно отличались от обычных. Конечно же там занимались и административными делами, но самая главная задача этого органа в сталинский период заключалась в приобретении власти, для чего необходимо было собирать политическую информацию и находить способы влияния на нужных людей, а также формировать кадры для будущей службы безопасности. После смерти Ленина главной обязанностью секретариата стало удержание власти в руках Сталина. В результате чего ЧК и ее преемники уже с 1924 года стали утрачивать свое влияние. Сталинский секретариат и его столь же неправильно именуемые подразделения приняли на себя обязанности по уничтожению всех действующих и потенциальных оппонентов Сталина — вплоть до партийных иерархов и начальников службы безопасности. В итоге, несмотря на свое — безобидное с виду — название, секретариат превратился в помесь опричнины, Преображенских гвардейцев, Третьего отделения и «охранки». Кое-кто называл его тайным кабинетом Сталина, но он представлял из себя нечто значительно большее.
С уходом в другие структуры Аванесова и Ксенофонтова для курирования всех связей Сталин нуждался в преданных лакеях, способных возглавить секретариат. С этой целью он снова пересортировал свой Комиссариат по национальным делам, позаимствовав его секретаря Ивана Товстуху, ветерана революции и закаленного коммуниста. Официальные советские источники сообщают, что Товстуха работал в партийном аппарате с 1921 года; в 1926–1930 годах он был помощником директора Института Ленина, а после 1930 года — заместителем директора Института Маркса-Энгельса — Ленина. В Действительности же на протяжении почти всего периода 1921–1930 годов он ведал организацией и управлением сталинского секретариата, а после 1924 года стал начальником секретного отдела секретариата — еще одного названия верхушки сталинской «охранки». Работа Товстухи в институтах являлась лишь прикрытием, не слишком отвлекавшим от основных обязанностей. Единственной помехой в его работе стал туберкулез, и в 1930 году Товстуху отправили в отставку. Но когда в 1935 году этот партийный функционер умер, важность его персоны и проделанной им работы были подчеркнуты тем фактом, что он был погребен у Кремлевской стены, а на похоронах присутствовало впечатляющее количество высших чинов секретариата, личной охраны Сталина и секретной службы.
В годы своего формирования секретариат всегда действовал очень осторожно и скрытно, зачастую конспиративно, что скорее отражало восточный характер Грузина, чем было вызвано необходимостью. Даже несмотря на то, что Сталин имел большое влияние на Дзержинского, он дождался его смерти в 1926 году и только после этого принялся укреплять систему личной охраны. А когда бывший помощник и земляк Дзержинского Менжинский, все еще причинявший Сталину некоторое беспокойство, по должностной линии принял на себя руководство ОГПУ, секретариат усовершенствовал систему личной охраны и преобразовал ее в специальный оперативный отдел, получивший название ОПЕРОД.
В функции ОПЕРОДа, номинально являвшегося ответвлением ОГПУ, входила охрана партийных и государственных лидеров. На самом же деле им управлял секретариат, и основная обязанность ОПЕРОДа заключалась в обеспечении личной безопасности Сталина, а также слежке за другими партийными иерархами.
Смерть Дзержинского не только позволила Сталину организовать эффективную систему личной охраны, но и предоставила ему полный контроль над органами — с того самого момента и вплоть до смерти Грузина в 1953 году. Однако еще при жизни Дзержинского Сталин с помощью Ягоды, который полностью повиновался ему, держал в своих руках бразды управления секретной службой.
Одним словом, реорганизация охраны и формирование ОПЕРОДа не вызвали почти никаких трудностей. Беленький был освобожден от должности начальника охраны, и вскоре в московском ОГПУ о таком забыли. Вместо него Сталин назначил начальником ОПЕРОДа венгра Карла Паукера. Надо сказать, что Паукер оказался одним из самых удивительных проходимцев революционной эпохи. На закате Австро-венгерской империи он работал в Будапештском оперном театре парикмахером, а во время Первой мировой войны был призван в армию Франца-Иосифа и послан на восточный фронт, откуда и дезертировал к русским (скорее всего воспользовавшись первым удобным случаем). Никому не известно, каким образом этот прощелыга попал в сталинское окружение, хотя, по некоторым сведениям, ему покровительствовал Власик. Как бы там ни было, Паукер был настоящим чудовищем, отдаленно напоминавшим опричников из свиты Ивана Грозного, а также ярким примером дегенерации бюрократической системы Сталина. Законченный лизоблюд, этот цирюльник из Будапешта однажды своими кривляньями до слез насмешил Грузина, изображая перед ним умолявшего о пощаде Зиновьева. Но Паукер не только умел развеселить Сталина; вождь настолько доверял ему, что даже позволял брить себя.
Со становлением ОПЕРОДа сталинская система личной охраны приобрела законченные черты. Несмотря на расширения, изменения в названиях и смену некоторых персон, сущность этой системы сохранялась до самой смерти диктатора. Верхушка личной охраны подчинялась только Сталину. Опираясь на нее, Грузин мог полностью управлять партией и правительством, включая конечно же и службу органов безопасности. С помощью своей элитной гвардии он мог свергать с должности, сажать в тюрьму, высылать или казнить любого советского гражданина, невзирая на его ранг и положение.
Несмотря на чрезвычайные полномочия ОПЕРОДа, комендантом Кремля по-прежнему оставался Петерсон. Однако авторитет этого латыша к 1926 году практически свелся к нулю. С этого момента, на протяжении всей эпохи правления Сталина, Петерсон и последующие кремлевские коменданты играли лишь роль обыкновенных администраторов охраны и исполнителей чужих приказаний. Все главные функции комендатуры Кремля принял на себя начальник ОПЕРОДа и его преемники.
Одновременно с формированием ОПЕРОДа были произведены важнейшие преобразования в организации управления системой личной безопасности, то есть секретариата. Прогрессирующая болезнь Товстухи ограничивала его активность на посту главы секретариата. Этот недостаток был восполнен Поскребышевым, который к 1927 году стал все чаще исполнять обязанности Товстухи, а после 1930 года полностью взял их на себя. Почти не сохранилось сведений о прошлом Поскребышева. Известно лишь то, что он прибыл из Средней Азии и стал (возможно, по протекции Товстухи) членом секретариата Сталина где-то в середине двадцатых годов. Самой примечательной чертой его характера являлась осторожность. И, как следствие этого, он был чрезвычайно немногословен. За длительный период пребывания Поскребышева в роли «Пятницы» вождя и его «второго я» он сопровождал многочисленные иностранные делегации, наносившие визиты Сталину, но никто из посетителей впоследствии не смог припомнить, чтобы Поскребышев произвел на них большее впечатление, чем обыкновенный охранник у дверей. Он, кстати, никогда не позволял себе сниматься рядом с диктатором, хотя Власик был неплохим фотографом-любителем.