Заместители начальника — начальники Управления «С» (нелегальная разведка): А. М. Коротков (16.7.54 — 6.9.55 и. о., 6.9.55–23.3.57), А. А. Крохин (3.57–58 г.), М. С. Цымбал (61–66), В. А. Кирпиченко (5.74 — 8.79), Ю. И. Дроздов (14.11.79 — 3.8.91).
Заместители начальника — начальники Управления «Т» (научно-техническая разведка): М. И. Липатов (2.74–75), Л. С. Зайцев (75–91)
Заместители начальника по кадрам — начальники отдела кадров: В. В. Мозжечков (61–4.69), Е. Т. Синицын (11.4.69–3.70), В. И. Старцев (14.8.70 — 4.74), Г. А. Орлов (75–81), Н. И. Назаров (82–88), А. А. Корендясев (88–91).
Заместители начальника в действующем резерве: Б. А. Соломатин (82–88)
Партийное руководство разведкой осуществляли партком КПСС и комитет ВЛКСМ. Секретарями парткома являлись Г. А. Орлов (70–75), Сергей Васильевич Макаров (75 —?), В. А. Хмелев (на 77–80), Н. И. Назаров, Александр Онуфриевич Печко (на 85), Надуваев Станислав Григорьевич Печко (на 90–91).
Для координации работы всех служб по главному противнику к 1981 году была создана группа «Север», под руководством 1-го заместителя начальника, курирующего США. В ее состав входили начальники Управлений «С», «Р», Службы № 1 — Управления «РИ» и 1-го отдела
[91].
Первоначально структура ПГУ повторяла структуру 2-го Главного управления МВД (см. выше), временно исполняли обязанности те же начальники отделов. В июле 1954 года была проведена реорганизация:
Секретариат
Управление «С» (нелегальная разведка)
1-й отдел (США, Канада, Латинская Америка)
2-й отдел (Англия и страны Скандинавии)
3-й отдел (ФРГ, Австрия)
4-й отдел (Западная Европа)
5-й отдел (Южная Европа)
6-й отдел (Восток)
9-й отдел (эмиграция)
10-й отдел (научно-техническая разведка)
Руководящий состав ПГУ, 50-летие внешней разведки, 1970 г. Центральный клуб им. Ф. Э. Дзержинского. Сидят (слева направо): Ефимов А. И., Ф. В. Мачульский, В. Г. Павлов, В. И. Старцев, Ф. К. Мортин, А. М. Сахаровский, Б. А. Соломатин, С. А. Кондрашев, М. Г. Котов.2-й ряд: М. И. Лопатин (2-й слева), В. П. Бурдин (3-й), Н. П. Гусев (5-й), А. С. Воскобой (8-й), Н. М. Галушин (11-й).3-й ряд: А. И. Лазарев (1-й слева), Г. А. Орлов (7-й), В. К. Бояров (12-й), Д. А. Ерохин (16-й), Ю. И. Дроздов (17-й).4-й ряд: О. Д. Калугин (3-й), Е. И. Шишкин (6-й), Д. И. Якушкин (9-й), В. Г. Красовский (10-й)
11-й отдел (связи с органами безопасности соцстран)
13-й отдел (террор и диверсии)
14-й отдел (внешняя контрразведка)
15-й отдел (использование министерств и ведомств СССР в разведывательных целях)
16-й отдел (информации и переводов)
Отдел радиосвязи
Отдел оперативного учета и архив
Финансовый отдел
Отдел кадров
Впоследствии происходили следующие изменения:
В апреле 1955 г. был создан отдел оперативной техники;
В феврале 1958 г.6-й отдел был разделен на 7-й (дальневосточный) и 8-й (ближневосточный) отделы, 5-й отдел был расформирован с передачей функций в 4-й.
В январе 1959 г. на базе службы дезинформации КИ при МИД СССР был создан отдел «Д» (дезинформация).
В 1960 г.3-й и 2-й отделы поменялись номерами, на базе африканского направления 8-го отдела создан 6-й отдел,
В сентябре 1962 г.16-й отдел был преобразован в Службу № 1;
В 1963 г.9-й и 14-й отделы были объединены в Службу № 2 (внешняя контрразведка), 10-й отдел был преобразован в Управление «Т». Освободившийся 14-й номер после этого получил отдел оперативной техники.
В 1964 г. на базе направлений 7-го отдела, занимавшихся Китаем, КНДР и Северным Вьетнамом (ДРВ) был создан новый 6-й отдел (социалистические страны Азии), прежний 6-й отдел был разделен на 9-й (англоязычные страны Африки) и 10-й (франкоязычные страны Африки) отделы.
В 1966 г.13-й отдел преобразован в отдел «В», отдел «Д» — в Службу «А» (активные мероприятия), 15-й отдел сменил номер на 12-й. Освободившийся 13-й номер после этого получил отдел радиосвязи, 15-й — учетно-архивный отдел.
15 ноября 1966 г.11-й отдел выведен из состава ПГУ и преобразован в самостоятельный отдел КГБ с тем же номером;
24 июля 1968 г.11-й отдел КГБ вернулся в состав ПГУ;
14 октября 1968 г. Школа № 101 преобразована в Институт КГБ (с декабря — Краснознаменный институт)
В конце 1968 г. был создан 16-й отдел (разведывательные операции по иностранным шифровальным службам).
В 1969 г. была созданы Служба «И» (компьютерная), 5-й отдел (латиноамериканский) сменил номер на 2-й, 2-й отдел (германо-австрийский) на 4-й и 4-й отдел (западноевропейский) — на 5-й.
В 1970 г.13-й отдел был преобразован в Службу «Р».
В 1974 г. Служба № 2 была преобразована в Управление «К», Камбоджа и Лаос были переданы из ведения 7-го отдела в 6-й, на базе направлений 7-го отдела, занимавшихся странами Южной Азии (Индия, Пакистан, Бангладеш, Непал, Шри-Ланка, Бирма) был создан новый 17-й отдел, а на базе направлений 8-го отдела по арабским странам — 18-й отдел.
В 1975 г. были созданы Управление «Р» (оперативное планирование и анализ) и 19-й отдел (эмиграция)
Во второй половине 70-х гг. Служба «И» была преобразована в Управление «И».
В 1977 г.14-й отдел был преобразован в Управление «ОТ», был создан 20-й отдел (связи с органами безопасности дружественных развивающихся стран).
В июле 1979 г. на базе НИИ Управления «Т» был создан НИИ разведывательных проблем (НИИРП).
В 1970-е гг. существовало Специальное эксплуатационно-техническое управление (СЭТУ).
В 1980 г.12-й отдел был преобразован в Управление «РТ».
В 1984 г. Служба № 1 преобразована в Управление «РИ». В том же году после смерти Ю. В. Андропова его имя было присвоено Краснознаменному институту.
К 1980-м гг. отдел кадров был преобразован в Управление, были созданы административный отдел, дежурная служба, отделение дипломатической почты и оперативная библиотека.