Именно в это время состоялось знакомство Эйтингона с Павлом Судоплатовым, который позже стал его непосредственным начальником и товарищем. В своих мемуарах «Разведка и Кремль», опубликованных во второй половине 1990-х годов, Павел Анатольевич следующим образом охарактеризовал своего коллегу:
«Красивое лицо Эйтингона и его живые карие глаза так и светились умом. Взгляд пронзительный, волосы густые и черные, как смоль, шрам на подбородке, оставшийся после автомобильной аварии (большинство людей принимало его за след боевого ранения), — все это придавало ему вид бывалого человека. Он буквально очаровывал людей, наизусть цитируя стихи Пушкина, но главным его оружием были ирония и юмор. Пил он мало — рюмки коньяку хватало ему на целый вечер. Я сразу же обратил внимание на то, что этот человек нисколько не похож на высокопоставленного спесивого бюрократа. Полное отсутствие интереса к деньгам и комфорту в быту у Эйтингона было просто поразительным. У него никогда не было никаких сбережений, и даже скромная обстановка в квартире была казенной. <.. .> Эйтингон был по-настоящему одаренной личностью и, не стань он разведчиком, наверняка преуспел бы на государственной службе или сделал бы научную карьеру».
Однако и нелегальную разведку органов госбезопасности Эйтингон возглавлял недолго. Уже в конце 1933 года он надолго выезжает в командировки в США, Китай, Иран и Германию. Основные задачи, которые были поставлены Артузовым перед Эйтингоном в этих странах, заключались в организации работы по совершенствованию деятельности нелегальных резидентур и созданию условий для перевода «легальных» резидентур на нелегальные методы работы в «особый период». С поставленными задачами Наум Эйтингон справился успешно, о чем свидетельствует присвоение ему в начале 1936 года звания майора госбезопасности, что соответствовало армейскому званию полковника.
В 1936 году в Испании вспыхнул мятеж франкистов против демократически избранного правительства Народного фронта. Мятежников активно поддержали нацистская Германия и фашистская Италия, оказывавшие им всестороннюю военную помощь, в том числе людскими ресурсами. Советское правительство, первоначально придерживавшееся принципа невмешательства во внутренние дела Испании, после открытого выступления Германии и Италии на стороне франкистов приняло решение об оказании помощи республиканскому правительству и о направлении туда советских военных советников.
Резидентуру НКВД в Испании возглавил Александр Орлов, который прибыл в Мадрид 16 сентября 1936 года. Его заместителем был назначен Наум Эйтингон, использовавший в оперативной переписке псевдонимы «Котов» и «Пьер». В качестве основной перед ним была поставлена задача по организации партизанских отрядов и диверсионных групп в тылу франкистов. Однако Эйтингону пришлось принимать участие практически во всей оперативной деятельности резидентуры.
Помимо Наума Эйтингона в Испании работали такие видные чекисты-разведчики, как бывший резидент в Берлине Наум Белкин, Григорий Сыроежкин, бывший парижский резидент Лев Василевский и многие другие. В Испанию также неоднократно выезжал первый заместитель начальника внешней разведки Сергей Шпигельглас. Представители НКВД при испанском правительстве принимали участие в реорганизации испанской контрразведки (СИМ), которая формально подчинялась военному министерству, но на самом деле контролировалась ими. К концу 1937 года советские советники помогли испанскому республиканскому правительству создать Службу периферийной разведки (СИЕП), армейскую контрразведку (СЕ), закордонную разведку (СИЕЕ). Испанские спецслужбы под руководством Орлова и Эйтингона вели тайную войну против германских, итальянских, французских и британских спецслужб. В декабре года по их наводке были арестованы агенты резидентуры военной разведки Франции — знаменитого 2-го бюро Генштаба. В июне года испанская контрразведка обезвредила агентов британской Интеллидженс сервис индийцев Эриу Эдуарда Дута и Кинга, которые собирали информацию о республиканской армии.
Советские чекисты организовали надежную охрану лидеров компартии Испании во главе с Долорес Ибаррури, на которых франкисты готовили покушение. Они наладили работу испанской разведки за границей, в том числе но получению сведений о вербовке и отправке в страну штурмовых отрядов СА. С территории Испании сотрудники резидентуры вели также разведку Испанского Марокко, Гибралтара и Франции.
В 1938 году резидент НКВД в Испании Александр Орлов совершил побег в США, опасаясь за свою безопасность. Новым резидентом был назначен Наум Эйтингон. Работать ему пришлось в сложных условиях. С конца 1938 года взаимодействие советской разведки с испанскими спецслужбами пошло на убыль. В начале 1939 года резидентура НКВД переместилась в Барселону, являвшуюся в то время прифронтовым городом. Несмотря на это, Эйтингону удалось завербовать испанских троцкистов братьев Руан, нескольких бывших анархистов, а также Рамона Меркадера, вместе с которым он впоследствии осуществил операцию «Утка» по ликвидации Льва Троцкого.
В феврале 1939 года Эйтингон осуществил отправку республиканского руководства и лидеров испанской компартии во Францию, а также советской колонии на родину.
За работу в Испании Наум Эйтингон в ноябре 1937 года был награжден вторым орденом Красного Знамени. Под именем генерала Котова он упоминается в широко известных мемуарах Ильи Эренбурга «Люди. Годы. Жизнь».
Весной 1939 года Эйтингон возвратился в Москву. К тому времени в результате необоснованных репрессий из 450 сотрудников внешней разведки (включая загранаппарат) было расстреляно или отправлено в лагеря 275 человек, или 61 процент от всего личного состава. Со многими ценными зарубежными агентами была прервана связь, восстановить которую удавалось далеко не всегда. В 1938 году, когда в результате мюнхенского сговора Англия и Франция отдали Гитлеру на растерзание Чехословакию, в течение 127 дней из внешней разведки руководству страны не поступило ни одной информации — ее просто некому было обработать и подписать.
25 ноября 1938 года наркомом внутренних дел СССР был назначен Лаврентий Берия. Репрессии против чекистов-разведчиков пошли на убыль, однако совсем не прекратились. 2 ноября 1938 года был арестован начальник внешней разведки старший майор госбезопасности Зельман Пассов (расстрелян 15 февраля 1940 года). Назначенный начальником 5-го (разведывательного) отдела ГУГБ НКВД СССР Владимир Деканозов уже 13 мая 1939 года был освобожден от занимаемой должности как не имеющий опыта работы во внешней разведке и переведен на должность заместителя наркома иностранных дел. Внешнюю разведку возглавил выпускник Школы особого назначения (ШОН) старший майор госбезопасности Павел Михайлович Фитин.
Возвратившийся из Испании Эйтингон попал в довольно сложную ситуацию. Григорий Сыроежкин, с которым он работал над созданием диверсионных отрядов в тылу франкистов, был арестован и расстрелян. Резидент Орлов оказался невозвращенцем. К тому же арестованные и затем расстрелянные бывший начальник Восточного отдела ОГПУ Яков Петере и бывший полпред СССР в Турции Лев Карахан в ходе следствия под пытками вынуждены были подписать показания на Эйтингона как на английского шпиона. В Москве за Эйтингоном была установлена слежка, которую он быстро обнаружил. Правда, после того, как он сказал об этом заместителю начальника внешней разведки Павлу Судоплатову, наружное наблюдение за ним было снято. От ареста Наума Эйтингона спас лишь случай. К этому времени по указанию Сталина НКВД приступил к реализации операции по физическому устранению Льва Троцкого, которая получила кодовое название «Утка» и заняла по времени около двух лет. К операции в качестве одного из ее руководителей был подключен и Наум Эйтингон.