Gehlen ancien nazi créateur de l’OTAN avec la complicité de la CIA
En juillet 1946, Gehlen est libéré en tant que prisonnier de guerre et rentre en avion-cargo en Allemagne. À l'instigation clandestine de l'ancienne OSS (ancien sigle de la CIA), il va créer l' Organisation Gehlen(l’OTAN) et retrouve le capitaine américain d'origine autrichienne Erich Waldmann qui l'avait interrogé en Amérique et qui l'avait précédé, ainsi que le général Sibert, encore chef des services secrets militaires américains, qui venait de remettre sur pied l'ancien réseau avec le capitaine Wessel et Baun. Baun sera écarté par Gehlen[3]. Ce réseau dont le siège était d'abord à Oberursel, était initialement formé de 350 anciens agents secrets de l'Allemagne nazie. L'Organisation Gehlen devient les yeux et les oreilles de l'ancienne OSS en Europe de l'Est et en URSS. Le réseau n'est pas une émanation des services américains mais un organisme allemand[3]. Il installe son QG au 25-acre, à Munich, sous le couvert d'une entreprise : South German Industrial Development Organization. Ses agents aideront les services américains à démasquer les fonctionnaires communistes et les organismes sympathisants dans l'ensemble de l'Europe de l'Ouest.
Sa première action d'importance fut l'opération Hermès qui consista à interroger systématiquement les centaines de milliers d'anciens prisonniers de guerre allemands qui commençaient à revenir des camps d'URSS et qui avaient été obligés de participer à la reconstruction et à la relance de la production en URSS. C'est ainsi qu'un ancien prisonnier du combinat chimique de Dzerjinsk mit l'OG fortuitement au courant des préparatifs soviétiques sur la radioactivité, nécessaire à l'industrie atomique.
L'Organisation Gehlen, création de Gehlen, fournit déjà avant 1947 des informations exagérées sur la puissance militaire et les ambitions de l'URSS. En 1947, Gehlen avertit la CIA que l'URSS est sur point de lancer une guerre éclair sur l'Europe. Les conséquences de ces renseignements falsifiés est une augmentation considérable de la dotation de la CIA (qui leur fournit plus de 200 millions USD en fonds secrets, encourageant une surenchère d'informations).
D'abord consacrée uniquement au renseignement militaire, l'organisation Gehlen élargit son action au renseignement politique, économique et technique lorsqu'il entre en collaboration avec la CIA en juin 1949[3]. Le réseau Gehlen est une source de renseignement capital pour les Américains, lui fournissant 70 % de ses informations militaires sur l'URSS[3].
La Gehlen Org aurait recruté et formé, dès 1946, plus de 5 000 agents est-européens et russes anti-communistes, avec parmi eux nombre d'anciens agents nazis, qui exécutent une variété d'opérations secrètes derrière le rideau de fer, comprenant l'espionnage, le sabotage, et de fournir l'aide aux insurgés ukrainiens qui ont continué à entraver la mainmise soviétique jusqu'en 1956. Elle fournit également à la CIA des rapports précis sur le parc de missiles de l'Armée rouge pointés vers l'Ouest.
Cependant, dans les années 1950, l'organisation, comme le MI-5, est infiltrée par des agents doubles du KGB qui trahissent des « douzaines d'opérations, des centaines d'agents et de milliers de civils innocents[ » et qui, plus tard, seront exécutés.
En octobre 1956, l'organisation Gehlen est transférée au gouvernement ouest-allemand. Elle sera intégrée au Bundesnachrichtendienst naissant (abrégé par BND et que l'on peut traduire par « Service fédéral de renseignement »). Gehlen est promu lieutenant-général dans la Bundeswehr et devient directeur du BND. Il atteint le grade de général principal.
En avril 1961, l'opération Sting découvre que Heinz Felfe, chef du contre-espionnage au BND, est un agent double du KGB. En 1963, le chancelier Konrad Adenauer démissionne sous le coup du scandale. À cette époque, reconduit pour cinq ans comme directeur du BND, Gehlen démissionne, car son influence et son pouvoir diminuent[]