En 1957, Andrópov tornó a Moscú dende Budapest con cuenta d'encabezar el Departamentu de Rellaciones colos Partíos Comunistes y Obreros de los Países Socialistes, cargu qu'ocupó hasta 1967. En 1961, foi escoyíu miembru de plenu derechu del Comité Central del PCUS y en 1962 foi promovíu al Secretariáu del Comité Central. En 1967, foi releváu del so trabayu nel aparatu del Comité Central y nomao xefe de la KGB sol encamientu de Mikhaíl Súslov llogrando poderes adicionales en 1973, cuando foi xubíu a miembru de plenu derechu del Politburó.