Anche se attivamente impegnato nel contenimento in Asia sud-orientale, Medio Oriente e America Latina, Johnson ha fatto della ricerca di accordi sul controllo degli armamenti con Mosca una priorità. L'Unione Sovietica cercò anche relazioni più strette con gli Stati Uniti durante la metà e la fine degli anni '60, in parte a causa della sempre peggiore divisione sino-sovietica. Johnson tentò di ridurre le tensioni con la Cina alleggerendo le restrizioni sul commercio, ma l'inizio della Rivoluzione culturale cinese mise fine alle speranze di un maggiore riavvicinamento. Johnson era preoccupato di evitare la possibilità di una guerra nucleare e cercò di ridurre le tensioni in Europa. L'amministrazione Johnson ha perseguito accordi di controllo degli armamenti con l'Unione Sovietica, firmando il Trattato sullo spazio ultraterreno e il Trattato sulla non proliferazione delle armi nucleari, e ha gettato le basi per i colloqui sulla limitazione delle armi strategiche. Johnson tenne un incontro in gran parte amichevole con il premier sovietico Alexei Kosygin alla Conferenza del Vertice di Glassboro nel 1967, e nel luglio 1968 gli Stati Uniti, la Gran Bretagna e l'Unione Sovietica firmarono il Trattato di non proliferazione, in cui ogni firmatario si impegnava a non aiutare altri paesi a sviluppare o acquisire armi nucleari. Un summit sul disarmo nucleare tra gli Stati Uniti e l'Unione Sovietica fu annullato dopo che le forze sovietiche avevano violentamente represso
la Primavera di Praga, un tentativo di democratizzazione della Cecoslovacchia.