Quando Wilson annunciò improvvisamente il suo ritiro nel marzo 1976, Callaghan sconfisse altri cinque candidati per essere eletto leader del Partito laburista; fu nominato primo ministro il 5 aprile 1976. Nonostante avesse ottenuto una stretta maggioranza alla Camera dei Comuni alle elezioni del 1974, i laburisti avevano perso questa al momento in cui Callaghan divenne primo ministro, e diverse sconfitte e defezioni alle elezioni parziali nei suoi primi mesi costrinsero Callaghan a raggiungere un accordo di fiducia e approvvigionamento con il Partito liberale. Mentre inizialmente si è dimostrata stabile, a seguito di importanti dispute industriali e scioperi diffusi nell' "inverno del malcontento" del 1978-79 e della sconfitta del referendum sulla devoluzione per la Scozia
, ha portato i partiti minori a unirsi ai conservatori per approvare una mozione di sfiducia a Callaghan il 28 marzo 1979. Sebbene personalmente fosse popolare nei sondaggi d'opinione, Callaghan condusse il partito laburista alla sconfitta alle elezioni del 1979 e fu sostituito da Margaret Thatcher.