當威爾遜突然喺 1976 年 3 月宣布退休之後 卡拉漢擊敗咗其他五名候選人,選為工黨領導人;佢喺 1976 年 4 月 5 日被任命為首相. 儘管在1974年選舉中贏得了在下議院的窄幅多數,但在卡拉漢成為總理之前,工黨已經失去了這個多數,在他的早期幾個月內,幾次的補選失利和叛逃迫使卡拉漢與自由黨達成信任和供應協議. 儘管起初情況穩定,但喺1978年至1979年"不滿之冬"嘅重大勞工爭議和大規模罷工之後,以及蘇格蘭脫歐公投失利之後,
1979年3月28日,少數政党加入保守黨 通過對卡拉漢的不信任議案. 儘管卡拉漢喺民意調查裏面仍然受歡迎, 但佢帶領工黨喺 1979 年嘅選舉敗選,佢被馬格麗特. 撒切爾取代.