Nato a Kano, in una famiglia religiosa della classe dominante, Murtala ha prestato servizio nell'esercito nigeriano come cadetto nella Royal Military Academy, Sandhurst. In seguito prestò servizio in Congo; alla fine salì nei ranghi fino a diventare generale di brigata nel 1971, all'età di 33 anni, diventando uno dei più giovani generali della Nigeria. Tre anni dopo Murtala divenne il Commissario federale per le comunicazioni a Lagos. Come conservatore e federalista, Murtala si rammaricò del rovesciamento della Prima Repubblica e della promulgazione del decreto di unificazione di Aguiyi Ironsi del 1966. Fu devastato dall'assassinio di Sir Ahmadu Bello e per un certo periodo considerò seriamente la secessione della Nigeria settentrionale. La sua carriera raddoppiò dopo che Chukwuma Kaduna Nzeogwu e i giovani maggiori orchestrarono il primo colpo di stato militare in Nigeria del colpo di stato del 1966
autorizzandolo a guidare l'ammutinamento della notte del 29 luglio 1966 ad Abeokuta. Murtala è stato brevemente considerato come comandante supremo prima della nomina di Yakubu Gowon. Ha anche organizzato il contropoopozzo del luglio 1966, che evidentemente ha scatenato la guerra civile nigeriana.