Hän pysyi uskollisena presidentti Ali Nasser Mohammedille Etelä-Jemenin sisällissodan aikana.
Seurasin häntä maanpaossa naapurimaassa Pohjois-Jemenissä. Vuonna 1994 Jemenin sisällissodan aikana Hadi tuki presidentti Ali Abdullah Salehin Jemenin hallitusta ja hänet nimitettiin puolustusministeriksi. Tämän tehtävän suorittaessaan hän johti sotilaskampanjaa Jemenin demokraattista tasavaltaa vastaan. Sodan jälkeen hänet ylennettiin varapresidenttiksi 3. lokakuuta 1994 Ali Salim Al-Beidhin tilalle, joka oli eronnut ja taistellut hallitusta vastaan sisällissodan aikana.