È rimasto fedele al presidente Ali Nasser Mohammed durante la guerra civile nello Yemen meridionale.
, e lo seguirono in esilio nel vicino Yemen del Nord. Durante la guerra civile dello Yemen del 1994, Hadi si schierò con il governo yemenita del presidente Ali Abdullah Saleh e fu nominato ministro della Difesa. In questo ruolo ha guidato la campagna militare contro la Repubblica democratica dello Yemen. Dopo la guerra è stato promosso vicepresidente il 3 ottobre 1994, sostituendo Ali Salim Al-Beidh, che si era dimesso e combattuto contro il governo durante la guerra civile.