Scrivi una continuazione per questo paragrafo - Dopo il colpo di stato comunista
Nel 1978, Ahmadzai tornò in Afghanistan per unirsi ai mujahideen. Era un collaboratore stretto di Burhanuddin Rabbani, essendo deputato del suo partito Jamiat-e Islami, ma poi se ne andò e si unì al partito dell'Organizzazione islamica della Dawah dell'Afghanistan di Abdul Rasul Sayyaf nel 1992, l'anno in cui finì il governo comunista. Ha servito come ministro nel governo afgano post-comunista, variamente come ministro degli Interni, della Costruzione e dell'Istruzione, e in seguito è diventato primo ministro tra il 1995 e il 1996, sebbene abbia minimizzato l'importanza di questi incarichi dato il caos causato dai combattimenti in quel momento.