Escriu una continuació d'aquest paràgraf - Després del cop comunista
El 1978, Ahmadzai va tornar a l'Afganistan per unir-se als mujahideen. Va ser un associat proper de Burhanuddin Rabbani, essent diputat del seu partit Jamiat-e Islami, però després el va deixar i es va unir a l'Organització Islàmica de Dawah d'Afganistan d'Abdul Rasul Sayyaf el 1992, l'any que va acabar el règim comunista. Va servir com a ministre en el govern afganès postcomunista, com a ministre de l'Interior, de la Construcció i de l'Educació, i més tard va esdevenir primer ministre entre 1995 i 1996, tot i que ha minimitzat la importància d'aquests càrrecs donat el caos a causa dels combats en aquell moment.