Към края на 70-те години на миналия век той става един от основателите на "Египетския ислямски джихад" (ЕИД), организация, противопоставяща се на светския режим в страната, с амбиции да го премахне насилствено.
Zevahiri, üst-orta sınıftan tanınmış bir ailenin oğlu olarak Kahire'de dünyaya geldi ve burada göz cerrahisi üzerinde eğitim gördü. 1970'lerin sonunda, ülkedeki laik rejime karşı çıkan ve bunu şiddet yoluyla devirmeye çalışan Mısırlı İslami Cihad (MİC) örgütünün kurucularından birisi oldu.