بعد ذلك فكر ابن طولون في بناء جامع يكون أعظم ما بُنِي من المساجد في مصر، ويقيمه على ثلاثمائة عمود من الرخام، فقيل له أنه لن يجد مثل ذلك العدد إلا إذا مضى إلى الكنائس في الأرياف والضياع الخراب ويحملها من هناك. وبلغ الأمر للفرغاني وهو في السجن، فكتب لابن طولون يقول له أنه يستطيع أن يبنيه بلا أعمدة إلا عمودي القبلة، وصوّره له على الجلود فأعجبه واستحسنه وأطلق سراحه وأطلق له النفقة حتى يقوم بالبناء، وبعد الانتهاء أمَّنه ابن طولون على نفسه وأمر له بجايزة عشرة آلاف دينار. ويشهد جامع ابن طولون بعبقرية هذا المهندس القبطي، إذ ترى العقود المدببة في الجامع قبل أن يُعرَف استخدامها في إنجلترا بقرنين على الأقل.