Sâmerrâ'da doğdu. Öğrenimini burada tamamladı. Bir süre sonra kâtip ve münşî olarak tayin edildi. Görevini ciddiyet ve titizlikle yapması Halife Mütevekkil-Alellah'ın dikkatini çekti. Halifenin ona değer verip kendilerine tercih etmesi başta Vezir Ebü'l-Hasan İbn Hâkān olmak üzere devlet adamlarının kıskançlığına yol açtı. Bu sebeple halifenin gözünden düşürülmeye çalışıldı. Sonunda vezirin tahrik ve teşvikiyle kardeşi Ebü'l-Hasan Ahmed İbnü'l-Müdebbir'le birlikte tutuklanarak hapse atıldı. Yaklaşık bir yıl sonra serbest bırakılınca Ahvaz'ın harâc âmilliğine tayin edildi. Kötü şartlarda çalıştırıldıkları için isyan etmiş olan Zencîler (Zenc) Ahvaz'a girdiklerinde onların eline esir düştü ve bütün servetine el konuldu (12 Ramazan 256 / 13 Ağustos 870). Ertesi yıl hapsedildiği yerden kurtulmayı başardı. 269'da (882) Halife Mu'temid-Alellah tarafından vezir tayin edildiyse de bir süre sonra görevinden alındı. Halife Mu'tazıd-Billâh döneminde Bağdat'ta Dîvânü'd-diyâ'ın başına getirildi. Ardından Sâmerrâ'dan ayrılıp Mısır'a gitti. 16 veya 17 Şevval 279'da (9 veya 10 Ocak 893) orada öldü.
İbnü'l-Müdebbir'in kaleme aldığı er-Risâletü'l-ʿaẕrâ fî mevâzîni'l-belâġa ve edevâti'l-kitâbe adlı risâle Muhammed Ali (Resâʾilü'l-büleġā içinde, Kahire 1326, 1330, s. 176-193), Ahmed Zekî Mübârek (Étude sur la "Lettre vierge" d'Ibn al-Mudabbir, Paris 1931, Kahire 1350/1931) ve Ahmed Zeki Saffet (Cemheretü resâʾili'l-ʿArab fî ʿuṣûri'l-ʿArabiyyeti'z-zâhire içinde, Kahire 1962, IV, 176-211) tarafından yayımlanmış, daha sonra da ofset baskısı yapılmıştır. İbnü'l-Müdebbir bu risâlesinde kitâbet teknikleri ve kuralları, kâtibin kendisini yetiştirirken hangi kaynaklardan faydalanması gerektiği, kâtipte bulunması icap eden ahlâkî ve fizikî özellikler, yazı aletlerinin onarımı ve kullanımıyla kâğıtlar hakkında bilgi vermektedir. Aynı zamanda iyi bir şair olan İbnü'l-Müdebbir'in şiirleri Kitâbü'l-Eġānî ve Muʿcemü'l-üdebâʾ gibi kitaplarda yer almaktadır.