Sebab turunnya ayat ini diriwayatkan oleh al-Bukhāri, Muslim, Ibnu Jarīr dan lain-lain dari Sa’id Ibnu Musayyab, dari ayahnya, diterangkan, bahwa ketika paman Nabi Muhammad, Abu Ṭalib akan meninggal dunia maka Nabi datang mengunjunginya, dan ketika itu Abu Jahal dan ‘Abdullāh bin Abi Umayyah berada pula di sampingnya, Nabi lalu berkata kepada pamannya, “Hai Paman, ucapkanlah kalimah “Lā ilāha illallāh”, dengan kalimat itu kelak di Hari Kiamat aku akan mempunyai alasan untuk memintakan ampunan bagimu kepada Allah.” Mendengar ucapan Nabi kepada pamannya itu, maka Abu Jahal dan ‘Abdullāh segera pula berkata kepada Abu Ṭalib, “Apakah engkau tidak senang kepada agama Abdul Muṭṭalib?” Kemudian Nabi mengulangi kembali permintaannya itu kepada Abu Ṭalib, tetapi kedua pemuka kaum kafir Quraisy itu segera pula mengulangi ucapan mereka seperti tersebut di atas, sehingga akhirnya Abu Ṭalib mengucapkan kata-katanya yang terakhir kepada mereka, “Aku tetap dalam agama Abdul Muṭṭalib.” Ia enggan mengucapkan kalimah “Lā ilāha illallāh”. Maka Rasulullah saw, bersabda, “Demi Allah, aku akan memohonkan ampun untukmu kepada Allah, selama aku tidak dilarang untuk berbuat demikian.” Maka turunlah ayat ini, yang dengan tegas melarang Nabi dan kaum Muslimin untuk memohonkan ampun kepada Allah bagi orang-orang musyrik, walaupun mereka termasuk keluarga terdekat.
Ulama-ulama lain mengatakan bahwa mengenai turunnya ayat ini ada dua macam kemungkinan, yaitu:
Pertama, bahwa ayat ini turun tidak lama sesudah meninggalnya Abu Ṭalib, kemudian ayat tersebut digabungkan kepada Surah Barā’ah (at-Taubah), akibat kesamaannya mengenai hukum-hukum yang khusus tentang ketidakbolehan orang-orang mukmin mendoakan ampunan bagi orang-orang kafir, di samping persamaan mengenai celaan terhadap orang-orang musyrik.
Kedua, mungkin juga ayat tersebut turun bersama ayat-ayat lainnya dalam Surah Bara’ah (at-Taubah) yang menjelaskan tentang permintaan ampunan oleh Rasullah saw untuk Abu Ṭalib. Semenjak wafatnya Abu Ṭalib, sampai pada saat turunnya ayat tersebut Rasulullah senantiasa memohonkan ampunan kepada Allah untuk pamannya itu, sebab sikap yang keras terhadap orang-orang kafir, dan melepaskan hubungan dari mereka hanyalah terdapat dalam ayat-ayat Surah at-Taubah ini.
Khusus mengenai Abu Ṭalib, Allah telah berfirman kepada Rasulullah sebagai berikut:
اِنَّكَ لَا تَهْدِيْ مَنْ اَحْبَبْتَ وَلٰكِنَّ اللّٰهَ يَهْدِيْ مَنْ يَّشَاۤءُ ۚ

Sungguh, engkau (Muhammad) tidak dapat memberi petunjuk kepada orang yang engkau  kasihi, tetapi Allah memberi petunjuk kepada orang yang Dia kehendaki. (Al-Qaṣaṣ/28: 56)

Abu Ṭalib meninggal dunia di kota Mekah kira-kira tiga tahun sebelum Rasulullah berhijrah ke Medinah. Oleh sebab itu sebagian ulama menganggap tidak benar turunnya ayat ini mengenai Abu Ṭalib sebab ayat ini terdapat dalam Surah at-Taubah yang termasuk kelompok surah-surah Madaniyah.