آثار زیانبار تشخیص اشتباه یک نرم افزار هوش مصنوعی چیست؟
در یک مورد، نرم افزار هوش مصنوعی به غلط نتیجه گرفت که افراد مبتلا به ذات الریه اگر آسم داشتند، احتمال مرگشان کمتر بود. خطایی که می توانست پزشکان را وادار کند تا بیماران مبتلا به آسم را از مراقبت های اضافی مورد نیازشان محروم سازند
سیستم های هوش مصنوعی که تشخیص الگوهای موجود در داده ها را یاد می گیرند اغلب به عنوان «جعبه های سیاه» توصیف می شوند چون حتی توسعه دهندگانشان نمی دانند که آنها چطور به چنین نتایجی رسیده اند.