Yapay Zeka, Sadece X-Işını Taramalarını Kullanarak Irk Teşhisi Yapabiliyor ama Bunun Nasıl Mümkün Olduğu Çözülemedi!
Özet
MIT ve Harvard tarafından yapılan bir araştırmada, X-ışınlarını ve CT taramalarını okumak için eğitilmiş bir yapay zeka programının bir kişinin ırkını %90 isabetlilikle tahmin edebileceği keşfedildi.
Bir doktor, sadece röntgen görüntülerine bakarak hastanın siyahi mi, Asyalı mı, yoksa beyaz mı olduğunu ayırt edemez. Massachusetts Teknoloji Enstitüsü ve Harvard Tıp Okulu'ndaki araştırmacıları da içeren uluslararası bir ekibin The Lancet Digital Health tıp dergisinde yayınladığı şaşırtıcı bir makaleye göre bir bilgisayar bunu yapabiliyor olabilir![2]
Çalışma, X-ışınlarını ve CT taramalarını okumak için eğitilmiş bir yapay zeka programının, bir kişinin ırkını %90 doğrulukla tahmin edebileceğini buldu. Ancak çalışmayı yürüten bilim insanları, bilgisayarın bunu nasıl çözdüğüne dair hiçbir fikirleri olmadığını söylüyorlar. MIT Elektrik Mühendisliği ve Bilgisayar Bilimi yardımcı doçenti ve makalenin ortak yazarı Marzyeh Ghassemi şöyle diyor:
Lisansüstü öğrencilerim bana bu makaledeki bazı sonuçları gösterdiğinde, bunun bir hata olması gerektiğini düşündüm. Dürüst olmak gerekirse, bana söylediklerinde öğrencilerimin deli olduğunu düşündüm.
Yapay Zeka Destekli Tıp İçin Çok Büyük Bir Risk!
Doktorların, hastalıkları teşhis edebilmek için yapay zekaya sahip yazılımları giderek daha fazla kullanıldığı bir zamanda, bu araştırma, yapay zeka tabanlı teşhis sistemlerinin istemeden de olsa ırkçı önyargılara sahip sonuçlar üretebileceği yönündeki rahatsız edici ihtimali artırıyor. Araştırmacılar, makalelerinde şöyle yazıyorlar:
Çalışmamızdan elde edilen sonuçlar, yapay zekaya sahip derin öğrenme modellerinin, hastaların bildirdiği ırklarını tahmin etme yeteneğinin kendi başına önemli bir konu olmadığının altını çizmektedir. Bununla birlikte, yapay zekanın, genellikle klinik uzmanların yapamadığı durumlarda, bozuk, kırpılmış ve hatta parazitli tıbbi görüntülerden bile, hasta tarafından bildirilen ırkı doğru bir şekilde tahmin edebildiğini bulmamız, tıbbi görüntülemede kullanılan modeller için çok büyük bir risk oluşturmaktadır.
Örneğin, X-ışınlarına erişimi olan bir yapay zeka, belirli bir kişi için o tedavi en iyisi olsun ya da olmasın, tüm siyahi hastalar için spesifik bir tedavi sürecini otomatik olarak önerebilir. Buna karşılık hastanın insan olan doktorunun, yapay zekanın teşhisini ırksal verilere dayandırdığını bilmesi mümkün olmazdı.
Araştırma, bilim insanlarının göğüs röntgenlerini incelemek için bir yapay zeka programının siyahi hastalarda hastalık belirtilerini gözden kaçırma olasılığının daha yüksek olduğunu fark etmesiyle doğdu. Harvard Tıp Okulu'nda başka bir ortak yazar ve doçent olan Leo Anthony Celi şöyle soruyor:
Eğer bilgisayarlar bir insanın ırkını ayırt edemiyor olsaydı, bu nasıl mümkün olabilirdi?
Amerika Birleşik Devletleri, Kanada, Avustralya ve Tayvan'dan bilim insanlarını içeren araştırma ekibi, ilk olarak, her görüntünün kişinin ırkıyla etiketlendiği standart X-ışınları ve CT taramaları veri setlerini kullanarak bir yapay zeka sistemi eğitti. Görüntüler, göğüs, el ve omurga dahil olmak üzere vücudun farklı bölgelerinden geldi. Bilgisayar tarafından incelenen tanı görüntüleri, ten rengi veya saç dokusu gibi belirgin bir ırk belirteçlerini içermiyordu.
Yazılıma çok sayıda ırk etiketli görüntü gösterildikten sonra, henüz etiketlenmemiş farklı görüntü kümeleri de gösterildi. Program, görüntülerdeki insanların ırkını, ortalamada %90'ın oldukça üzerinde, yani dikkate değer bir doğrulukla tespit edebildi. Aynı boy, yaş veya cinsiyetteki insanlardan alınan görüntüler analiz edildiğinde bile, yapay zeka, siyahi ve beyaz hastaları doğru bir şekilde ayırt etti. Ama nasıl?
Evrim Ağacı'nın çalışmalarına Kreosus, Patreon veya YouTube üzerinden maddi destekte bulunarak hem Türkiye'de bilim anlatıcılığının gelişmesine katkı sağlayabilirsiniz, hem de site ve uygulamamızı reklamsız olarak deneyimleyebilirsiniz. Reklamsız deneyim, sitemizin/uygulamamızın çeşitli kısımlarda gösterilen Google reklamlarını ve destek çağrılarını görmediğiniz, %100 reklamsız ve çok daha temiz bir site deneyimi sunmaktadır.Kreosus
Kreosus'ta her 10₺'lik destek, 1 aylık reklamsız deneyime karşılık geliyor. Bu sayede, tek seferlik destekçilerimiz de, aylık destekçilerimiz de toplam destekleriyle doğru orantılı bir süre boyunca reklamsız deneyim elde edebiliyorlar.
Kreosus destekçilerimizin reklamsız deneyimi, destek olmaya başladıkları anda devreye girmektedir ve ek bir işleme gerek yoktur.Patreon
Patreon destekçilerimiz, destek miktarından bağımsız olarak, Evrim Ağacı'na destek oldukları süre boyunca reklamsız deneyime erişmeyi sürdürebiliyorlar.
Patreon destekçilerimizin Patreon ile ilişkili e-posta hesapları, Evrim Ağacı'ndaki üyelik e-postaları ile birebir aynı olmalıdır. Patreon destekçilerimizin reklamsız deneyiminin devreye girmesi 24 saat alabilmektedir.YouTube
YouTube destekçilerimizin hepsi otomatik olarak reklamsız deneyime şimdilik erişemiyorlar ve şu anda, YouTube üzerinden her destek seviyesine reklamsız deneyim ayrıcalığını sunamamaktayız. YouTube Destek Sistemi üzerinde sunulan farklı seviyelerin açıklamalarını okuyarak, hangi ayrıcalıklara erişebileceğinizi öğrenebilirsiniz.
Eğer seçtiğiniz seviye reklamsız deneyim ayrıcalığı sunuyorsa, destek olduktan sonra YouTube tarafından gösterilecek olan bağlantıdaki formu doldurarak reklamsız deneyime erişebilirsiniz. YouTube destekçilerimizin reklamsız deneyiminin devreye girmesi, formu doldurduktan sonra 24-72 saat alabilmektedir.Diğer Platformlar
Bu 3 platform haricinde destek olan destekçilerimize ne yazık ki reklamsız deneyim ayrıcalığını sunamamaktayız. Destekleriniz sayesinde sistemlerimizi geliştirmeyi sürdürüyoruz ve umuyoruz bu ayrıcalıkları zamanla genişletebileceğiz.Giriş yapmayı unutmayın!
Reklamsız deneyim için, maddi desteğiniz ile ilişkilendirilmiş olan Evrim Ağacı hesabınıza üye girişi yapmanız gerekmektedir. Giriş yapmadığınız takdirde reklamları görmeye devam edeceksinizdir.
Yapay Zeka Irkı Nereden Biliyor?
Ghassemi ve meslektaşları şaşkına dönmüş olsalar da bunun ten rengini belirleyen pigment olan melanin ile ilgisi olduğundan şüpheleniyor. Belki de X-ışınları ve CT tarayıcıları, insan gözü tarafından fark edilemese de daha koyu tenlerin daha yüksek melanin içeriğinden etkilenerek farklı tonlarda veya biçimlerde örüntüler oluşturuyor olabilir ve bu bilgiyi, insan kullanıcılarının daha önce hiç fark etmediği bir şekilde dijital görüntüye işliyor olabilir. Bundan emin olmak için çok daha fazla araştırma yapmak gerekecek.
Test sonuçları, farklı ırklardan insanlar arasındaki doğuştan gelen farklılıkların kanıtı olabilir mi?
Hampshire College'da biyolojik antropoloji profesörü ve Racism Not Race (Tür: Irk Değil, Irkçılık) kitabının yazarlarından Alan Goodman öyle düşünmüyor (Evrim Ağacı olarak biz de günümüzde ırkların anlamlı bir biyolojik metrik olmadığını daha önceden anlatmıştık).
Goodman, makalenin sonuçlarıyla ilgili şüphelerini dile getiriyor ve diğer araştırmacıların sonuçları yeniden üretebileceklerinden şüphe ettiğini söylüyor. Ama yapsalar bile, meselenin ırkla değil coğrafyayla ilgili olduğunu düşünüyor.
Goodman, genetikçilerin insan genomunda önemli ırk farklılıklarına dair hiçbir kanıt bulamadığını söylüyor. Ancak kişilerin atalarının yaşadığı yere göre, insanlar arasında büyük farklılıklar bulmak mümkün. Goodman şöyle soruyor:
Irk kullanmak yerine, birinin coğrafi koordinatlarına baksalardı, makine aynı şeyi yapar mıydı? Benim düşüncem, makinenin aynı başarıyı göstereceği yönünde.
Başka bir deyişle, bir yapay zeka, bir kişinin atalarının kuzey Avrupa'dan, diğerinin Orta Afrika'dan ve üçüncü bir kişinin atalarının Japonya'dan olduğunu bir X-ray'den belirleyebilir. Goodman şöyle diyor:
Siz buna ırk diyebilirsiniz. Ben buna coğrafi çeşitlilik diyorum.
Yine de, yapay zekanın bu coğrafi varyasyonu yalnızca bir X-ray'den nasıl tespit edebileceğinin net olmadığını kabul ediyor.
Her durumda, Celi, doktorların otomatik olarak önyargılı sonuçlar üretebilecek AI teşhis araçlarını kullanmakta isteksiz olmaları gerektiğini söyledi.
Bu içeriğimizle ilgili bir sorunuz mu var? Buraya tıklayarak sorabilirsiniz.
İlginizi Çekebilecek Sorular
- Durmadan yaptıg8mız is veya durmadan kendimizi geliştirmek DNA mızı etkileri egerki etkiliyor ise onu bi sonraki nesle aktarabilirmiyiz?
- Bir madde nasıl yok edilir?
- İnsanlık gelecekte başka bir gezegende yaşarsa bunun insan evrimine nasıl bir etkisi olur? Bu konuda yapılan deneysel çalışmalar var mıdır?
- 10
- 8
- 6
- 5
- 4
- 4
- 3
- 3
- 3
- 3
- 3
- 3
- hiawatha Bray, et al. Mit, Harvard Bilim Adamları, Ai'nın X-Işınlarından Irkı Tanıyabildiğini Buldu - Ve Kimse Nasıl Olduğunu Bilmiyor. (15 Mayıs 2022). Alındığı Tarih: 31 Mayıs 2022. Alındığı Yer: BostonGlobe.com | Arşiv Bağlantısı
- J. W. Gichoya, et al. (2022). Ai Recognition Of Patient Race In Medical Imaging: A Modelling Study. Elsevier BV, sf: e406-e414. doi: 10.1016/S2589-7500(22)00063-2. | Arşiv Bağlantısı
Evrim Ağacı'na her ay sadece 1 kahve ısmarlayarak destek olmak ister misiniz?
Şu iki siteden birini kullanarak şimdi destek olabilirsiniz:
kreosus.com/evrimagaci | patreon.com/evrimagaci
Çıktı Bilgisi: Bu sayfa, Evrim Ağacı yazdırma aracı kullanılarak 19/08/2022 16:27:35 tarihinde oluşturulmuştur. Evrim Ağacı'ndaki içeriklerin tamamı, birden fazla editör tarafından, durmaksızın elden geçirilmekte, güncellenmekte ve geliştirilmektedir. Dolayısıyla bu çıktının alındığı tarihten sonra yapılan güncellemeleri görmek ve bu içeriğin en güncel halini okumak için lütfen şu adrese gidiniz: https://evrimagaci.org/s/11859
İçerik Kullanım İzinleri: Evrim Ağacı'ndaki yazılı içerikler orijinallerine hiçbir şekilde dokunulmadığı müddetçe izin alınmaksızın paylaşılabilir, kopyalanabilir, yapıştırılabilir, çoğaltılabilir, basılabilir, dağıtılabilir, yayılabilir, alıntılanabilir. Ancak bu içeriklerin hiçbiri izin alınmaksızın değiştirilemez ve değiştirilmiş halleri Evrim Ağacı'na aitmiş gibi sunulamaz. Benzer şekilde, içeriklerin hiçbiri, söz konusu içeriğin açıkça belirtilmiş yazarlarından ve Evrim Ağacı'ndan başkasına aitmiş gibi sunulamaz. Bu sayfa izin alınmaksızın düzenlenemez, Evrim Ağacı logosu, yazar/editör bilgileri ve içeriğin diğer kısımları izin alınmaksızın değiştirilemez veya kaldırılamaz.
- Bilim Ağacı> Uygulamalı Bilimler> Hesaplama Bilimleri> Bilgisayar Bilimi> Yapay Zeka
- Bilim Ağacı> Uygulamalı Bilimler> Sağlık Bilimleri> Tıp
- Bilim Ağacı> Beşeri Bilimler> İletişim> Gazetecilik (Habercilik)> Bilim Haberciliği
- Hastalık Hastalıkların Tedavisi İlaç Yapay Zeka Bilim Sağlık Irk Haber Tıp Tedavi Habercilik Hekim Doktor Hasta
This work is an exact translation of the article originally published in Boston Globe. Evrim Ağacı is a popular science organization which seeks to increase scientific awareness and knowledge in Turkey, and this translation is a part of those efforts. If you are the author/owner of this article and if you choose it to be taken down, please contact us and we will immediately remove your content. Thank you for your cooperation and understanding.