Yapay zeka (YZ), otomatik karar verme süreçlerinin büyük ölçüde kalitesini artırarak verimlilik açısından fırsatlar yaratmaktadır – ancak buna paralel olarak, ayrımcılığı devam ettirebilmekte ve şiddetlendirebilmektedir. YZ’nin kamu ve özel sektör kullanımlarının ayrımcı bir etkiye sahip olduğu zaten göz önündeyken, bilgi akışı aşırılıkları ön planda tutma ve nefreti teşvik etme eğilimindedir. Önyargılı veri kümelerinin kullanımı, insan haklarını koruma ihtiyacına entegre olamayan tasarım, algoritmaların şeffaf olmaması ve etkileri bakımından hesap verebilirlik eksikliği ve yapay zeka ekiplerinde çeşitlilik eksikliği; hepsi bu olguya katkıda bulunmaktadır.
Devletler, yapay zekanın toplumda ayrımcı bir etkiye sahip olmasını önlemek için harekete geçmeli ve bu alanda uluslararası standartlar geliştirmek için birlikte çalışmalıdır.
Parlamentolar ayrıca yapay zeka tabanlı teknolojilerin kullanımını denetlemede ve kamu denetimine tabi olmasını sağlamada aktif bir rol oynamalıdır. Ayrımcılıkla mücadelede yerel mevzuat gözden geçirilmeli ve YZ kullanımından kaynaklı ayrımcılığa uğrayan mağdurların etkili kanun yoluna erişimi sağlanmalı ve ulusal eşitlik kurumu, YZ tabanlı teknolojilerin etkileriyle başa çıkmak üzere donanımlı hale getirilmelidir.
Eşitliğe saygı ve ayrımcılık yapmama, en başından itibaren YZ tabanlı sistemlerin tasarımına entegre edilmeli ve kullanımdan önce test edilmelidir. Kamu ve özel sektör, teknoloji araştırmalarında ve mesleklerde çeşitliliği ve disiplinler arası yaklaşımları aktif bir şekilde teşvik etmelidir.
Raporun orijinaline aşağıdaki bağlantı adresinden ulaşabilirsiniz:
doc.%2015151.pdf erişimi için tıklayın
İndir
Yazdır
Twitter
Facebook
LinkedIn
WhatsApp
Skype
Telegram
Genel/Raporlar
Posted on Monday April 22nd, 2019
Ayrımcılık Yapan Sistemler – Yapay Zekada Cinsiyet, Irk ve Güç
by Selin Cetin
Ayrımcılık Yapan Sistemler – Yapay Zekada Cinsiyet, Irk ve Güç
Sarah Myers West, AI Now Enstitüsü, New York Üniversitesi
Meredith Whittaker, AI Now Enstitüsü, New York Üniversitesi, Google Open Research
Kate Crawford, AI Now Enstitüsü, New York Üniversitesi, Microsoft Research
Nisan 2019
Araştırma Bulguları
YZ sektöründe cinsiyet ve ırk arasında bir çeşitlilik krizi söz konusudur. Son araştırmalar, önde gelen YZ konferanslarında yazarların sadece % 18’inin kadın1 ve YZ profesörlerinin % 80’inden fazlasının ise erkek 2olduğunu gösteriyor. YZ endüstrisindeki 3bu eşitsizlik ise daha da fazladır: kadınlar Facebook’ta YZ araştırma personelinin sadece% 15’ini ve Google’da ise % 10’unu oluşturmaktadır. Siyahi işçiler için ise tablo daha da kötü durumdadır. Örneğin, Google’ın işgücünün yalnızca % 2,5’i siyahi iken, Facebook ve Microsoft ise bu sayı % 4’tedir. Bu dengesizliği gidermek için yıllarca süren çaba ve yatırım göz önüne alındığında, alanın mevcut durumu endişe vericidir.
YZ sektörünün mevcut çeşitlilik krizini ele alışında derin bir değişim ihtiyacı hasıl olmuştur. YZ endüstrisinin çeşitlilik probleminin ciddiyetini, mevcut metodların gücün dengesiz dağılışı ile mücadele edemediğini, ayrıca YZ’nin bu eşitsizliği güçlendirdiğini kabul etmesi gerekir. Ayrıca, birçok araştırmacı YZ sistemlerindeki önyargıların tarihsel ayrımcılık kalıplarını yansıttığını göstermiştir. Bunlar aynı sorunun iki tezahürüdür ve birlikte ele alınmaları gerekir.
“Teknikte kadınlara” olan yoğun odaklanma çok dar ve beyaz kadınları diğerlerinden daha ayrıcalıklı kılmaktadır. Irk, cinsiyet ve diğer kimlik ve niteliklerin kesişme noktalarının insanların YZ ile olan deneyimlerini nasıl şekillendirdiğini bilmemiz gerekir. YZ çalışmalarının büyük çoğunluğu cinsiyetin ikili olduğunu varsayar ve genel olarak diğer tüm toplumsal cinsiyet kimliği biçimlerini silerek, fiziksel görünüme ve basmakalıp varsayımlara dayanarak insanları “erkek” veya “kadın” olarak atar.
“Algoritma akışını“ düzeltmek, YZ’nin çeşitlilik sorunlarını çözmez. Farklı meslekten adayların okuldan sektöre akışını değerlendiren onlarca yıllık “algoritma akışı çalışmaları”na rağmen, YZ endüstrisindeki çeşitlilik konusunda önemli bir ilerleme olmamıştır. Algoritma akışına odaklanma; işyeri kültürleri, güç asimetrileri, taciz, dışlayıcı işe alım uygulamaları, haksız tazminat ve insanların YZ sektöründen tamamen uzaklaşmasına veya çalışmalarını engellemesine neden olan belirtkeleme ile ilgili daha derin sorunları ele almamıştır.
YZ sistemlerinin, ırk ve cinsiyetin sınıflandırılması, tespiti ve öngörülmesindeki kullanımı, acil olarak yeniden değerlendirmeye ihtiyaç duymaktadır. “Irk bilimi”nin geçmişi, dış görünüşe dayalı ırk ve cinsiyet sınıflandırmasının bilimsel olarak kusurlu olduğuna ve kolayca kötüye kullanıldığına dair acımasız bir hatırlatıcıdır. Fiziksel görünüşü karakter veya içsel durumlar için bir vekil olarak kullanan sistemler, vesikalık fotoğraftan4 cinsiyeti belirlediğini, yüz özelliklerine dayanarak “suçluyu” öngördüğünü5 veya “mikro ifadeler” ile işçi yeterliliğini değerlendirdiğini 6iddia eden YZ araçları da dahil olmak üzere tüm bunlara kuşkuyla bakmak gerekir. Bu tür sistemler tarihsel eşitsizliği derinleştirecek ve haklı gösterebilecek şekilde ülkedeki ırk ve cinsiyet yanlılığı modellerini tekrarlamaktadır. Bu araçların ticari konuşlandırılması ise derin bir endişe kaynağıdır.
Raporun orijinalini ve bağlantı adresini aşağıda bulabilirsiniz:
https://ainowinstitute.org/discriminatingsystems.pdf
İndir
Yazdır
Twitter
Facebook
LinkedIn
WhatsApp
Skype
Telegram
Turkish
English
Etkinlikler
Etkinlik bulunamadı.
Hakkımda
2012 yılında Japonca eğitimi sonrasında hukuk fakültesine başladım. Almanya ve Türkiye’de stajlarımı yaptım. Japon dili sertifikası aldım. Ayrıca arabulucuk-tahkim ve ceza hukuku gibi alanlarda sertifika programlarına katıldım. Daha sonra, robotlar, yapay zeka ve onların hukuksal durumları ve problemlerine dair merakım oluştu.
Özellikle ABD ve AB ülkerinde mevcut olan gelişmelerin dünya genelinde ilerleyeceğine inanıyorum. Blog aracılığıyla söz konusu gelişmeleri sunmayı amaçlıyorum.
Değerli yorumlarınız ile katılımcı olmanızı bekliyorum.
I studied law following my Japanese education on 2012. I fulfilled my law internships in Germany and Turkey. I also have certificate of Japanese language and I have mediation and arbitration certificates and criminal law certificates from law workshops. I was intrigued by robots, artificial intelligence and their legal statues and problems.
I believe that the present developments especially in USA and EU will continue to advance around the world . I will focus on developments via this blog.
I wait for your valuable comments.
Selin Cetin
Hukuk & Robotik
Yapay Zeka İçin Yeni Kurallar – Sorular ve Cevaplar 25/04/2021
Yapay Zeka İçin Yeni Kurallar -Sorular ve Cevaplar- Avrupa Birliği Komisyonu 2021 Yapay zeka teknolojisinin kullanımını neden hukuki olarak düzenlememiz gerekiyor? Yapay zekanın toplumlarımız için potansiyel faydaları, gelişmiş tıbbi tedaviden daha iyi eğitime kadar çok çeşitlidir. Yapay zekanın hızlı teknolojik gelişimi ile karşı karşıya kalan AB, bu fırsatlardan yararlanmak için tek vücut halinde […]
Selin Cetin
2020’de Yapay Zeka 04/04/2021
2020’de Yapay Zeka Mart, 2021 Giriş “2020 birçok açıdan unutulmaz bir yıl oldu. COVID-19 pandemisinin çok boyutlu etkileri elbette insanlığın bazı zayıf noktalarını ortaya koydu ama bir yandan da bilim ve teknolojinin kazanımları, salgının tarihteki benzerleriyle karşılaştırıldığında çok daha az can kaybıyla atlatılmasını ve en azından gelişmiş ülkelerin daha çabuk toparlanmasını […]