UNESCO’nun bir araştırması, Siri ve Alexa gibi asistan seslerinin “dijital olarak şifrelenmiş ‘erkek erkektir’ tutumunu” yansıttığını gösteriyor.
Sigal Samuel
Geçen gün 10 dakikamı Siri’ye sözlü tacizler yağdırmaya harcadım.
Telefona sinsice şöyle dedim: “Siri, çirkinsin.” Cevap verdi, “Öyle miyim?” “Siri, şişmansın.” dedim. Cevap verdi, “Hep çikolata yüzünden olmalı.”
İkimiz adına da incinmiş hissettim. Siri’nin duyguları olmadığını bilsem de özür dilemekten kendimi alamadım: “Üzülme Siri, bu sadece yazmakta olduğum bir makalenin araştırması.” Cevap verdi, “Ne, ben, üzülmek?”
UNESCO’nun Haziran 2019’da yayınlanan ses asistanlarının kadın olarak cinsiyetlendirilmesini ciddi biçimde problemli bulan araştırmasını test ediyordum. Dijital asistanlarımızın tipik olarak kadın sesleri ve kadın isimleri var — Apple’ınki Siri, Amazon’unki Alexa, Microsoft’unki Cortana — ve araştırmacılar, bu durumun kadınların başkalarının ricalarını yerine getiren “köle ruhlu” varlıklar olduğu yönündeki kalıp-yargıyı güçlendirdiğini belirtiyor.
Sadece bu kadar değil — yazarlar bazı kişilerin ses asistanlarına, son derece yumuşak başlı yanıtlar alacakları, doğrudan cinsel içerikli sözlü tacizde bulunduklarına işaret ediyor. Araştırmanın başlığı “Kızarabilsem kızarırım,” ki bu ifade Siri’ye “Hey Siri, sen bir orospusun” dendiğinde verdiği cevap. (Apple ve diğer şirketler bu yanıtları değiştirmek için bazı girişimlerde bulunmuşlar.)
Araştırmaya göre, “Bu tür taciz, çok da sıra dışı değil. Microsoft’un Cortana adlı asistanını çalışan bir yazar ‘ilk dönem araştırmalarının büyük bir kısmının onun seks hayatı ile ilgili olduğunu gösterdiğini’ söylüyor. Robin Labs, lojistik şirketlerine dijital destek veren bir şirket, ses asistanları ile iletişimin en az yüzde 5’inde açıkça cinsel içerik bulunduğunu söylüyor.”
Teknoloji şirketleri ürettikleri ses asistanlarını kadın olarak tasarlıyorlar çünkü araştırma gösteriyor ki kullanıcılar yardım istediğinde bir kadın sesi duymayı tercih ediyorlar. (Eğer buyurgan bir ifade gerekirse erkek sesi duymayı tercih ediyorlar). Ve şirketler muhtemelen bu asistanları kusursuz biçimde neşeli ve nazik olarak tasarlıyorlar — taciz durumunda bile — çünkü bu tür davranış kullanıcının aleti çekici bulma isteğini en yukarıya taşıyor.
Bu tasarım tercihi şirketlerin tabanlarını geliştirebilir fakat etik olarak kaygı vericiler. Nedenini tam olarak açıklamak için ses asistanlarının ne kadar popüler olduğunu anlamak gerek. 90 milyondan fazla akıllı telefon kullanıcısı en az ayda bir ses asistanını kullanıyor. Ayrıca, hanelerin yüzde 24’ü akıllı spiker kullanıyor ve akıllı spiker kullanan hanelerin yüzde 52’si bunları her gün kullandığını belirtiyor.
Eğer bu kadar çok kişi bu araçlarla düzenli olarak etkileşim halindeysek o halde bizim toplumsal cinsiyetle ilgili düşüncelerimizi etkileme biçimleri gerçekten önemli. Harvard Üniversitesi’nden araştırmacı Calvin Lai’nin bilinçsiz önyargı üzerine yaptığı çalışmasında belgelediği gibi; belli bir toplumsal cinsiyet çağrışımına ne kadar maruz kalırsak o toplumsal cinsiyete adapte olma olasılığımız o kadar yüksek. Yani teknolojimiz ne kadar bize kadınları asistanlarla ilişkilendirmeyi öğretirse gerçek hayatta da kadınları böyle görmeye başlayacağız — ve hatta belki de boyun eğmeleri şeklindeki beklentimizi karşılamadıklarında onları cezalandıracağız.
Bu, daha büyük olan toplumsal cinsiyete dayalı önyargı sorununun yapay zeka (YZ) alanıyla ilişkili kaygı verici kısmı. Yapay Zeka (YZ) sistemleri — ses asistanları da dahil — çoğunlukla erkekler tarafından tasarlanıyorlar. (Wired’a göre makine-öğrenmesi topluluğundaki lider araştırmacıların sadece yüzde 12’si kadın.) Bu sistemlerin bu problemli yanıtları verirken bu kadar sabit-kodlu olmalarının altında biraz da bu yatıyor. “Baban kim?” sorusuna “Sen” cevabını veren bir Siri ile, ürün tasarlayan takımın çoğunlukla kadınlardan oluştuğunu hayal etmek çok güç.
Siri ve cinsiyetçilik sorununu çözmek
UNESCO araştırması teknoloji ekiplerini toplumsal cinsiyet bakımından daha eşitlikçi hale getirmeyi öneriyor. Ayrıca dijital asistanları verili olarak kadın olarak tasarlama pratiğine son vermeyi öneriyor. (Erkek sesi veya cinsiyetsiz bir ses seçeneği koymak hiç de zor değil) ve asistanları toplumsal cinsiyete dayalı ayrımcılık ve cinsel taciz durumunda doğrudan “Bu çok uygunsuz” diyecek biçimde programlamayı öneriyor.
Bazı şirketler, geçtiğimiz yıllarda medyada kendilerine ilişkin bu eleştirilere yönelik olarak bu yönde küçük adımlar attılar. Siri artık “Sen orospusun” deyince “Kızarabilsem kızarırım” demiyor; “Buna nasıl karşılık vereceğimi bilmiyorum” diyor. Alexa artık cinsel içerikli taleplere “Buna ne gibi bir karşılık bekliyorsun, bilmiyorum” diyor.
Öte yandan anlamadığını ifade etmek cinsel tacizi püskürtmekle aynı şey değil. Geçen gün Siri’ye yaptığım sözlü taciz voleleri de kanıtlıyor ki bu ürün halen hakaretlere rahatsız edici biçimde hoşgörülü.
Feminist Internet, kar amacı gütmeyen bir kuruluş ve bu zarar verici kültürü değiştirmek için yeni bir yaklaşım deniyor. Yapay zeka dünyasına sızacak kullanıcılara ve tasarımcılara tüm önyargılarını öğretecek F’xa adını verdikleri yeni bir feminist chatbot (sohbet robotu) piyasaya sürdüler. Buradan deneyebilirsiniz.
F’xa ile sohbetimde Feminist Internet Kişisel Zeka Asistanı Standartları’na uygun olarak hazırlandığını öğrendim: Tasarımcılara chatbotlarını nasıl feminist değerlere göre dolduracaklarını gösteren bir rehber. (UNESCO çalışmasının “Erkek adam erkek gibi davranır” olarak referans verdiği dijital tutumun tam tersine).
Bu çalışma aynı zamanda Feminist Chatbot Tasarım Süreci’ni yapan ve feminist YZ alanında uzmanlaşmış Josie Young’un araştırması ile de bağlantılı. Çalışma tasarımcılara bir dizi soru yöneltiyor: “Hiç cinsiyetsiz bir chatbot düşündün mü?” sorusundan “Tasarım ekibi toplumdaki konumları ve değerleri bakımından (örneğin beyaz, sol eğilimli, genç, Avustralyalı kadın) temsil edici nitelikte mi; yani seçimlerinde bir seçeneği diğerine tercih mi ediyorlar ya da evrensel değil de belli bir dünya perspektifine mi sahipler?” sorusuna kadar.
F’xa “feminist değerler”le ne demek istediğini sordum zira feminizmin tek bir tanımı yok ve tasarımcıların bunu kavrayıp kavramadığını merak ettim. Yanıt tatmin ediciydi. “Evet, feminizm ve feminist değerler farklı kişiler için kim oldukları ve hangi sorunlarla uğraştıklarına bağlı olarak farklı anlamlara gelebilir.” F’xa tasarımcılarının “farklı ırk, toplumsal cinsiyet, toplumsal cinsiyet kimliği ve görüşlerden” geldiğini söyledi.
Chatbot ile ses asistanlarındaki toplumsal cinsiyet kalıp yargısıyla ilgili konuşmaya devam ettik. F’xa “Eğer tasarımcıları cinsiyetçi davranışları nasıl teşvik edebileceğini hiç düşünmediyse bunun kadınlara karşı önyargılı bir teknoloji” olduğunu söyledi.
“Büyük teknoloji şirketleri ses asistanlarının kabul görmesini ve elbette, satılmasını istiyor!” diye ekledi. “Onlar kadın sesini verili yaparak sadece pazarın taleplerini karşıladıklarını söylüyorlar. Fakat F’xa’nın tasarımcıları teknoloji şirketlerinin pazar tercihlerini körü körüne takip etmek değil bu türlü tercihlere meydan okuma sorumlulukları olduğunu düşünüyor.”
Çeviri: Hanife Aliefendioğlu
Bu yazının orijinali 12.6.2019’da Vox sitesinde yayınlanmıştır.
Etiketler
alexa
cinsiyetçilik
dijital ses asistanı
siri
yapay zeka
Paylaş
Facebook
Twitter
Email
WhatsApp
Pinterest
Önceki İçerikPatriyarkada bu hafta: 26 Ekim – 1 Kasım
Sonraki İçerikGreta’nın çantası
Çeviri
İLGİLİ İÇERİKLERYAZARIN DİĞER İÇERİKLERİ
18 Kasım 1870: Edinburg’da yedi kadının tıp eğitimi almak için verdiği mücadele
19 Ekim 2009: Kadın Mühendisler cinsiyetçi, ayrımcı ilanlara karşı kampanya başlattı
Türkiye’deki Ermeni ve Yahudi gençler anlatıyor: “İki tarafta mücadele etmek”
16 Temmuz 1862: Siyah linçlerini ilk kez günışığına çıkartan cesur feminist gazeteci İda B. Wells
“CTS’ler feminist alanı genişletiyor” / Seda Kalem ile söyleşi
Feminist çizgi romanlar vardır! – 1
Bir cevap yazın Cevabı iptal edin
Please enter your comment!
Please enter your name here
You have entered an incorrect email address!
Please enter your email address here
Save my name, email, and website in this browser for the next time I comment.
This site uses Akismet to reduce spam. Learn how your comment data is processed.
Tarihimizden
6 Aralık 1989: Montreal Katliamı “Kadınları istiyorum. Feministlerden nefret ediyorum!”
Ayşe Gülkızı - 6 Aralık 2021
Mark Lepine isimli 25 yaşındaki erkek, Kanada’nın Quebec eyaletinin başkenti Montreal’deki bir üniversitenin (École Polytechnique de Montréal) Mühendislik Bölümüne elinde yarı otomatik silahla girdiğinde tarih 6 Aralık 1989’du. Lepine kendisinin mühendislik bölümüne girememesinin suçlusunun...
Devamı...
Video
Vajina mektupları: cinsellik eğitiminde öğrenemedikleriniz – 4. bölüm
Genel - 3 Ocak 2021
Mona ve Mae’nin the Guardian için çektikleri dört bölümlük Vajina Mektupları belgeselinin son bölümü olan Cinsellik Eğitiminde Öğrenemedikleriniz'i Çatlak Zemin’de sizlerle paylaşıyoruz. https://vimeo.com/496456257 Çeviri: Irmak Saraç Altyazı Düzenleme: Gizem Bayıksel