Time’da yayınlanan yeni bir araştırma, güçlü yeni üretken yapay zeka sohbet robotu ChatGPT’nin ardındaki OpenAI’nin, ek bir yapay zeka filtresi oluşturmak ve kötü (hukuka aykırı) içerikleri elemek için çoğu saati 2 doların altında ödenen Kenyalı dış kaynaklı çalışanlar kullandığını iddia ediyor. Haber duyulduğunda OpenAI yüksek sesle eleştirilmeye başlandı.
Düşük ücretli Kenyalı çalışanların kötü içeriği taradığı, filtreleme yaptığı ve ilaveten ChatGPT’yi eğitmek için kullanılan büyük veri kümelerinden kötü olanları kaldırmaya yardımcı ettikleri
Son kullanıcılar temiz bir ürün alırken, Kenyalı çalışanlar, bir tür yapay zeka koruyucusu gibi hareket ederek, çocukların cinsel istismarı, cinayet, işkence, intihar ve ensestin canlı anlatımlarını tasvir eden metin parçacıklarını ya da grafik detayları taradı.
Open AI’nin, Google ve Meta gibi Silikon vadisi devleri adına veri etiketleme görevlerini yerine getirmek için Kenya, Uganda ve Hindistan’dan kiraladıkları çalışanları kullanan Sama adlı bir ABD şirketi ile çalıştığı bildirildi. Sama, Meta (Facebook) ile de yakın zamana kadar Afrika içerik moderatörlüğü konusunda çalışıyordu. Sama ve Meta halen, 2 şirketin Kenya anayasasını ihlal ettiğini iddiasıyla, eski bir içerik moderatörü tarafından dava edilmiş durumda.
OpenAI’nin Microsoft’tan 10 milyar $ civarı para alacağı ve değerlemesinin 29 milyar $’a çıkacağı kaydediliyor. Buna karşılık Sama’nın çalıştırdığı Kenyalı çalışanların saatte 1,32 ila 2 dolar kazandığı bildirildi.
İçerik moderatörleri günümüzün “kirli çamaşır temizleyicileri” durumunda. Ama çoğu bu temizleme işlemi ile birlikte ruhsal sıkıntılar yaşayabiliyor. Örneğin bu olayda Kenyalı çalışanlardan biri Time’a, bir adamın bir köpekle seks yaptığı açıklamasını okuduktan sonra tekrarlayan imgelemeden muzdarip olduğunu ve işkence yaşadığını söylemiş. .
Genel olarak, içerik ekiplerinin dokuz saatlik bir vardiyada yaklaşık 150-250 metin pasajı okumak ve etiketlemekle görevlendirildiği bildirildi. Çalışanlara sağlıklı yaşam danışmanlarıyla görüşme olanağı verilmiş olsa da, yine de Time’a işten zihinsel olarak yaralanmış hissettiklerini söylediler. Sama, Time’a çalışanların vardiya başına yalnızca 70 pasajı etiketlemesinin beklendiğini söyleyerek bu rakamlara itiraz etmiş.
OpenAI, Time’a gönderdiği açıklamada şöyle demiş:
“Misyonumuz, yapay genel zekanın tüm insanlığa fayda sağlamasını sağlamak. Önyargıyı ve zararlı içeriği sınırlayan güvenli ve kullanışlı AI sistemleri oluşturmak için çok çalışıyoruz. Zararlı [metin ve resimleri] sınıflandırmak ve filtrelemek, eğitim verilerinde yer alan şiddet içeren ve cinsel içerik miktarını en aza indirmek ve zararlı içeriği tespit edebilecek araçlar oluşturmak için gerekli bir adımdır.”
OpenAI ile yaklaşık 200.000 $ değerinde üç sözleşme imzaladığı bildirilen Sama, yakın zamanda, zararlı veri etiketleme alanından tamamen çıkmaya karar verdi. Bu ayın başlarında şirketin, hem OpenAI hem de diğerleri için hassas içerikle ilgili çalışmalarının geri kalanını iptal edeceğini ve bunun yerine “bilgisayar vizyonu veri açıklama çözümlerine” odaklanacağını duyurduğu bildirildi.
Time araştırması, sözde “yapay” teknolojinin temelini oluşturan çalışanların zorluklarını açık ayrıntılarla ortaya koyuyor. Dünyanın en iyi teknoloji şirketleri tarafından yaratılan yeni, görünüşte sorunsuz teknolojiler genellikle büyük sorunları düşük genel giderlerle çözme yeteneklerinin reklamını yapsa da, OpenAI’nin, sosyal medya şirketlerinin uluslararası içerik moderatörlerinden oluşan büyük ordusu gibi Kenyalı çalışanlara bel bağlaması, büyük insan işgücüne ışık tutuyor.
Teknolojiyle ilişkilendirilen görünüşte basit, parlak, temiz dünya, kaçınılmaz olarak neredeyse her zaman aynı anda yüzeyin hemen altına gizlenmiş daha karanlık bir şey tarafından destekleniyor gibi gözükmeye başladı. Facebook gönderilerini gözden geçiren zihinsel olarak yaralı içerik moderatörlerinden, lüks elektrikli araçlar için gerekli olan kobalt madenciliği yapan aşırı çalışan çocuk işçilere kadar, verimliliğin insani bir maliyeti var. Yeni bir rapor, üretken yapay zekanın öne çıkan OpenAI için de aynı derecede geçerli olduğunu gösteriyor.