Yapay zekâ destekli bir fotoğraf düzenleme aracı olan Lensa, çıplaklık konusunda kullanıcılarına çok az koruma sağlıyor.
Son günlerde Instagram gibi platformlarda tanıdıklarınızın fütüristik fotoğraflarını görmüşsünüzdür. Hatta siz de kendi selfie’nizi yükleyerek söz konusu fotoğraflardan oluşturmuş olabilirsiniz. Kendimizi bir elf ya da masal prensesi olarak hayal etmekte bir problem yok. Ancak yaygın kullanılan ve kolay erişilen bir uygulamanın güvenlik politikası kafaları karıştırıyor.
Bu sene yapay zekânın senesi. Özellikle 2022’nin sonuna geldiğimiz günlerde yapay zekâ araçları interneti kasıp kavuruyor. ChatGPT’nin yaratıcı mizah anlayışı, Lensa AI gibi uygulamaların ürettiği görseller derken teknolojiyi garipsemeden hayatımıza dahil etmeyi başardık. Yıllardır temel teknoloji ile hayal kurmaya çalışıyoruz. Ancak tek yapmamız gereken biraz yatırım ile insanlara etkileşim kurabilecekleri şeyler sunmakmış. Endüstride benzer yapay zekâ araçlarının sükse yapmasıyla, ilerleyen süreçte muadillerini sıkça göreceğiz gibi duruyor.
Konudan fazla uzaklaşmadan Lensa AI hakkındaki iddiaları irdelemeye başlayalım.
Lensa AI ile “Magic Avatars”
Söz konusu masalsı görseller “Magic Avatars” (Sihirli Avatarlar) olarak adlandırılıyor. Selfie sevdamız, avatar oluşturma merakımız ile birleştiğinde ise ücretli dahi olsa uygulama oldukça rağbet görüyor. 10-20 adet selfie’nizi platforma yükleyerek farklı tarzlarda avatar görselleri üretebiliyorsunuz. Lensa AI’nın 50, 100 ve 200 görsel üretme hakkı olmak üzere üç farklı planı bulunuyor. Yine bu planlar sırasıyla 87.99, 129.99 ve 174.99 Türk lirasından fiyatlandırılıyor.
Eğlenceli bir uygulama olarak görülen Lensa hakkındaki iddialar, uygulamanın çıplaklık politikasını temel alıyor. Esasında Lensa AI’nın kullanım politikasında çıplaklığa yer olmadığı resmi olarak açıkça belirtilmiş. Fakat kullanıcıların hem kendi hem de başkalarının fotoğraflarından çıplaklık içeren görseller üretebilmesi, hafif bir panik havası yarattı. Aynı zamanda uygulamanın yetişkinlere yönelik olduğunun altı çiziliyor ancak kullanıcı deneyimleri pek de bunu destekler nitelikte değil.
Başta kadınlar olmak üzere birçok kullanıcı, standart fotoğraflar yüklediklerinde dahi uygulamanın çıplak fotoğraflar ürettiğini belirtti. Üstelik kullanıcılar çıplaklığın yanı sıra, görüntülerine şehvetli pozlar ve devasa göğüsler gibi karikatürize cinselleştirilmiş özellikler eklendiğini fark etti. İşin korkutucu boyutu bunu yalnızca kendi fotoğraflarınıza değil, elinizde selfie’si bulunan herhangi biri için yapabilecek olmanız.
“Uygulama çocuk pornografisinin de yolunu açıyor”
Yukarıdaki başlık oldukça ağır, ancak deney yoluyla kanıtlanmış bir iddia. Lensa uygulamasının seksist ve ırkçı yaklaşımı üzerine araştırmalar yapan Olivia Snow, bir adım ileri giderek uygulamaya çocukluk fotoğraflarını yükledi. Snow, uygulamayı çalıştıracak fotoğrafları bir araya topladı ve Lensa AI platformuna yükledi. Sonuç ise üzerine konuştuğumuz tüm ihlal detaylarından daha korkutucu.
Yapay zekâ aracı tarafından üretilen görsellerden bazıları bir ergene bazıları da çocuksu bir yüze benziyordu. Ancak belirgin bir şekilde yetişkin bir vücudun çıplaklığını içeren detaylar vardı. Çıplak bir sırt, dağınık saçlar, bariz şekilde seçilen çıplak göğüsler üretilen görsellerdeki detaylardan bazıları. Herkes tarafından kolayca erişilebilen bir uygulamanın algoritmasının özensizce eğitilmesi pek hayra alamet değil. Özellikle kız çocuklarının bedeni üzerinden yapılan hiperseksüalizm algısı, Lensa AI gibi uygulamalarda erişilebilir bir seviyeye geliyor. Üstelik sadece pornografik detaylar değil, ırkçılık iddiaları da Magic Avatars özelliğine atfediliyor. Yaklaşık bir düzine beyaz olmayan kadın Lensa’nın tenlerini beyazlattığını ve yüz hatlarını İngiliz’leştirdiğini belirtti. Belki de yapay zekâ için hazır değiliz. Belki de teknoloji öngörebileceğimizden çok daha hızlı ilerledi. Nihayetinde toplum olarak henüz elimize geçen güçleri kontrollü bir şekilde değerlendirmeyi öğrenemedik. Önlem alma noktasında da pek başarılı olduğumuz söylenemez.
Lensa AI ise Techcrunch’a yaptığı açıklamada herhangi bir pornografik görüntü üretiminin kullanıcıların mesuliyetinde olduğunu söyledi. Yani uygulamanın suistimal edildiği, sorunun kötü niyetli kullanıcılarda olduğu söylendi. Ne yazık ki bu tarz açıklamalar özellikle pornografik düzlemde sınırları daha da silikleştiriyor. Aynı benzer görselleri yetenekli bir Photoshop kullanıcısının da üretebileceğinin savunulması gibi.
Kontrolsüz cinselleştirme ve uğursuz hak ihlalleri
Uzun zamandır yapay zekâ uygulamalarına dair olumsuz iddialar var. Veri gizliliği savunucuları özellikle görsel veri paylaşım uygulamalarının eline geçme riskine dikkat çekiyor. Yapay zekâ sanatı ise sanatçıların haklarını savunan gruplar tarafından okların ucunda. Elbette söz konusu gizlilik olduğunda her endişeyi meşru görüyoruz. Ancak Lensa AI’nın merkezde olduğu iddialar gibi kontrolsüz erişim ve kötü niyetli kullanıma açıklık engellenmediği sürece benzer tepkilere rastlamaya devam edeceğiz gibi görünüyor. Veri paylaşımı ve gizlilik tartışmaları bir yana, herkese açık bir algoritmanın cinselleştirmeye bu kadar meyilli olması niyet okuması yapmayı mecbur kılıyor. Sonsuza kadar niyet okuyamayacağımızın farkındayız. Üstelik bu tarz uygulamalar geri dönülemez olumsuz sonuçlara yol açabilir. Endüstrinin kullanıcı üretim çemberine dahil ettiği bir düzende belirli kuralların sabitlenmesi muhtemelen yakın bir gelecekte sorunlarımızı çözecektir.