Portland, Oregon’da yaşayan bir yazılım geliştiricisi olan Chris Cowell, teknik bir kitap yazmak için bir yıldan fazla zaman harcadı. Ancak kitabı yayınlanmadan üç hafta önce Amazon’da aynı konuda, aynı başlığa sahip başka bir kitap ortaya çıktı.
Cowell, ilk önce emeğine yazık olduğunu düşünüp üzüldü. Fakat sonra bir şey fark etti: Kendi başlığıyla tıpa tıp aynı olan bu Amazon kitabının başlığı rastgele seçilemeyecek kadar uzun, spesifik ve karmaşık bir başlıktı.
Bunun üzerine içine bir kurt düşen Cowell, Automating DevOps with GitLab CI/CD Pipelines başlıklı kitabın yazarını araştırdı. Her nasılsa sözde yazar Marie Karpos hakkında internette hiçbir şey yoktu. İşte o zaman Corwell kitabının çalındığından şüphelenmeye başladı.
Kitap, OpenAI’ın ChatGPT’si gibi bir yazılım kullanılarak yapay zekâ dil modeli tarafından yazıldığına dair işaretler taşıyordu. Örneğin, kodların gösterildiği bazı bölümler ChatGPT ekran görüntülerine benziyordu. Üstüne üstlük kitabın yayıncısı, Mumbai merkezli inKstall adlı bir eğitim teknolojisi firmasıydı ve Amazon’da benzer teknik konularda, her biri farklı bir yazara, alışılmadık bir dizi yasal uyarıya sahip onlarca kitabı vardı. Bir de hep aynı Hindistanlı kişiler tarafından bu kitaplara beş yıldızlı değerlendirmeler yapılmıştı. InKstall yorum taleplerine yanıt vermedi.
Uzmanlara göre bu kitaplar, internette hızla yayılan yapay zekâdan çıkma içerik buzdağının sadece görünen kısmı. Ürün incelemelerinden yemek tariflerine, blog yazılarına ve basın bültenlerine kadar, çevrimiçi materyallerin insan tarafından yazılması normdan ziyade istisna olma yolunda ilerliyor. Bunun tüketiciler için anlamıysa, birçok konu hakkında yanlış bilgi içeren kalitesiz, yarım yamalak metinler.
YZ tarafından üretilen metinlerde güvenilirlik problemi
Hugging Face adlı yapay zekâ start-up’ının baş etik bilimcisi Margaret Mitchell, yapay zekâ tarafından yazılan metinler arttıkça bu incelenmemiş, sonsuz veri havuzlarının gerçeğe dayanmayabileceği konusunda uyarıyor. ‘‘Asıl mesele, gerçeğin izini kaybetmek’’ diyor.
‘‘Temellendirme olmadan sistem bir şeyler uydurabilir. Eğer dünyanın her yerinde aynı uydurma şey varsa, gerçeğin ne olduğunu nasıl belirleyebilirsiniz?’’
Üretken yapay zekâ araçları ChatGPT’nin kasım ayında piyasaya sürülmesinden bu yana tüm dünyanın dikkatini çekti. Bununla beraber bir dizi çevrimiçi yayıncı, ChatGPT’nin öncülleri olan GPT-2 ve GPT-3’e dayanan otomatik yazma araçlarını yıllardır kullanıyor. Bu durum, yapay zekâ yaratımlarının fark edilmeden insan çalışmalarıyla karıştığı bir dünyanın hiç de kurgusal olmadığını gösteriyor.
Eğer dünyanın her yerinde aynı uydurma şey varsa, gerçeğin ne olduğunu nasıl belirleyebilirsiniz?’’
Önde gelen bir dijital pazarlama firması olan Semrush, kısa süre önce müşterilerine otomatik araç kullanımları hakkında bir anket yaptı. Semrush Baş Strateji Sorumlusu Eugene Levin’e göre, ankete katılan 894 kişiden 761’i online içerik üretmek için en azından bir tür üretken yapay zekâyı denediğini, 370’i ise artık yeni içeriklerinin çoğunu üretmek için kullandığını söyledi.
Levin, ‘‘Son iki yılda bunun bir yenilik olmaktan çıkıp iş akışının önemli bir parçası hâline geldiğini gördük’’ diyor.
Haber güvenilirliği derecelendirme şirketi NewsGuard bu hafta yayınladığı ayrı bir raporda yedi dilde 49 haber sitesinin çoğunlukla ya da tamamen yapay zekâ tarafından oluşturulduğunu tespit etti. Şirket, bu sitelerin Biz Breaking News, Market News Reports ve bestbudgetUSA.com gibi isimler taşıdığını; bazılarının sahte yazar profilleri kullandığını ve günde yüzlerce makale yayınladığını belirtti. Haberlerin bir kısmı uydurmayken birçoğu da diğer mecralarda trend olan gerçek hikâyelerin yapay zekâ tarafından hazırlanmış özetlerinden oluşuyor.
Yeni medya döngüsü: YZ kullanımı, itibarda düşüş ve işten çıkarmalar
The Post’a konuşan birkaç şirket, dil araçlarını insan yazarların yerini almak için değil, onları daha üretken kılmak ya da başka türlü üretemeyecekleri içerikleri üretmelerine yardımcı olmak için tasarlandığını söyleyerek yapay zekâ kullanımını savundu. Bazıları yapay zekâ kullanımlarını açıkça bildirirken, diğerleri otomatik yazmaya karşı olan yargıyı gerekçe göstererek bunu daha ihtiyatlı bir şekilde dile getiriyor ya da kamuoyundan gizliyor.
Google şubat ayında, arama sıralamasını değiştirmek için kullanılmadığı sürece, arama sonuçlarında yapay zekâ tarafından oluşturulan içeriğe izin verdiğini açıkladı. Şirket, algoritmalarının ‘‘içeriğin nasıl üretildiğinden ziyade içeriğin kalitesine’’ odaklandığını söyledi. Ancak yapay zekâ kullanımı geri teperse itibar riske girebilir.
Bir teknoloji haberleri sitesi olan Futurism’in ocak ayında popüler bir teknoloji haberleri sitesi olan CNET’in açıkça belirtmeden makaleler oluşturmak veya mevcut makalelere eklemeler yapmak için yapay zekâ kullandığını ifşalamıştı. CNET daha sonra yaptığı araştırmada, yapay zekâ ile hazırlanan 77 haberin birçoğunun hata içerdiğini tespit etti.
Bunun yanı sıra CNET mart ayında bir dizi çalışanını işten çıkardı ve bu hareketin artan yapay zekâ kullanımıyla ilgisi olmadığını söyledi.
Facebook gibi sosyal platformlarda okuyuculara doğrudan ulaşma üzerine kurulu bir medya modeline öncülük eden BuzzFeed, ocak ayında ‘‘yapay zekâdan ilham alan içeriği temel işinin bir parçası hâine getirmeyi’’ planladığını duyurdu. Ne tasadüf ki bunun üzerine BuzzFeed de geçtiğimiz ay personelinin yüzde 15’ini işten çıkaracağını ve haber bölümü BuzzFeed News’i kapatacağını duyurdu.
BuzzFeed sözcüsü Juliana Clifton, ‘‘Yapay zekâ denemelerimiz ile son yeniden yapılanmamız arasında bir ilişki yok’’ dedi.
YZ üretimi metinler click bait ve satış pazarlamasının vazgeçilmezi
YZ’nin ana akım medyanın geleceğindeki rolü, günümüzün dil modellerinin sınırlamaları ve YZ etiği ve fikri mülkiyet konusundaki belirsizliklerle gölgeleniyor. Öte yandan başarının itibardan ziyade algoritmayla oynamaya bağlı olduğu click bait ve satış ortaklığı pazarlaması alanlarında YZ büyük ilgi görüyor.
Bu iş basit bir denkleme odaklanıyor: Bir makale oluşturmanın maliyeti ile ne kadar gelir getirebileceği arasındaki fark. Asıl amaç mümkün olduğunca çok tıklama almak, ardından okuyuculara her ziyarette birkaç lira değerinde reklamlar sunmak. NewsGuard’ın eş CEO’su Gordon Crovitz, raporda yapay zekâ kullandığı belirtilen ‘‘haber’’ sitelerinin genellikle bu modeli benimsediğini söylüyor.
YZ kullanan bazı siteler tıklanma uğruna Başkan Biden’ın öldüğü gibi sansasyonel haberler uydurdu. Diğerlerinin ise çeşitli yerel haber kaynaklarında trend olan hikâyeleri yeniden yazmak için yapay zekâ kullandığı görüldü.
NewsGuard bu siteleri, internette ve analiz araçlarında ‘‘Bir yapay zekâ dil modeli olarak’’ gibi, bir sitenin dikkatli bir düzenleme yapmadan doğrudan bir yapay zekâ sohbet robotundan çıktılar yayınladığını gösteren ifadeleri arayarak buldu. Bir yerel haber sitesi olan countylocalnews.com, geçtiğimiz günlerde bir haber yayınladı. Bu haberin alt başlıklarının her biri ‘‘Bir yapay zekâ dil modeli olarak, yeniden yazmak için orijinal başlığa ihtiyacım var. Lütfen bana orijinal başlığı sağlayın’’ ifadelerinden oluşuyordu.
Bir de satın almaya teşvik etmek için tasarlanmış siteler var ki, içeridekiler bu sitelerin bugünlerde saf tıklama tuzağından daha kârlı olduğunu söylüyor. Örneğin Nutricity adlı bir site, NewsGuard’ın analizine göre, yapay zekâ tarafından üretilmiş gibi görünen ürün incelemelerini kullanarak diyet takviyeleri satıyor. Bir tanesinde şöyle yazıyor: ‘‘Bir yapay zekâ dil modeli olarak, Avustralyalı kullanıcıların nutricity.com.au adresinden saç, cilt ve tırnak ürünleri satın almaları gerektiğine inanıyorum.’’ Nutricity yorum talebine yanıt vermedi.
Yeni nesil içerik fabrikaları
Geçmişte, bu tür siteler yazılarını genellikle ‘‘içerik fabrikaları’’ olarak bilinen ve asgari ücret karşılığında fena olmayan (en azından YZ’den fena olmayan) metinler üretmek için serbest çalışanları kullanan işletmelere yaptırıyordu. Şimdi ise bazıları içerik fabrikalarını atlayıp bunun yerine yapay zekâyı tercih ediyor.
Semrush’tan Levin, ‘‘Önceden, diyelim ki beş ürün için iyi bir inceleme yazmak size 250 dolara mâl oluyordu’’ diye açıklıyor. ‘‘Ama şimdi bunların hepsi yapay zekâ tarafından yapılabiliyor, dolayısıyla maliyet 250 dolardan 10 dolara düştü.’’
Levin’e göre sorun, ChatGPT gibi araçların yaygınlaşmasıyla daha fazla insanın benzer şekilde ucuz içerik üretmesi ve hepsinin Google arama sonuçlarında ya da Amazon’un site içi ürün incelemelerinde üst sıralar için rekabet etmesi. Bu yüzden hepsi, her biri belirli arama sorgularında üst sıralarda yer almak üzere ayarlanmış daha fazla makale sayfası üretmek zorunda. Sonuç ise yapay zekâ tarafından yazılmış web sitelerinden oluşan bir içerik çöplüğü.
Kimse makineden çıkanlara yüzde 100 güvenmemeli’’
Almanya ve Las Vegas merkezli lider bir içerik platformu olan Textbroker’ın gelirler müdürü Jochen Mebus, yapay zekânın yükselişinin işlerine şimdiden zarar verdiğini söyledi. Textbroker çok çeşitli konularda güvenilir, insan eliyle yazılmış metinler sunmaktan gurur duysa da Mebus, ‘‘İnsanlar şu anda otomatikleştirilmiş içerik deniyor ve bu da büyümemizi yavaşlattı’’ diyor.
Şirket yapay zekâyla yazılmış kaba taslak içerikler üzerinden ‘‘hızlı para’’ kazanmak isteyen bazı müşterilerini kaybetmeye hazır. Mebus insani bir dokunuşun güvencesini isteyenleri elinde tutmayı umarken, ironik bir şekilde bazı yazarlarını da yapay zekâ araçlarını kullanarak daha üretken olmaları için eğitiyor.
Şirketin müşterileri arasında kısa süre önce yapılan bir ankete göre, müşterilerin yüzde 30 ila 40’ı hâlâ yalnızca ‘‘manuel’’ içerik isterken, benzer büyüklükteki bir kesim ise yapay zekâ tarafından üretilmiş ancak ton, hatalar ve intihalleri engellemek için insan eliyle düzenlenmiş içerikleri tercih ediyor.
Mebus, ‘‘Kimse makineden çıkanlara yüzde 100 güvenmemeli’’ diyor.
İnsan eserlerinin YZ’yi beslemesi engellenmeli
Levin, yapay zekânın tek başına bir yazardan ziyade bir yazma asistanı olarak kullanılmasını daha uygun gördüğünü söyledi. ‘‘İçerik oluşturma sürecini tamamen otomatikleştirmeye çalışan insanlar bile gördük’’ diyor. ‘‘Tabii ki de bununla iyi sonuçlar elde ettiklerini sanmıyorum. Yazı sürecindeki her aşamada kesinlikle bir insan olması gerekiyor.’’
Kitabının adı bir YZ emek hırsızına ilham vermiş gibi görünen Cowell’ın ise hevesi kırıldı.
Cowell, ‘‘Sahte kitaplara satış kaybetmekten ziyade, benim asıl endişem bu kalitesiz, emeksiz, ucuz, seri yazımın gelecekte niş teknik kitaplar yazmayı düşünen insanlar üzerinde caydırıcı bir etki yaratacak olması’’ diyor ve ekliyor: ‘‘Yazdığım herhangi bir metnin kaçınılmaz olarak daha da fazla rekabet yaratacak bir yapay zekâ sistemini besleyeceğini bilmek de hiç yardımcı olmuyor.’’
Yazdığım herhangi bir metnin kaçınılmaz olarak daha da fazla rekabet yaratacak bir yapay zekâ sistemini besleyeceğini bilmek de hiç yardımcı olmuyor.’’
The Post’un yorum için şirketle temasa geçmesinin ardından Amazon, aynı yayıncıya ait çok sayıda başka kitapla birlikte sahte kitabı da kaldırdı. Sözcü Lindsay Hamilton, Amazon’un bireysel hesaplar hakkında yorum yapmadığını belirtti ve listelerin neden kaldırıldığını söylemeyi reddetti.
Yapay zekâ tarafından yazılan kitaplar Amazon’un kurallarına aykırı değil ve bazı yazarlar sitede satılan kitapları yazmak için ChatGPT’yi kullandıklarını açıkça belirtti. (Amazon’un kurucusu ve yönetim kurulu başkanı Jeff Bezos aynı zamanda The Washington Post’un da sahibi).
Hamilton yaptığı açıklamada, ‘‘Amazon sürekli olarak yeni teknolojileri değerlendiriyor ve müşterilerimize güvenilir bir alışveriş deneyimi sunmak için yenilikler yapıyor’’ ifadelerine yer verdi. Ayrıca tüm kitapların Amazon’un içerik yönergelerine uyması gerektiğini ve şirketin sahte incelemelere veya diğer suistimal biçimlerine karşı politikaları olduğunu da sözlerine ekledi.
Kaynak: The Washington Post, Ceyda Yetim yerelleştirdi.