Yapay zekanın kötüye kullanımına yönelik tutuklamalar Çin'de ciddi bir şekilde başladı. Bir adam ChatGPT kullanarak sahte haber yaydığı iddiasıyla gözaltına alındı.
Sınır Tanımayan Gazeteciler’in raporunda, son yıllarda Siber güvenlik görevlileri, 25 Nisan’da bölgedeki bir tren kazasında dokuz kişinin öldüğünün iddia edildiği bir habere denk geldi. Haber, Çin’in arama motoru Baidu’daki blog tarzı bir platform olan Baijiahao’da 202den fazla hesap tarafından aynı anda paylaşıldı. Yetkililer bunu fark edene kadar haberler 15 binden fazla tıklama aldı.
Polis haberin kaynağı olduğundan şüphelenilen kişiyi Çin’in güneyindeki Guangdong eyaletinde bulunan Shenzhen şehrinde kayıtlı kişisel medya platformlarını işleten bir şirkete kadar takip etti. Yaklaşık 10 gün sonra polis ekibi şüphelinin evinde ve bilgisayarında arama yaptı. Bunun akabinde ‘yapay zeka teknolojisini kullanarak yanlış ve gerçek dışı bilgiler uydurduğu’ iddiasıyla Hong soyadlı şüpheliyi gözaltına aldı.
Hong, birden fazla hesapta yayın yapmak için kopya denetim kontrolüne uygun hareket etmediğini itiraf etti. Adam sahte olayın farklı versiyonlarını hızlı bir şekilde tekrardan yaratmak için geçmiş yıllarda Çin’de çok konuşulan olaylarda kilit unsurları ChatGPT’ye girerek elde ettiği yeni hikayeyi Baijiahao hesaplarına yükledi.
Hong’un en fazla beş yıllık cezayla sonuçlanabilecek ‘tartışma yaratmak ve kavga çıkarmak’ suçundan şüpheli olduğu belirtilse de ağırlaştırılmış şartlarda göz önünde bulundurulursa 10 yıl hapis cezası alabilir.
Bu, Beijing’in ‘deepfake’ teknolojisinin kullanımını düzenleyen ilk hükümlerinin ocak ayında resmen yürürlüğe girmesinin ardından Çinli yetkililer tarafından yapılan ilk gözaltı oldu.
İnternet Bilgi Hizmetinin Derin Sentezinde İdari Hükümler olarak adlandırılan bu hükümler, yapay zekanın metin, görüntü, ses, video oluşturmak ve sanal senaryolar üretmek için kullanılmasını düzenleme altına alıyor.
Aslında ChatGPT, Çinli IP adreslerine doğrudan açık değil. Ancak Çinli internet kullanıcıları bu sorunu VPN bağlantısı ile çözebiliyor.