Bilim insanları ve önemli teknoloji isimleri AI laboratuvarlarını uyardı…
1.100’den çok şahıs, bütün suni zeka laboratuvarlarını GPT-4’ten daha kuvvetli suni zeka sistemlerinin eğitimini minimum altı ay süreyle durdurmaya çağıran açık bir mektubu imzaladı. Tanınan ve mühim imza sahiplerinin içinde PC bilimcilerinin yanında ayrıca Steve Wozniak, Evan Sharp, Elon Musk şeklinde teknoloji sahasında mühim adlar bulunmakta.
Açık name, “insan-rekabetçi zekaya” haiz çağıl suni zeka sistemlerinin toplumumuz için tehlike oluşturabileceği mevzusunda uyarıyor. Lüzumlu olan planlama ve yönetimin tamamlanmamış bulunduğunu belirtiyor ve nihayet aylarda suni zeka laboratuvarlarının, asla kimsenin – yaratıcılarının bile – anlayamayacağı, tahmin edemeyeceği ya da güvenilir bir halde denetim edemeyeceği daha kuvvetli dijital zihinler büyütmek olgunlaştırmak ve dağıtmak için denetim dışı bir yarışa kilitlendiğini” iddia ediyor: “Modern suni zeka sistemleri bundan böyle umumi görevlerde insanlarla rekabet edebilir hale geliyor ve kendimize şu suali sormalıyız: Makinelerin informasyon kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına izin vermeli miyiz? Doyum edici olanlar da iç oluş suretiyle bütün işleri otomatikleştirmeli miyiz? Sonunda bizlerden sayıca faik olabilecek, zekaca faik olabilecek, modası geçmiş bizlerin yerini alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü yitirme istenmeyen ihtimalini almalı mıyız? Bu nevi kararlar seçilmemiş teknoloji liderlerine devredilmemelidir.”
Name, duraklamanın halka duyurulması, bütün mühim faktörleri içermesi ve doğrulanabilir olması icap ettiğini söylüyor. Bu aşamada, bu şekilde bir duraklama süratli bir halde yasalaştırılmazsa, hükümetlerin bir moratoryum başlatması icap ettiğini de ekliyor. bundan farklı olarak name, laboratuvarlardan umumi olarak suni zeka gelişimini duraklatmalarını istemediğini, sadece “yalnız tehlikeli yarıştan, yeni beliren kabiliyetlere haiz, her zamankinden daha büyük, öngörülemeyen siyah kutu modellerinden art adım atılmasını” istediğini vurguluyor.
bundan farklı olarak, bekleme süresinin suni zeka laboratuvarları ve bağımsız uzmanlar tarafınca ortaklık oluşturmak ve “gelişmiş suni zeka tasarımı ve geliştirmesi için ayrıntılı olarak denetlenmiş bir takım paylaşılan güvenlik protokolü” oluşturmak için kullanılabileceği de ifade ediliyor. Name, OpenAI’den meydana getirilen bir açıklamadan alıntı yaparken, imzacılar sıralaması, kurucu üyeler içinde yer edinen Musk haricinde araştırma laboratuvarından kimseyi içermiyor.