Beyaz Saray Bilim ve Teknoloji Politikası Ofisi, Yapay Zekâ (YZ) Hakları Bildirgesi’ni (Blueprint for an AI Bill of Rights, “Bildirge”) yayınladı.
Günümüzde sağlık, insan kaynakları, bankacılık ve tarım gibi birçok alanda YZ sistemlerinin kullanımı giderek artmaktadır. YZ sistemleri hayatımızda önemli bir yer edinse de bu sistemlerin bazı olumsuz ve adil olmayan sonuçlara yol açtığı gözlemlenmektedir. Örneğin algoritmalar bazı hastalıkları belirli gruplarda tespit etmekte yetersiz kalarak tedavinin gecikmesine ya da uygulanmamasına neden olmakta, istihdam ya da kredi başvurularında uygun ve yeterli niteliklere sahip adayların başvurularının reddedilmesine neden olmaktadır. Bu olumsuz ve adil olmayan sonuçların temelindeki sorun, algoritmaların eğitilmesinde kullanılan veri setlerinin geçmişteki ayrımcılığı barındırması olup, algoritmalar verdikleri kararlarla benzer ayrımcılıkların tekrar yaşanmasına yol açmaktadır.
Bu sorunlar karşısında geçen yıl Bilim ve Teknoloji Politikası Ofisi (Office of Science and Technology Policy, OSTP) tarafından YZ çağında Amerikalıların sahip olması gereken haklara ilişkin bazı hedefler yayınlanmıştır. Bildirge, OSTP tarafından yayınlanan hedeflere nasıl ulaşılacağına ilişkin planın başlangıç noktası olarak kabul edilmektedir. Bildirge, hükümetin, teknoloji şirketlerinin ve Amerikan vatandaşlarının daha hesap verebilir YZ için birlikte nasıl çalışabilecekleri konusunda önemli bir çerçeve sunmaktadır.
Bildirge’de YZ’nin yol açtığı olumsuz sonuçlardan ABD vatandaşlarını korumak için YZ sistemlerini düzenleyen beş temel ilkeden bahsedilmektedir: (I) Güvenli ve Etkili Sistemler, (II) Algoritmik Ayrımcılığa Karşı Korumalar, (III) Veri Mahremiyeti, (IV) Aydınlatma ve Açıklama ve (V) İnsan Gözetimi, Değerlendirme ve Geriye Etkili Çözümler olarak sıralanmıştır. Söz konusu ilkeler yapay zeka sistemlerin tasarımı, kullanımı ve dağıtımı aşamalarında rehberlik etmeyi hedeflemektedir.
A. Bildirge’de Yer Alan İlkeler
I. Güvenli ve Etkili Sistemler
Bu ilke kullanıcıların güvenli olmayan veya başarısız YZ sistemlerinin yol açacağı zararlardan korunması gerektiğini vurgulamaktadır. Bu kapsamda otomatik sistemler, istemeyen fakat öngörülebilir nitelikteki zararlı sonuçların meydana gelmesi engellenecek şekilde tasarlanmalıdır. Otomatik sistemlerin tasarımında, geliştirilmesinde ya da aktifleştirilmesinde uygun olmayan veya alakasız verilerin kullanımından ve bu verilerin yeniden kullanımından doğan zararlarından kaçınılmalıdır. Veri minimizasyonu ilkesi söz konusu ilkenin sağlanmasında önem arz etmektedir.
II. Algoritmik Ayrımcılığa Karşı Korumalar
Algoritmik ayrımcılık, otomatik bir sistemin eşit konumdaki ve niteliklere sahip kişilere haksız şekilde farklı muamelede bulunması halinde veya ırk, renk, etnik köken, cinsiyet, din ya da yaş gibi faktörlerle kişileri olumsuz etkiyen sonuçlar oluşturduğunda ortaya çıkmaktadır. Kullanıcılar algoritmalar tarafından ayrımcılığa maruz kalmamalı, bunun için de YZ sistemleri adil bir şekilde tasarlanmalı ve kullanılmalıdır. Otomatik sistemlerin tasarımcıları, geliştiricileri ve uygulayıcıları, bireyleri ve toplumu algoritmik ayrımcılıktan korumak için proaktif ve sürekli önlemler almalıdır.
III. Veri Mahremiyeti
Bu ilke Avrupa Birliği (AB) Genel Veri Koruma Tüzüğü ile oldukça benzer düzenlemeler içermektedir. Veri mahremiyeti ilkesi, otomatik sistemlerde kişisel verilerin makul beklentiyi aşmayacak şekilde işlenmesini, yalnızca gerekili verilerin toplanmasını ve sistemin bunları sağlayacak şekilde tasarlanmasını öngörmektedir. Bu noktada kişisel verilerin adil şekilde işlenmesi, veri minimizasyonu ve tasarımda gizlilik ilkeleri ön plana çıkmaktadır. Dahası kişiler verilerinin sistem tarafından kullanımına ilişkin yetki sahibi olmalıdır.
Ayrıca bu ilke ilkede veri işlemeye ilişkin hukuki gerekçelere değinilmiş, özellikle rızanın nasıl alınacağına ve hangi durumlarda geçerli olduğuna ilişkin açıklamalara yer verilmiştir. Veri işlemeye ilişkin genel ilkelerde olduğu gibi burada da AB kişisel veri koruma düzenlemeleri ile benzer bir yaklaşım olduğu dikkate çarpmaktadır. Sağlık, eğitim ve kredi sistemlerinde kullanılan algoritmaların, kişilerin ilgili hak ve fırsata erişimini olumsuz şekilde etkilememesi bakımından sıkı bir denetime tabi olması gerektiğine ve hatta kullanılmayabileceğine vurgu yapılmıştır. Bu kapsamda ilgili kişilere talepleri üzerine, verilerinin nasıl kullanıldığına ve haklarında verilen kararda verilerinin etkisine ilişkin bir raporun sunulması gerektiği belirtilmiştir. Bu ilke ile algoritmaların adil olmayan ve önyargıya dayalı karar vermesi sonucu kişilerin mağdur olması önlenmek istenmiştir.
IV. Aydınlatma ve Açıklama
Kullanıcılar muhatabının otomatik bir sistem olduğunu bilmeli ve onları olumsuz etkileyen sonuçlara sistemin nasıl ve neden yol açtığını öğrenebilmelidir. Bu noktada kişilere sunulacak aydınlatma metinleri veya veri politikaları önem arz etmektedir. Söz konusu metinlerin güncel olması, açık ve sade bir dille yazılması gerekmektedir.
Bu ilke veri koruma kuralları bakımından vazgeçilmez olsa da YZ sistemlerindeki kara kutu problemi dolayısıyla ilgili kişilere otomatik sistemin nasıl karar verdiğine ilişkin tam bir açıklama yapmak her zaman mümkün değildir.
V. İnsan Gözetimi, Değerlendirme ve Geriye Etkili Çözümler
Bu ilke YZ sistemlerinin insan gözetiminde kullanılması gerektiğini tavsiye etmektedir. Sistemi gözetlemekle görevlendirilen birey sorunları hızla değerlendirip çözebilmeli ve gerektiğinde sistemi devre dışı bırakılabilmelidir. Buna benzer bir kural, AB Komisyonu’nun sunduğu YZ Yasa önerisi’nin “İnsan Gözetimi” başlıklı 14. maddesinde de yer almaktadır.
YZ sisteminin başarısız olması, hata üretmesi veya sistemin yol açtığı kendisiyle ilgili olumsuz sonuca kullanıcının itiraz etmesi halinde, sürecin bir insan tarafından değerlendirilerek kullanıcılara geriye yönelik etki doğuran çözümler sunulmalıdır. Söz konusu talepler, YZ sisteminin ceza adaleti, istihdam, eğitim ve sağlık gibi hassas alanlarda kullanılması halinde özellikle dikkate alınmalıdır.
B. Bildirgenin Kapsamı
Söz konusu ilkelerin kapsamında hangi sistemlerin olduğunu tespit etmek için iki aşamalı bir test öngörülmüştür: (I) otomatik bir sistemin mevcudiyeti, (II) bu sistemin Amerikalıların;
(a) haklarını: medeni hakları, özgürlükleri ve mahremiyeti (oy kullanma, cezanın adil olması ve yasa dışı gözetimin engellenmesi),
(b) karşılacakları fırsatları: eğitim, barınma, kredi, istihdam gibi fırsatlara eşit erişimi,
(c) eriştikleri kritik kaynakları ya da hizmetleri: sağlık, finansal hizmetler, güvenlik, sosyal hizmetler, mal ve hizmetler hakkında yanıltıcı olmayan bilgileri ve devlet yardımlarını
önemli derecede etkilemesidir. Sistemin bu iki şartı sağlaması halinde yukarıdaki ilkelerle uyumlu olması aranacaktır. Ancak Bildirge’nin henüz bir bağlayıcılığı bulunmamaktadır.
Bildirge’de yer alan ilkeler AB’deki veri koruma ve YZ sistemlerine ilişkin kurallar ile benzerlik gösterse de, AB’nin YZ’ye ilişkin düzenlemeleri daha sıkı ve yaptırımlar açısından daha baskındır. Bu bakımından Bildige’de denge ve denetim mekanizmalarının eksikliği ve yaptırımların yetersizliği eleştirilmiştir.
Bildirge’ye için buraya tıklayınız.
Kapak Görseli: Tavis Coburn