Devletin Algoritmik Karar Sistemleri Kullanımında Yeni Zorluklar
2019
Atölye Özeti
Algoritmik karar sistemlerinin (ADS) çoğu zaman olası yararları lanse edilir: insan önyargısı ve hatasını hafifletmek ve maliyet verimliliği, doğruluk ve güvenilirlik vaadi sunmak. Ancak sağlık hizmetleri, adalet, eğitim, istihdam ve diğer alanlarda, bu teknolojilerin uygulanması sayısız sorunla sonuçlanmıştır. 2018 Yargı Algoritmaları Raporumuzda, gündeme getirdikleri önemli yasal ve teknik sorunları vurgulayarak, hükümetin ADS kullanımının dava edildiği ilk dalganın sonuçlarını ve içyüzünü belgeledik.
2019 Haziran’ında John D. ve Catherine T. MacArthur Vakfı, AI Now ve NYU Etnik Köken, Eşitsizlik ve Hukuk Merkezi desteğiyle, ikinci Yargı Algoritmaları Çalıştayımızı düzenledik. Varsa, hangi ilerlemelerin kaydedildiğini inceleyerek geçen yılın birkaç vakasını tekrar ele aldık. Ayrıca, önemli sorunlar ortaya çıkaran yeni hukuksal zorluklar dalgasını da inceledik; (1) avukatların, savcılık seviyesine getirilen iddialara itiraz etmek için ADS’yi hukuki yaptırım şeklinde uygulamasının gerekli olup olmadığı, (2) hükümetin ADS uygulamasındaki hatalı veya kindar kullanımın ikincil sonuçları; ve (3) Amerika’nın en güçlü biyometrik gizlilik düzenlemesinin evrimi ve bunun ADS hesap verebilirliği üzerindeki potansiyel etkisi. Önceki yılın Yargı Algoritmaları Atölyesi’nde olduğu gibi katılımcılar hukuki süreçteki stratejilerini paylaştılar, kışkırtıcı sorular sordular ve hem kazandıkları hem de kaybettikleri önemli anları anlattılar.
Çalıştay katılımcıları ise şu şekildeydi: ACLU, Center for Civil Justice, Center for Constitutional Rights, Center on Privacy and Technology at Georgetown Law, Citizen Lab, Digital Freedom Fund, Disability Rights Oregon, the Electronic Frontier Foundation, Equal Justice Under Law, Federal Defenders of New York, the Ford Foundation, LatinoJustice PRLDEF, Legal Aid of Arkansas, Legal Aid Society of New York, the MacArthur Foundation, NAACP Legal Defense and Educational Fund, National Association of Criminal Defense Lawyers, National Employment Law Project, National Health Law Program, New York County Defender Services, Philadelphia Legal Assistance, Princeton University, Social Science Research Council, Bronx Defenders, UDC Law School, Upturn, ve Yale Law School.
AI Now Enstitüsü 2019 Sempozyumu için: https://symposium.ainowinstitute.org/
Raporun orijinaline ve tamamına aşağıdaki bağlantıdan ulaşabilirsiniz: