Twitter, bilgisayar korsanlarının ve araştırmacıların görüntü kırpma algoritmasındaki hataları belirleyebileceklerini umarak bir yarışma düzenliyor ve kazanan takımlara (Engadget aracılığıyla) nakit ödüller dağıtacak. Twitter, ekiplere sistemlerinin tüm kodlarına ve görüntü kırpma modeline erişim vermenin, algoritmanın zararlı olabileceğinin yollarını bulmalarına izin vereceğini umuyor (örneğin, görüntünün konusunu klişeleştirecek veya silecek şekilde kırpmak gibi). Yarışanların, bulgularının bir tanımını ve sorunu göstermek için algoritma aracılığıyla çalıştırılabilecek bir veri kümesi sunması gerekecek. Twitter daha sonra ne tür zararlar bulunduğuna, insanları potansiyel olarak ne kadar etkileyebileceğine ve daha fazlasına dayalı olarak yapılan çalışmalara puanlar verecek ve değerlendirecek.
Twitter sistemlerindeki hataları bulmak için hackerlarla çalışacak
Düzenlenecek olan yarışmada kazanan takıma 3.500$ ödül verilecek ve en yenilikçi ve en genellenebilir bulgular için ayrı 1.000$ ödül var. Bu miktar Twitter’da biraz heyecan yarattı ve birkaç kullanıcı ödüllerin bu tutarlardan çok daha fazla olması gerektiğini söyledi. Bağlam açısından, siteler arası komut dosyası kullanarak başka biri için eylemler gerçekleştirmenize (bir tweet veya resmi retweetleme gibi) izin veren bir hata bulursanız, Twitter’ın normal hata ödül programı size 2,940 dolar ödeyecek. Birinin Twitter hesabını devralmanıza izin veren bir OAuth sorunu bulmak size 7.700 dolar kazandıracaktır. Bu tarz bir rekabet Twitter’ın ilerleyen dönemlerde daha sağlıklı bir sosyal mecraya dönüşmesinde büyük bir rol oynayabilir. Twitter, daha önce görüntü kırpma algoritması hakkında kendi araştırmasını yapmıştı – Mayıs ayında, önizleme mahsullerinin ırkçı olduğu yönündeki suçlamaların ardından algoritmanın nasıl taraflı olduğunu araştıran bir makale yayınladı. Twitter o zamandan beri algoritmik kırpma önizlemelerini çoğunlukla ortadan kaldırdı, ancak hala masaüstünde kullanılıyor ve iyi bir kırpma algoritması, Twitter gibi bir şirketin sahip olması gereken kullanışlı bir şey.
Bir yarışma açmak, Twitter’ın çok daha geniş bir perspektiften geri bildirim almasını sağlayacak. Örneğin, Twitter ekibi, bir ekip üyesinin algoritmadaki kasti temelli önyargılar hakkında sorular almaktan bahsettiği rekabeti tartışmak için bir alan düzenledi; bu, Kaliforniya’daki yazılım geliştiriciler için çoktan sırdan ve fark edilmeyebilir fakat geri kalan kesimlerde ve ülkelerde bir yenilik olarak görülecektir. Twitter’ın tüm bunların yanında algoritmasının yaygınlaşmasını ve kullanılabilmesini de istiyor. Twitter’ın aradığı sadece bilinçaltı algoritmik önyargı değil. Dereceli puanlama anahtarı hem kasıtlı hem de kasıtsız zararlar için puan değerlerine sahip. Twitter, kasıtsız zararları, “iyi niyetli” bir kullanıcının platformda normal bir resim yayınlamasından kaynaklanabilecek durumlar olarak tanımlarken, kasıtlı zararlar, kötü niyetli olarak tasarlanmış resimler yayınlayan biri tarafından kullanılabilecek sorunlu kırpma davranışları olarak görecek. Twitter’ın, duyuru blogunda, yarışmanın hata ödül programından ayrı olduğunu söylüyor – rekabet dışında Twitter’a algoritmik önyargılar hakkında bir rapor gönderirseniz, şirket raporunuzun kapatılacağını ve geçerli değil olarak işaretleneceğini söylüyor. Katılmakla ilgileniyorsanız, kuralları, kriterleri ve daha fazlasını görmek için yarışmanın HackerOne sayfasına gidebilirsiniz. Başvurular 6 Ağustos gecesine kadar açıktır ve yarışmanın kazananları 9 Ağustos’ta Def Con AI Village’da duyurulacaktır.