Instagram, geçtiğimiz yıl, haber akışında karşınıza çıkan bir takım saldırgan içerikleri kaldırmanızı sağlayan anahtar kelime filtrelerini tanıtmıştı. Bu yıl çıtayı biraz daha yükselten sosyal ağ, Instagram trollerle ve spam hesaplarla mücadele etmek için yapay zeka kullanıyor.
Birebir kelimeleri tarayarak saldırgan içeriklerin önüne geçmek yerine kelimelerin ardındaki anlamlar üzerine yoğunlaşan yapay zeka, platformdaki nefret dolu yorumları gizleyerek azaltacak. Henüz sadece İngilizce dili üzerinde çalışan yapay zeka umarız zaman içinde diğer dillerde de etkinleşir.
DeepText ismi verilen bir yapay zekanın çalışma prensibi tamamen anlamlara odaklı. Bir örnek üzerinden gitmek gerekirse, program, "white"ı kelime olarak saldırgan kategorisinde değerlendirmeyerek "white"ın bir renk olduğunu ve sıfat olarak kullanılabileceğini öngörebiliyor. Ancak "White Power"ın başka kullanımlarda saldırgan olabileceğini kestirebiliyor.
Yine de nefret söylemlerini tanımlayabilmek her zaman bu kadar kolay değil. Sonuçta kinaye kullanımı da bu tarz saldırgan konuşmalarda oldukça yaygın. Bir de kınamak için nefret söylemlerini alıntılayan kullanıcıları düşünürsek DeerpText'in işi oldukça zor diyebiliriz.
Fakat her yapay zeka gibi Deeptext de zaman içinde kendini geliştirecektir. Yine de işi yapay zekaya bırakmak istemeyenler için Instagram, ayarlarına bu seçeneği kapatma özelliğini de ekledi.
Umarım Instagram'ın bu girişimi nefret söylemini sosyal medyada azaltmak için etkili olur. Zira klavye delikanlılığı arttıkça nefret söylemi de şiddetleniyor. Nefretin daha çok nefreti beslediği bir düzende sosyal medya da gün geçtikçe insan psikolojisine daha çok zarar veriyor.