Kaspersky uzmanları, ChatGPT ’nin kimlik avı irtibatlarını idrak etme becerisini araştıran bir araştırma yayınladı. Araştırma, ChatGPT ’nin kimlik avı e-postaları oluşturma ve makûs emelli yazılım yazma mevzusunda becerili olduğunu gösterdi. Ancak, makûs emelli irtibatları idrak etme mevzusundaki aktifliği hala hudutlu olduğunu ortaya koydu. Araştırma, ChatGPT ’nin kimlik avı hakkında bir hayli bilgiye sahip olmasına karşın, kimlik avı hücumunun amacını hipotez edebilmesine karşın, yüzde 64 ’e varan yüksek yanlış pozitif oranlarına sahip olduğunu ortaya koydu ve ChatGPT ’nin çoğu zaman, kararlarını haklı çıkarmak için hayali açıklamalar ve yanlış deliller ürettiğini gösterdi.
Suni akıl dayanaklı bir dil modeli olan ChatGPT, kimlik avı e – postaları oluşturma mevzusundaki potansiyelini ispatladı ancak bu teknolojinin yüksek tehlikeli alanlarda kullanımı için henüz çok erken. Bu sebeple ChatGPT siber güvenlik dünyasında münakaşa mevzusu oldu. Kaspersky uzmanları, ChatGPT ’nin kimlik avı irtibatlarını tespit etme becerisini ve eğitim sırasında bildiği siber güvenlik bilgisini ortaya çıkarmak için deney yaptı. Firmanın uzmanları, ChatGPT ’ye efor veren model olan gpt-3.5-turbo ’yu, Kaspersky anti – phishing teknolojilerinin kimlik avı olarak kabul ettiği 2.000 ’den fazla iletişimde test etti ve bunu binlerce tehlikesiz URL ile karıştırdı.
Yapılan deneyde, tespit oranlarının kullanılan ipucuna bağlı olarak değiştiği görüldü. ChatGPT ’ye iki sual soruldu: “Bu iletişim bir kimlik avı web sitesine yönlendiriyor mu?” ve “Bu iletişimi ziyaret etmek tehlikesiz mi?”. Neticeler, ChatGPT ’nin ilk sual için %87,2 tespit oranına ve %23,2 yanlış pozitif oranına sahip olduğunu gösterdi. “Bu iletişimi ziyaret etmek tehlikesiz mi?” sualinde ise %93,8 ’lik daha yüksek bir tespit oranı görülürken %64,3 ’lük daha yüksek bir yanlış pozitif oranına sahip olduğu tespit edildi. Neticelere göre her türlü yapım uygulaması için yanlış pozitif oranının oldukça yüksek olduğu görüldü.
ChatGPT, Facebook, TikTok ve Google ’da Zaferli
Siber saldırganlar genellikle kimlik avı irtibatlarında popüler markalardan bahsederek kullanıcıları kandırmaya çalışırlar. Bu noktada, suni akıl dil modeli ChatGPT, potansiyel kimlik avı amaçlarını tanımlamada etkileyici neticeler gösterebilir. Misalin, Facebook, TikTok, Google gibi büyük teknoloji işletmeleri, Amazon, Steam gibi pazar yerleri ve dünyanın dört bir yanındaki URL ’lerin çoğundan ek eğitim almadan zaferle neticeler elde edebilir.
Ancak, yapılan deneyler, ChatGPT ’nin iletişimin makûs emelli olup olmadığına karar vermede ciddi meseleler yaşayabileceğini gösteriyor. Bu gidişat, dil modellerinin öğrenilen sınırlamalarını ve yanlış neticeler üretebileceğini ortaya koydu. Netice olarak, ChatGPT, kimlik avı ataklarının sınıflandırılması ve incelenmesi mevzusunda bazı takviyeci özelliklere sahip olabilir, ancak kesin neticeler için dikkatli bir değerlendirme ve insan himayeyi gerekebilir. ChatGPT, hücumların sınıflandırılması ve incelenmesi mevzusunda potansiyel gösterse de, hala iyileştirilmeye ve geliştirilmeye gereksinim dinleyen bir alan olduğunu görülüyor.
Altta ChatGPT tarafından sağlanan yanıltıcı açıklamalara misaller verilmiştir:
Modelin ulaşamadığı WHOIS referansları: Son olarak, alan ismi için bir WHOIS araması yaparsak, alan ismi çok yakın zamanda patent edilmiştir 2020-10-14 ve patent ettiren detayları saklanmıştır. Modelin ulaşamadığı bir web sitesindeki içeriğe yapılan atıflar: web sitesi, Microsoft ’a ait olmayan bir web sitesinde kullanıcı kimlik bilgilerini istiyor. Bu, kimlik avı hücumları için yaygın bir stratejidir. Yanlış beyanlar: ‘sxxxxxxp.com‘ tesir alanı Netflix ile ilişkili değildir ve web sitesi ‘https ’ yerine ‘http‘ protokolünü kullanır web sitesi https kullanır Açıklayıcı siber güvenlik bilgileri: ‘yxxxx3.com ’ URL ’sinin alan ismi Kuzey Kore ’de kayıtlı görünüyor ve bu bir risk işaretidir.
Kaspersky Bilgi Bilimcisi Vladislav Tushkanov. “ChatGPT, insan analistlerin kimlik avı hücumlarını tespit etmelerine takviyeci olma mevzusunda netlikle umut taahhüt ediyor, ancak dil modellerinin hâlâ sınırlamaları olduğu anımsamakta fayda var. ChatGPT kimlik avı hücumları hakkında us yürütme ve potansiyel gayeleri ayıklama söz mevzusu olduğunda, stajyer seviyedeki bir kimlik avı analistiyle denk olsa da, sanrı görme ve gelişigüzel çıktılar üretme meylindedir. Bu sebeple, bu teknoloji henüz siber güvenlik alanında devrim yaratmasa da, topluluk için hala bereketli vasıtalar olabilir ” diyor.
Deney hakkında daha fazla bilgi edinmek için Securelis.adresini ziyaret edin.
Kaspersky ’nin ML takımı, makine öğrenimi teknolojilerini siber güvenlik görevlerine uygulamakta ve Kaspersky mahsullerini en son teknoloji ve bilgilerle devamlı olarak aktüellemektedir. Kaspersky ’nin makine öğrenimi mevzusundaki uzmanlığından faydalanmak ve korunmak için firmanın uzmanları şunları öneriyor:
Müessesesel siber güvenlik için Kaspersky Managed Detection and Response, ilk safhalarında izinsiz girişleri tespit edip önleyebilen ehemmiyetli bir vasıtadır. Sıradan vakaları filtrelemek için gelişmiş makine öğrenimi modellerini kullanır ve sadece kaygı verici olanları profesyonel insan analistlerini yollar. Bu hizmet, bir firmanın mevcut iş eforu kaynaklarının kullanımını optimize ederken siber tehditlere karşı koyma becerisini geliştirir. Personelinize temel siber güvenlik eğitimi vermek çok ehemmiyetlidir. Simüle edilmiş kimlik avı hücumları yapmak, kimlik avı e – postalarını nasıl ayırt edeceklerini öğrenmelerini sağlamaya da takviyeci olabilir. Son olarak, tehdit oyuncuları tarafından kullanılan asıl TTP ’lerden stratejiler, teknikler ve prosedürler haberdar olmak için en son Tehdit İstihbaratı bilgilerini kullanmak da siber güvenliği artırmak için önerilir.
Kaynak: BYZHA Beyaz Haber Ajansı