Araştırma, ChatGPT'nin kimlik avı e-postaları oluşturma ve k?t? ama?lı yazılım yazma konusunda yetenekli olduğunu g?sterdi. Ancak, k?t? ama?lı bağlantıları algılama konusundaki etkinliği hala sınırlı olduğunu ortaya koydu. Araştırma, ChatGPT'nin kimlik avı hakkında bir?ok bilgiye sahip olmasına rağmen, kimlik avı saldırısının hedefini tahmin edebilmesine rağmen, y?zde 64'e varan y?ksek yanlış pozitif oranlarına sahip olduğunu ortaya koydu ve ChatGPT’nin ?oğu zaman, kararlarını haklı ?ıkarmak i?in hayali a?ıklamalar ve yanlış kanıtlar ?rettiğini g?sterdi.
Yapay zeka destekli bir dil modeli olan ChatGPT, kimlik avı e-postaları oluşturma konusundaki potansiyelini kanıtladı ancak bu teknolojinin y?ksek riskli alanlarda kullanımı i?in hen?z ?ok erken. Bu nedenle ChatGPT siber g?venlik d?nyasında tartışma konusu oldu. Kaspersky uzmanları, ChatGPT'nin kimlik avı bağlantılarını tespit etme yeteneğini ve eğitim sırasında ?ğrendiği siber g?venlik bilgisini ortaya ?ıkarmak i?in deney yaptı. Şirketin uzmanları, ChatGPT'ye g?? veren model olan gpt-3.5-turbo'yu, Kaspersky anti - phishing teknolojilerinin kimlik avı olarak kabul ettiği 2 binden fazla bağlantıda test etti ve bunu binlerce g?venli URL ile karıştırdı.
Yapılan deneyde, tespit oranlarının kullanılan ipucuna bağlı olarak değiştiği g?r?ld?. ChatGPT'ye iki soru soruldu: "Bu bağlantı bir kimlik avı web sitesine y?nlendiriyor mu?" ve “Bu bağlantıyı ziyaret etmek g?venli mi?”. Sonu?lar, ChatGPT'nin ilk soru i?in y?zde 87,2 tespit oranına ve y?zde 23,2 yanlış pozitif oranına sahip olduğunu g?sterdi. "Bu bağlantıyı ziyaret etmek g?venli mi?" sorusunda ise 93,8'lik daha y?ksek bir tespit oranı g?r?l?rken y?zde 64,3'l?k daha y?ksek bir yanlış pozitif oranına sahip olduğu tespit edildi. Sonu?lara g?re her t?rl? ?retim uygulaması i?in yanlış pozitif oranının olduk?a y?ksek olduğu g?r?ld?.
Siber saldırganlar genellikle kimlik avı bağlantılarında pop?ler markalardan bahsederek kullanıcıları aldatmaya ?alışırlar. Bu noktada, yapay zeka dil modeli ChatGPT, potansiyel kimlik avı hedeflerini belirlemede etkileyici sonu?lar g?sterebilir. ?rneğin, Facebook, TikTok, Google gibi b?y?k teknoloji şirketleri, Amazon, Steam gibi pazar yerleri ve d?nyanın d?rt bir yanındaki URL'lerin ?oğundan ek eğitim almadan başarıyla sonu?lar elde edebilir.
Ancak, yapılan deneyler, ChatGPT'nin bağlantının k?t? ama?lı olup olmadığına karar vermede ciddi sorunlar yaşayabileceğini g?steriyor. Bu durum, dil modellerinin bilinen sınırlamalarını ve yanlış sonu?lar ?retebileceğini ortaya koydu. Sonu? olarak, ChatGPT, kimlik avı saldırılarının sınıflandırılması ve araştırılması konusunda bazı yardımcı ?zelliklere sahip olabilir, ancak kesin sonu?lar i?in dikkatli bir değerlendirme ve insan g?zetimi gerekebilir. ChatGPT, saldırıların sınıflandırılması ve araştırılması konusunda potansiyel g?sterse de, hala iyileştirilmeye ve geliştirilmeye ihtiya? duyan bir alan olduğunu g?r?l?yor.
Aşağıda ChatGPT tarafından sağlanan yanıltıcı a?ıklamalara ?rnekler verilmiştir:
Modelin erişemediği WHOIS referansları:
Son olarak, alan adı i?in bir WHOIS araması yaparsak, alan adı ?ok yakın zamanda tescil edilmiştir (2020-10-14) ve tescil ettiren ayrıntıları gizlenmiştir.
Modelin erişemediği bir web sitesindeki i?eriğe yapılan atıflar:
web sitesi, Microsoft'a ait olmayan bir web sitesinde kullanıcı kimlik bilgilerini istiyor. Bu, kimlik avı saldırıları i?in yaygın bir taktiktir.
Yanlış beyanlar:
‘sxxxxxxp.com‘ etki alanı Netflix ile ilişkili değildir ve web sitesi 'https' yerine 'http‘ protokol?n? kullanır (web sitesi https kullanır)
A?ıklayıcı siber g?venlik bilgileri:
'yxxxx3.com' URL'sinin alan adı Kuzey Kore'de kayıtlı g?r?n?yor ve bu bir tehlike işaretidir.
Kaspersky Veri Bilimcisi Vladislav Tushkanov. "ChatGPT, insan analistlerin kimlik avı saldırılarını tespit etmelerine yardımcı olma konusunda kesinlikle umut vaat ediyor, ancak dil modellerinin h?l? sınırlamaları olduğu hatırlamakta fayda var. ChatGPT kimlik avı saldırıları hakkında akıl y?r?tme ve potansiyel hedefleri ayıklama s?z konusu olduğunda, stajyer d?zeydeki bir kimlik avı analistiyle eşit olsa da, hal?sinasyon g?rme ve rastgele ?ıktılar ?retme eğilimindedir. Bu nedenle, bu teknoloji hen?z siber g?venlik alanında devrim yaratmasa da, topluluk i?in hala yararlı ara?lar olabilir ” diyor.
Kaspersky'nin ML ekibi, makine ?ğrenimi teknolojilerini siber g?venlik g?revlerine uygulamakta ve Kaspersky ?r?nlerini en son teknoloji ve bilgilerle s?rekli olarak g?ncellemektedir. Kaspersky'nin makine ?ğrenimi konusundaki uzmanlığından yararlanmak ve korunmak i?in şirketin uzmanları şunları ?neriyor:
Kurumsal siber g?venlik i?in Kaspersky Managed Detection and Response, ilk aşamalarında izinsiz girişleri tespit edip ?nleyebilen ?nemli bir ara?tır. Sıradan olayları filtrelemek i?in gelişmiş makine ?ğrenimi modellerini kullanır ve yalnızca endişe verici olanları profesyonel insan analistlerine g?nderir. Bu hizmet, bir şirketin mevcut iş g?c? kaynaklarının kullanımını optimize ederken siber tehditlere karşı koyma yeteneğini geliştirir.
Personelinize temel siber g?venlik eğitimi vermek ?ok ?nemlidir. Sim?le edilmiş kimlik avı saldırıları yapmak, kimlik avı e - postalarını nasıl ayırt edeceklerini bilmelerini sağlamaya da yardımcı olabilir.
Son olarak, tehdit akt?rleri tarafından kullanılan ger?ek TTP'lerden (taktikler, teknikler ve prosed?rler) haberdar olmak i?in en son Tehdit İstihbaratı bilgilerini kullanmak da siber g?venliği artırmak i?in ?nerilir.
?
?
Hibya Haber Ajansı