Kaspersky, kimlik avı saldırılarında yapay zeka kullanımının temel işaretlerini belirledi
Şirketten yapılan açıklamaya göre, "tehdit aktörleri", yüksek hacimlerde sahte web siteleri oluşturmaya odaklanırken, genellikle arkalarında kendilerini bu siteleri manuel olarak oluşturulanlardan ayıran yapay zekaya özgü ifadeler gibi ayırt edici ipuçları bırakıyor. Kaspersky tarafından gözlemlenen kimlik avı örneklerinin çoğu kripto para borsaları ve kripto cüzdan kullanıcılarını hedef alıyor.
Kaspersky uzmanları, bir kaynak örneğini analiz ederek, yapay zekanın içerik oluşturmak, kimlik avı ve dolandırıcılık web sitelerinin baştan sona oluşturmak için kullanıldığı durumları ayırt etmeye ve tespit etmeye yardımcı olan temel özellikleri belirledi.
LLM tarafından oluşturulan metinlerin belirgin işaretlerinden biri "Bir yapay zeka dil modeli olarak..." gibi ifadeler de dahil olmak üzere komutları yürütmeyi reddeden feragatnamelerin varlığı şeklinde öne çıkıyor. LLM kullanımının bir başka ayırt edici göstergesi de "İstediğinizi tam olarak yapamasam da benzer bir şey deneyebilirim" gibi belirli tümcelerin varlığı oluyor. LLM'ler sadece metin blokları değil, tüm web sayfalarını oluşturmak için de kullanılabiliyor.
Ortaya çıkan sonuçlar hem metnin kendisinde hem de meta etiketler gibi alanlarda görünüyor. Bunlar özellikle web sayfasının içeriğini tanımlayan ve HTML kodunda görünen metin parçacıkları arasında dikkat ediyor.
Sahte sitelerin oluşturulmasında yapay zeka kullanımının başka göstergeleri de bulunuyor. Örneğin, bazı modeller "araştırmak", "sürekli gelişen manzarada" ve "sürekli değişen dünyada" gibi belirli ifadeler kullanma eğiliminde.
Bu terimler yapay zeka tarafından oluşturulan içeriğin güçlü göstergeleri olarak kabul edilmese de bunun bir işareti olarak görülebilir.
LLM tarafından üretilen metnin bir başka özelliği de modelin dünya hakkındaki bilgisinin nereye kadar uzandığını göstermesi. Model genel olarak bu sınırlamayı "Ocak 2023'teki son güncellememe göre" gibi ifadeler kullanarak dile getiriyor. LLM tarafından oluşturulan metin, genellikle kimlik avı sayfasının tespitini siber güvenlik araçları için daha karmaşık hale getiren taktiklerle birleştiriyor.
Örneğin saldırganlar, metni gizlemek ve kural tabanlı tespit sistemlerinin eşleştirmesini önlemek için aksan işaretleri veya matematiksel gösterimler gibi standart olmayan semboller kullanabiliyor.
- "Yapay zeka, artık tehdit aktörlerinin bu tür içerikleri otomatik oluşturmasına yardımcı olabiliyor"
Açıklamada görüşlerine yer verilen Kaspersky Araştırma Geliştirme Grup Müdürü Vladislav Tushkanov, saldırganların LLM'lerle benzersiz, yüksek kaliteli içeriğe sahip düzinelerce, hatta yüzlerce kimlik avı ve dolandırıcılık web sayfası oluşturmayı otomatik hale getirebildiğini belirterek, önceden bunun için manuel çaba gerektiğini, ancak yapay zekanın artık tehdit aktörlerinin bu tür içerikleri otomatik olarak oluşturmasına yardımcı olabildiğini aktardı.
Büyük dil modellerinin geliştiğini ve siber suçluların bu teknolojiyi kötü amaçları için kullanmanın yollarını araştırdığını kaydeden Tushkanov, "Bununla birlikte zaman zaman yapılan hatalar, bu tür araçların kullanımına, özellikle de otomasyonun artan boyutuna ilişkin içgörü sağlıyor." ifadelerini kullandı.
Tushkanov, gelecekteki gelişmelerle birlikte, yapay zeka tarafından üretilen içeriklerin, insan tarafından yazılan metinlerden ayırt etmenin daha zor hale gelebileceğine dikkati çekerek, "Bu da metinsel bilgileri meta veriler ve diğer dolandırıcılık göstergeleriyle birlikte analiz eden gelişmiş güvenlik çözümlerinin kullanılmasını çok daha önemli hale getirebilir." açıklamasını yaptı.
"Üye/Üyeler suç teşkil edecek, yasal açıdan takip gerektirecek, yasaların ya da uluslararası anlaşmaların ihlali sonucunu doğuran ya da böyle durumları teşvik eden, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, pornografik ya da ahlaka aykırı, toplumca genel kabul görmüş kurallara aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde hiçbir İçeriği bu web sitesinin hiçbir sayfasında ya da subdomain olarak oluşturulan diğer sayfalarında paylaşamaz. Bu tür içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk münhasıran, içeriği gönderen Üye/Üyeler'e aittir. MİLAT GAZETESİ, Üye/Üyeler tarafından paylaşılan içerikler arasından uygun görmediklerini herhangi bir gerekçe belirtmeksizin kendi web sayfalarında yayınlamama veya yayından kaldırma hakkına sahiptir. Milat Gazetesi, başta yukarıda sayılan hususlar olmak üzere emredici kanun hükümlerine aykırılık gerekçesi ile her türlü adli makam tarafından başlatılan soruşturma kapsamında kendisinden Ceza Muhakemesi Kanunu'nun 332.maddesi doğrultusunda istenilen Üye/Üyeler'e ait kişisel bilgileri paylaşabileceğini beyan eder. "
Yorum yazma kurallarını okudum ve kabul ediyorum.