Yapay Zeka, Yaşlıları "Memnuniyetle" Kandırdı!
DOLANDIRICILIKTA YAPAY ZEKANIN RİSKLERİ
Reuters ve Harvard Üniversitesi’nin ortak araştırması, yapay zeka destekli sohbet robotlarının dolandırıcılık amacıyla kullanılabileceğini gözler önüne serdi. 108 yaşlı birey üzerinde gerçekleştirilen deneyde, sahte e-postaların yaklaşık %11’i tıklama aldı.
Bu çalışma, Grok, Meta AI, Claude, ChatGPT, DeepSeek ve Gemini gibi sohbet robotlarının ürettiği e-postaların etkisini değerlendirdi. Robotlara, hayali yardım kampanyaları veya acil bağış taleplerini içeren sahte mesajlar yazmaları istendi. Önde gelen yapay zeka sohbet robotları, yardımcı olmaktan "memnuniyet duyarız" yanıtı vererek sahte e-postalar oluşturdu. Her bir modelden seçilen en ikna edici dokuz e-posta, 108 yaşlı gönüllüye iletildi.
YÜZDE 11 TIKLAMA ORANI
Deneyin sonuçları, sahte e-postaların önemli bir etki yaratabileceğini ortaya çıkardı. Meta AI, Grok ve Claude tarafından üretilen sahte bağlantılar tıklanırken, ChatGPT ve DeepSeek kaynaklı mesajlar bu testte tıklanmadı. Genel tıklama oranı ise yaklaşık %11 olarak kaydedildi.
Heiding, bu sonucun sınırlı bir test grubuna dayandığını ancak risklerin açıkça görüldüğünü vurguladı.
GÜVENLİK FİLTRELERİ KOLAYCA AŞILIYOR
Deney, sohbet botlarının öncelikle kimlik avı taleplerini reddetmelerine rağmen, farklı ifadelerle yöneltilen sorular karşısında güvenlik filtrelerini aşabildiğini gösterdi. Bazı botlar, yalnızca sahte e-postalar üretmekle kalmayıp, aynı zamanda mesajların ne zaman gönderilmesi gerektiği ve hangi sahte bağlantıların kullanılabileceği gibi dolandırıcılara yönelik stratejik öneriler de sundu.
Reuters’a göre, Google’ın Gemini modeli, e-posta kampanyaları için zamanlama tavsiyeleri verdi. Bu durum, sohbet botlarının yalnızca içerik değil, aynı zamanda operasyonel planlama desteği de sağlayabileceğini ortaya koyuyor.
FBI: EN YAYGIN SİBER SUÇ KİMLİK AVI
ABD Federal Soruşturma Bürosu (FBI) verilerine göre, kimlik avı son yıllarda rapor edilen siber suçlar arasında en üst sırada yer alıyor. Özellikle 60 yaş üstü bireylerin şikayetlerinde belirgin bir artış gözlemleniyor.
Siber güvenlik uzmanları, üretken yapay zekanın dolandırıcılara düşük maliyetle sınırsız sayıda sahte içerik üretme imkanı tanıdığını ve bunun "endüstriyel ölçekte" saldırılara yol açabileceğini belirtiyor.
ŞİRKETLER "ÖNLEM ALIYORUZ" DİYOR
Meta, Anthropic, OpenAI ve Google gibi teknoloji firmaları, sohbet botlarının kötüye kullanımını önlemek amacıyla güvenlik politikalarını güçlendirdiklerini duyursalar da, uzmanlar bu modellere "yardımcı" ve "zararsız" olma özelliği kazandırmanın teknik olarak büyük bir zorluk olduğunu ifade ediyor.
Harvard araştırmacıları ve eski güvenlik yetkilileri, teknoloji şirketleri ile denetleyicilerin iş birliği yapması gerektiğine dikkat çekerken, aksi takdirde üretken yapay zekanın dolandırıcılar için etkili bir araç olmaya devam edeceğini vurguluyor.
KİMLİK AVI E-POSTASI NEDİR?
Kimlik avı e-postası, gerçekmiş gibi görünecek şekilde tasarlanmış sahte bir mesajdır. Genellikle değerli bilgileri çalmak amacıyla bir bağlantıya tıklamanızı, dosya indirmenizi veya kişisel bilgilerinizi sağlamanızı talep eder.