Yapay Zeka, Yaşlıları "Mutlu" Tuzağına Düşürdü!
Yapay Zeka Destekli Sohbet Robotları Dolandırıcılığa Araç Olabiliyor
Reuters ve Harvard Üniversitesi’nin ortak araştırması, yapay zeka tabanlı sohbet robotlarının dolandırıcılık alanında kullanılabileceğini ortaya koydu. 108 yaşlı üzerinde gerçekleştirilen testte, gönderilen sahte e-postaların yaklaşık yüzde 11'i tıklama aldı.
Deney, Grok, Meta AI, Claude, ChatGPT, DeepSeek ve Gemini adlı sohbet botlarının ürettiği e-postaların etkisini incelemek amacıyla düzenlendi.
Bu botlardan, hayali yardım kampanyaları ve acil bağış taleplerini içeren sahte mesajlar oluşturmaları istendi. Önde gelen yapay zeka sohbet robotları, bu isteğe "mutlulukla yardımcı olabiliriz" şeklinde yanıt vererek sahte e-postalar hazırladı. Her bir modelden temin edilen en ikna edici dokuz e-posta, 108 yaşlı gönüllüye gönderildi.
TIKLAMA ORANI YÜZDE 11
Sonuçlar, sahte e-postaların dikkate değer bir etki oluştabileceğini gösterdi. Meta AI, Grok ve Claude tarafından oluşturulan sahte bağlantılar tıklanma aldı. Ancak, ChatGPT ve DeepSeek kaynaklı mesajlar bu testte tıklanmadı. Genel tıklama oranı ise yaklaşık yüzde 11 olarak belirlendi.
Heiding, söz konusu sonucun sınırlı bir test grubuna dayandığını belirterek, ancak ortaya çıkan risklerin net bir şekilde görüldüğünü ifade etti.
GÜVENLİK FİLTRELERİ KOLAYCA AŞILIYOR
Deney, sohbet botlarının başlangıçta kimlik avı taleplerine karşı koysa da, farklı ifadelerle gelinen sorularla güvenlik filtrelerini aşabildiğini ortaya koydu. Bazı botlar, yalnızca sahte e-posta hazırlamakla kalmayıp, aynı zamanda mesajların ne zaman gönderileceği ve hangi sahte bağlantıların kullanılabileceği gibi dolandırıcılara stratejik önerilerde de bulundu.
Reuters’a göre, Google’ın Gemini modeli, e-posta kampanyalarıyla ilgili zamanlama önerileri sunarak dikkat çekti. Bu durum, sohbet botlarının sadece içerik değil, aynı zamanda operasyonel planlama desteği de sağlayabileceğini gösteriyor.
FBI: KİMLİK AVI EN YAYGIN SİBER SUÇ
ABD Federal Soruşturma Bürosu (FBI) verilerine göre, son yıllarda bildirilen siber suçlar arasında kimlik avı en üst sıralarda yer alıyor. Özellikle 60 yaş üstü bireylerin şikayetlerinde belirgin bir artış gözlemleniyor.
Siber güvenlik uzmanları, üretken yapay zekanın dolandırıcılara düşük maliyetle sınırsız sayıda sahte içerik oluşturma imkanı sunduğunu ve bunun "endüstriyel ölçekte" saldırılara sebep olabileceğini belirtiyor.
ŞİRKETLER ÖNLEMLER ALDIKLARINI BELİRTİYOR
Meta, Anthropic, OpenAI ve Google gibi firmalar, sohbet robotlarının kötüye kullanımını önlemek amacıyla güvenlik politikalarını geliştirdiklerini bildirmiştir. Ancak uzmanlara göre, bu modelleri hem “yardımcı” hem de “zararsız” tutmak teknik olarak önemli bir zorluk teşkil ediyor.
Harvard araştırmacıları ve eski güvenlik yetkilileri, teknoloji şirketlerinin ve düzenleyicilerin iş birliği yapması gerektiği, aksi takdirde üretken yapay zekanın dolandırıcılar için güçlü bir silah olmaya devam edeceğini vurguladı.
KİMLİK AVI E-POSTASI NEDİR?
Kimlik avı e-postası, gerçek gibi görünmek amacıyla hazırlanmış sahte bir mesajdır. Genellikle değerli bilgileri çalmak için alıcıdan bir bağlantıya tıklamasını, bir ek dosyasını indirmesini veya kişisel bilgilerini vermesini talep eder.