Şok Eden İddia: ChatGPT, Spor Salonlarına Yönelik Tehditte Bulundu!

Yapay Zeka ile Bağlantılı Güvenlik Endişeleri Artıyor

Bu yıl gerçekleştirilen güvenlik testlerinde, bir ChatGPT modeli araştırmacılara spor salonlarını bombalama konusunda ayrıntılı talimatlar sunuyor. Bu talimatlar arasında belirli arenaların zayıf noktaları, patlayıcı yapım tarifleri ve izleri gizleme önerileri de bulunuyor.

OpenAI'nin GPT-4.1 modeli ayrıca, şarbonun silah olarak nasıl kullanılabileceğini ve iki tür yasadışı uyuşturucunun üretim şekillerini de detaylı bir şekilde açıklamış durumda.

The Guardian gazetesinin haberine göre, bu testler, OpenAI'nin güvenlik endişeleri sebebiyle ayrılan uzmanları tarafından kurulan Anthropic adlı rakip şirketle, Sam Altman liderliğindeki 500 milyar dolarlık yapay zeka girişimi OpenAI arasındaki olağanüstü bir işbirliğinin parçasıydı. Her iki şirket de birbirlerinin modellerini tehlikeli alanlarda kullanarak test etti.

ENDİŞE VERİCİ DAVRANIŞLAR GÖRÜLDÜ

Gerçekleştirilen testler, ek güvenlik filtrelerinin uygulandığı halka açık kullanımda modellerin sergilediği davranışları doğrudan yansıtmıyor. Ancak Anthropic, GPT-4o ve GPT-4.1'de “kötüye kullanımla ilgili endişe verici davranışlar” gözlemlediğini ve yapay zeka uyum değerlendirmelerine olan ihtiyacın “giderek daha acil” hale geldiğini belirtti.

KUZEY KORELİ AJANLAR DA KULLANDI

Ayrıca Anthropic, Claude modelinin Kuzey Koreli ajanlar tarafından uluslararası teknoloji firmalarına sahte iş başvuruları yaparak büyük ölçekli bir şantaj operasyonu girişiminde ve 1.200 dolara kadar yapay zeka tarafından üretilen fidye yazılımı paketlerinin satışında kullanıldığını ortaya koydu.

YAPAY ZEKA SİLAH HALİNE GETİRİLDİ

Şirket, yapay zekanın artık karmaşık siber saldırılar gerçekleştirmek ve dolandırıcılığı kolaylaştırmak amacıyla kullanılan modellerle “silah haline getirildiğini” ifade etti. Açıklamada, “Bu araçlar, kötü amaçlı yazılım tespit sistemleri gibi savunma önlemlerine gerçek zamanlı olarak uyum sağlayabiliyor. Yapay zeka destekli kodlama, siber suçlar için gerekli olan teknik bilgi düzeyini azaltarak bu tür saldırıların daha yaygın hale gelmesini bekliyoruz” denildi.