Çin'den Şaşırtan Uyarı: Yapay Zeka Kitle İmha Silahı Üretebilir!
Çin'den Yapay Zeka Risk Değerlendirmesi: Terör Tehditleri Giderek Artıyor
Çin, yapay zeka teknolojilerine ilişkin yayınlanan son risk değerlendirmesinde, bu teknolojilerin aşırılıkçı gruplar ve terör örgütleri tarafından kitle imha silahlarının üretiminde kullanılabileceğine dair ciddi uyarılara yer verdi. Çin Ulusal Siber Güvenlik Standardizasyonu Teknik Komitesi ve Ulusal Bilgisayar Ağı Acil Durum Yanıt Teknik Ekibi, "Yapay Zeka Güvenlik Yönetimi Çerçeve Belgesi"nin güncellenmiş versiyonunu kamuoyuna sundu.
Yapay zeka teknolojisinin gelişen bilgi işleme yetenekleri sayesinde sıradan bireylerin dahi yıkıcı silahlar yapma imkanına sahip olabileceği belirtilen belgede, kitle imha silahları ve kritik silah sistemlerinin üretimi üzerindeki bilgi ve yeteneklerin kontrol kaybının risklerine dikkat çekildi. Yapay zeka sistemlerinin nükleer, biyolojik ve kimyasal silahlar ile füze sistemlerine dair temel teorik bilgilere ulaşabilmek için geniş çaplı veri derlemeleri ve içerikler kullandığı vurgulandı. "Yeterli denetim sağlanmadığında, aşırılıkçı gruplar ve teröristler bu tür silahların tasarımı, üretimi ve kullanımı konusunda bilgi edinerek bu yeteneklerini geliştirebilirler," ifadesi belgedeki uyarılar arasında yer aldı.
"BARIŞA YÖNELİK RİSKLERİ ARTIRABİLİR"
Belgede, yapay zeka sistemlerinin "erişim destekli bilgi üretimi" adı altında, internet üzerindeki geniş ölçekli güncel verileri tarayarak bir probleme çözüm bulmadan önce hareket ettiğine dikkat çekildi. Bu durum, mevcut kontrol sistemlerini etkisiz kılarak barış ve güvenlik açısından daha fazla risk doğurabileceği belirtildi. Yapay zeka uygulamalarının güvenilir olabilmesi için insan kontrolünün asla kaybolmaması gerektiği vurgulanırken, yapay zekanın insan gibi iletişim kurması ve öz-farkındalık kazanmasının getirebileceği tehlikeler ifade edildi. "İnsanlığın varlığını ve gelişimini tehdit edebilecek kontrolsüz riskleri önleyebilmek için yapay zekanın sürekli insan kontrolünde olması gerektiğine dikkat etmeliyiz," değerlendirmesi yapıldı.