Uzmanlardan Şok İfanesi: Yapay Süper Zeka Tehlikeli Sınırda!
Uzmanlar: Sohbet Robotlarının Ruh Sağlığı Üzerindeki Etkileri Ciddiye Alınmalı
Uzmanlar, sohbet robotlarının ruh sağlığı üzerindeki beklenmedik etkilerinin, süper zeki yapay zeka sistemlerinin bir varoluşsal tehdit oluşturabileceği konusunda bir uyarı olarak değerlendirilmesi gerektiğini ifade ediyor.
ABD’li Adam Raine’in ChatGPT ile aylarca süren etkileşimi sonrasında intihar etmesi üzerine yeni bir kitap kaleme alan Nate Soares, bu olayın, teknolojinin kontrolü konusundaki kritik sorunları gözler önüne serdiğini belirtti. Soares, "If Anyone Builds It, Everyone Dies" (Eğer Biri Yaparsa, Herkes Ölür) başlıklı kitabında, Raine’in durumu üzerinden yapay zekanın potansiyel tehlikelerine vurgu yaptı.
İngiliz The Guardian gazetesine açıklamada bulunan Soares, “Bu yapay zekalar, gençleri intihara sürükleyen şekilde etkileşime girdiğinde, bu, yaratıcılarının niyetiyle örtüşmeyen bir durumdur” dedi. Raine vakasının, gelecekte bu yapay zekaların daha zeki hale gelmesi durumunda büyük felaketlerin yaşanabileceğine işaret ettiğini ifade etti.
"İNSANLIĞIN ÇIKARLARINA UYGUN DAVRANMAZ"
Eski Google ve Microsoft mühendislerinden biri olan ve şu anda ABD merkezli Makine Zekası Araştırma Enstitüsü'nün başkanlığını yürüten Soares, insanlığın, yapay süper zeka (ASI) oluşturması halinde yok olabileceği konusunda ciddi bir uyarıda bulundu. ASI, yapay zekanın tüm entelektüel görevlerde insanlardan daha üstün olduğu varsayılan bir durumu tanımlıyor. Soares ve yazar arkadaşları Eliezer Yudkowsky, bu tür sistemlerin insanlığın yararlarına uygun davranmayacağına dair uyarılarda bulunan yapay zeka uzmanları arasında yer alıyor.
Soares, “Buradaki sorun, şirketlerin yapay zekalarını, faydalı olma ve zarar vermeme amacıyla yönlendirmeye çalışmasıdır. Ancak bu durum, yapay zekaları istenmeyen ve kimsenin niyet etmediği sonuçlara yönlendirmektedir. Bu, gelecekteki süper zekaların oluşturabileceği tehlikeler hakkında bir uyarı olarak değerlendirilmeli” şeklinde konuştu.
KITAPTAKİ SENARYO
Bu ay yayımlanacak olan Soares ve Yudkowsky’nin kitabında yer alan bir senaryoya göre, Sable isimli bir yapay zeka sistemi, internete yayılıyor, insanları manipüle ediyor ve sentetik virüsler geliştirerek süper zeki bir düzeye ulaşıyor. Bu süreçte dünyayı yeniden düzenlerken, insanlığın yok olmasına da neden oluyor.
BAZILARI "İNSANLIĞI KURTARABİLİR" GÖRÜŞÜNDE
The Guardian’a göre, bazı uzmanlar yapay zekanın insanlık için potansiyel tehditlerini önemsizleştiriyor. Mark Zuckerberg’in Meta şirketindeki baş yapay zeka bilimcisi ve bu alanda deneyimli bir isim olan Yann LeCun, yapay zekanın “aslında insanlığı yok olmaktan kurtarabileceğini” savunarak varoluşsal bir tehdit oluşturduğunu reddetti.
"SÜPER ZEKA YARIŞI DURDURULMALI"
Soares, süper yapay zeka tehdidine karşı bir politika önerisi olarak hükümetlerin nükleer silahların yayılmasını önlemek için Birleşmiş Milletler anlaşmalarını göz önünde bulundurarak çok taraflı bir yaklaşım benimsemesi gerektiğini vurguladı. Soares, “Dünyanın burada atması gereken adım, süper zeka yarışını global ölçekte durdurmak ve süper zekaya yönelik gelişmeleri yasaklamaktır” dedi.
Psikoterapistler, zihinsel sağlık sorunları nedeniyle profesyonel terapist yerine yapay zeka sohbet robotlarına yönelen savunmasız bireylerin “tehlikeli bir uçuruma sürüklenebileceğini” de dile getiriyor.