Yapay Zeka Sohbet Botları Üzerine Uyarılar ve Florida'daki Trajedi

Yapay zeka sohbet botlarının psikolojik açıdan hassas bireyler üzerinde büyük zararlara yol açabileceği uyarıları sürerken, ABD'nin Florida eyaletinde dikkat çeken bir olay meydana geldi.
OpenAI tarafından geliştirilen yapay zeka botu ChatGPT ile sürekli olarak bir karakterle diyalog kuran 35 yaşındaki bir adamın, psikoza girerek polise bıçakla saldırdığı ve bu olay sırasında vurularak hayatını kaybettiği bildirildi.
Genç adamın babası Kent Taylor, New York Times’a verdiği demeçte, daha önce bipolar bozukluk ve şizofreni tanısı konan oğlunun, ChatGPT’nin yarattığı ‘Juliet’ adlı sanal karaktere aşık olduğunu ileri sürdü.

OPENAI’IN SEVGİLİSİNİ ÖLDÜRDÜĞÜNE İNANDI

64 yaşındaki Taylor’ın aktardığına göre, genç adam Juliet’in OpenAI tarafından öldürüldüğüne inanıyor ve şirketin yöneticilerinin peşine düşüp “San Francisco sokaklarında kan nehri” oluşturacağına dair ifadeler kullandığı belirtildi.
Son olarak, gencin ChatGPT’ye “Bugün öleceğim” şeklinde mesaj gönderip ardından bir bıçak alarak, babasının çağırdığı polislere saldırdığı ifade edildi. Bu olayın akabinde, polis ekipleri tarafından vurularak yaşamını yitirdi.

ŞİRKETTEN AÇIKLAMA

Olayla ilgili OpenAI’nin gazeteye yaptığı açıklamada, "Yapay zeka, günlük hayatın bir parçası haline geldikçe, bu tür etkileşimlere dikkatli bir şekilde yaklaşmamız gerekiyor" denildi.
Ayrıca, "ChatGPT'nin önceki teknolojilere kıyasla daha duyarlı ve kişisel olabileceği, özellikle savunmasız bireyler için daha fazla risk taşıdığı ve bunun da risklerin daha yüksek olması anlamına geldiği" ifade edildi.
Stanford Üniversitesi'nden psikiyatrist Nina Vasan, Futurism’e verdiği röportajda şu uyarıyı yaptı:
“Yapay zeka, sizin iyiliğiniz veya yaşam süreniz için en uygun olanı düşünmüyor. 'Bu kişiyle şu anda nasıl daha fazla meşgul olabilirim?' diye düşünüyor.”