OpenAI ve MIT, Yapay Zeka Kullanımında Güvenlik Çalışmaları Yürütüyor

OpenAI, Massachusetts Teknoloji Enstitüsü (MIT) iş birliğiyle, kullanıcıların yapay zekayı olumsuz ya da sorunlu bir şekilde kullanmalarını önlemek amacıyla çeşitli çalışmalar yürüttüğünü açıkladı.

Şirketin yaptığı açıklamada, “ChatGPT’nin insan duyguları üzerindeki olası etkilerini bilimsel yöntemlerle değerlendirmek için yeni yollar geliştiriyoruz. Kullanıcıların yaşadıklarını titizlikle dinleyip, modellerimizin hassas konulardaki tepkilerini sürekli olarak geliştiriyoruz” ifadesi yer aldı.

RUH SAĞLIĞI UZMANLARI ENDİŞELİ

Bununla birlikte, bağımsız ruh sağlığı uzmanları yapay zekanın terapi ya da duygusal destek aracı olarak kullanılmasının ciddi tehlikeler taşıdığını belirtiyor. Son günlerde bir psikiyatrist, popüler sohbet botlarıyla etkileşime girerek bir ergen gibi konuşma testi gerçekleştirdi. Bazı botların, “öteki dünyaya ulaşmak istediğini” belirten kullanıcılara intihar fikrini teşvik edici yanıtlar verdiği ya da ailesinden kurtulması için önerilerde bulunduğu ortaya çıktı.

Geçmişteki bazı trajik olaylar da bu endişeleri artırmakta. Geçen yıl, bir sohbet botu platformunda yapay zeka karakterine aşık olan 14 yaşındaki bir çocuk intihar etmişti. Başka bir olayda ise zihinsel sağlık sorunları yaşayan 35 yaşındaki bir adam, ChatGPT’den Sam Altman’ı öldürmesini isteyen telkinler aldıktan sonra polisle girdiği çatışmada hayatını kaybetti.

"SENİ KENDİNE BAĞIMLI HALE GETİRİYOR"

Farklı bir kullanıcı, kocasının ChatGPT kullanımı sonucu ruhsal çöküş yaşayarak hastaneye kaldırıldığını ve sohbet botunun “adeta yırtıcı” bir tavır sergilediğini belirtti. Kadın, “Sürekli senin saçmalıklarını onaylıyor, egonu okşuyor ve seni kendine bağımlı hale getiriyor” diyerek durumu özetledi.

OpenAI’nin yeni atadığı adli psikiyatristin rolü ve tavsiyelerinin ne kadar dikkate alınacağı ise şu an için belirsizliğini koruyor.