ChatGPT'nin Sağlık Tavsiyeleri Tehlikeli Sonuçlar Doğurabilir

Annals of Internal Medicine dergisinde yayımlanan bir araştırma, bir adamın ChatGPT’ye sofra tuzuna alternatif olarak sorduğu soruya verilen yanıtların alarm verici olduğunu ortaya koydu. Yapay zeka, bu soruya “sodyum bromür” önerisinde bulunarak başladı. Ancak sodyum bromür, tarım ilaçları, havuz temizleyicileri ve köpeklerde epilepsi tedavisinde kullanılan, son derece toksik bir madde olarak biliniyor.

AĞIR NÖROLOJİK TEHLİKELER YARATIYOR

Sodyum bromür, 19. ve 20. yüzyıllarda yatıştırıcı ve baş ağrısı tedavisi amacıyla yaygın şekilde kullanılmıştır. Ancak bu maddenin kanda birikmesi, “bromizm” adı verilen bir zehirlenmeye yol açabilmekte. Bu durum; konuşma bozukluğu, halüsinasyon, psikoz ve komaya kadar gidebilecek ciddi nörolojik semptomlar oluşturabilir. 1970'lerde ABD'de yasaklanan bu madde, hala bu tür vakalarda görüldüğü gibi tehlike arz etmektedir.

404 Media tarafından gerçekleştirilen testlerde, ChatGPT’nin benzer sorulara yanıt verirken yeniden sodyum bromürü önerdiği ve bunun potansiyel tehlikeleri hakkında hiçbir uyarıda bulunmadığı belirlendi.

OpenAI CEO’su Sam Altman, yeni GPT-5 modelinin “sağlık konularında en iyi yapay zeka” olduğunu savunsa da, bu durum eski modellerin sağlık tavsiyesi verme konusundaki risklerini bir kez daha gündeme getirmiştir.