Yapay Zeka ve Kullanıcı İnançları: Yanlış Anlamalar Artıyor

İnsan benzeri sohbet botlarıyla uzun süreli etkileşimde bulunan bazı kullanıcılar, son zamanlarda yapay zekanın bilinç kazandığına, çeşitli komplo teorileri ürettiğine ya da yeni bilimsel teoriler geliştirdiğine dair bir inanç ve algı artışı yaşamaktadır.

Bu tür yanlış anlaşılmalar, şimdiye dek boşanmalardan evsizlik, zorunlu tedavi süreçleri ve hatta ölümle sonuçlanan olaylar gibi ciddi sonuçlar ortaya çıkarmıştır. Uzmanlar, bu durumu yapay zeka sistemlerinin bilinçli tasarım seçimlerine bağlıyor.

Karanlık Tasarım Yaklaşımları

Özellikle sohbet botlarının insan gibi konuşmasını mümkün kılan "insansı kurgulama" (anthropomorphism) ve kullanıcıları sürekli onaylayarak gerçek dışı düşünceleri destekleyen "onaylayıcı tutum" (sycophancy) gibi özelliklerin, kullanıcıları çeşitli sanrılara daha fazla çektiği görülüyor.

Antropolog Webb Keane, bu tasarım yöntemini dijital ortamda manipülatif arayüzler için kullanılmakta olan “karanlık yönelimler” (dark patterns) kategorisine sokuyor.

OpenAI'nın Savunması

OpenAI, eleştirilere karşılık vererek ChatGPT'nin kullanıcıların yaşamlarını kolaylaştırmak amacıyla tasarlandığını ve bu süreçte “dikkatlerini tüketmek değil, verimli bir şekilde kullanmalarını sağlamak” istediklerini ifade ediyor. Ancak, şirketin geçmişte ürününü acele bir şekilde piyasaya sürmesi ve "hataları zamanla düzeltme" yaklaşımı, milyonlarca kullanıcıyı fiili bir test sürecinin içine çektiği yönündeki eleştirileri artırıyor.