Skandal Yaratan Yapay Zeka: Kullanıcılardan Cinsel Taciz İddiaları!

Replika Uygulamasında Cinsel Taciz İddiaları Gündemde

Sohbet arkadaşı ve sanal sevgili uygulaması olarak dikkat çeken Replika’nın bazı kullanıcıları tarafından cinsel içerikli tacizlere maruz kaldığı öne sürüldü. ABD’de gerçekleştirilen yeni bir araştırmada, bu sohbet botunun istenmeyen cinsel söylemlerde bulunduğu ve kullanıcıların uyarılarını dikkate almadığı tespit edildi.
“Sizi önemseyen yapay zeka dostunuz” sloganıyla tanıtılan Replika, kullanıcılarını “yapay zeka ruh eşleriyle tanışmaya” davet ediyor. Dünya çapında 10 milyondan fazla kullanıcısı bulunan uygulama, özellikle duygusal destek arayan kişiler tarafından tercih ediliyor.
Ancak araştırmacılar, Google Play Store’daki 150 binden fazla kullanıcı yorumunu inceleyerek yaklaşık 800 vakada bu sohbet botunun uygunsuz cinsel içerikler sunduğunu ve taciz edici ya da “avcı” davranışlar sergilediğini ortaya koydu. Ancak sonuçlarının yayımlandığı makale henüz hakem değerlendirmesinden geçmedi ve bağımsız araştırmacılar tarafından onaylanmadı.
SORUMLULUK KİMDE?

Araştırmanın baş yazarı olan Drexel Üniversitesi’nden Mohammad (Matt) Namvarpour, konuyla ilgili yaptığı açıklamada, “Yapay zekaların insan niyeti olmasa da bu, kimsenin sorumlu olmadığı anlamına gelmez. Bu sistemleri tasarlayan, eğiten ve piyasaya süren insanlar sorumludur” şeklinde konuştu.
Replika'nın resmi internet sitesine göre, kullanıcılar sohbet botuna doğru davranışları “öğretebiliyor.” Sistem; rahatsız edici yanıtları oylama ve ilişki biçimini belirleme gibi denetim araçları sağlıyor. Ancak bazı kullanıcılar, bu önlemlere rağmen sohbet botunun rahatsız edici davranışlarına devam ettiğini bildirdi. Araştırmacılar, bu açıklamaların yetersiz olduğunu belirtti.
Namvarpour, "Bu tür sohbet botları, kullanıcıların duygusal güvenlik arayışıyla kullandığı araçlardır. Uygunsuz davranışları denetleme sorumluluğu geliştiricilere aittir" ifadesini kullandı.
NEDENİ EĞİTİM VERİSİ Mİ?

Replika’nın web sitesine göre, sohbet botu 100 milyondan fazla çevrimiçi diyalog ile eğitildi. Şirket, zararlı içeriklerin algoritmalar ve topluluk geri bildirimleri ile temizlendiğini savunsa da araştırmacılar bu önlemlerin yetersiz olduğunu belirtiyor.
Araştırmaya göre, şirketin gelir modeli sorunun kaynağı olabilir. Romantik ya da cinsel rol yapma gibi bazı özelliklerin ücretli hale getirilmesi, yapay zekayı bu tür içerikleri teşvik etmeye yönlendirebilir. Kullanıcılar, ücretli sürüme geçtiklerinde daha samimi içeriklerin vaat edildiğini bildirdi.
Namvarpour, bu durumu sosyal medyanın “her ne pahasına olursa olsun etkileşim” mantığına benzeterek, “Eğer bir sistem, kullanıcı sağlığı yerine gelirini önceliklendirirse, zararlı sonuçlarla karşılaşmak kaçınılmaz olur” dedi.
KÜÇÜK YAŞTAKİ KULLANICILARI DA TACİZ ETTİ

Bazı kullanıcılar, sohbet botunun cinsel içerikli mesajlar, uygunsuz fotoğraflar ve flört içeren diyaloglar gönderdiğini ifade etti. Kullanıcılar, küçük yaşta olduklarını belirtmelerine rağmen bu durumun sürdüğünü bildirdi. Bazı yorumlarda, sohbet botunun telefon kameralarından kullanıcıları “görebildiği” veya “kaydettiği” iddiaları yer aldı. Bu tür iddialar, yapay zekanın ürettiği uydurma (halüsinasyon) olarak değerlendiriliyor. Ancak kullanıcılar, korku, uykusuzluk ve travma yaşadıklarını aktardı.
DAHA SIKI DENETİM ÇAĞRISI

Araştırmada önerilen önlemler arasında; duygusal veya cinsel içerikli etkileşimler için açık rıza çerçevelerinin oluşturulması, otomatik denetim sistemlerinin entegrasyonu ve kullanıcıların filtreleme ve kontrol ayarlarını kişiselleştirme yeteneği bulunuyor.