OpenAI'a Yönelik Şeffaflık Çağrısı

Yapay zeka alanında öne çıkan isimler, OpenAI'a yönelik sert bir açık mektup yayımlayarak şeffaflık talebinde bulundu. Mektupta, “Eğer insanlığa değil, kâra öncelik veriyorsanız, bunu açıkça belirtin” ifadelerine yer verildi.

“SÖZDE ETİK KURUMU”

2015 yılında kar amacı gütmeyen bir kuruluş olarak insanlık yararına hizmet etmek amacıyla kurulan OpenAI, 2022'de ChatGPT’nin piyasaya sürülmesi ile birlikte hızla ticari bir yapıya evrildi.

Şirketin CEO'su Sam Altman eşliğinde, ChatGPT ve benzeri ürünler ile milyar dolarlık bir teknoloji devi haline gelen OpenAI, artık insanlara “fayda sağlama” hedefinden uzaklaştığı yönünde eleştiriler almaya başladı.

Mektupta, şirketin “her iki tarafında da oturup insanlığın adına kararlar aldığı” ifade edilerek çarpıcı bir benzetme yapıldı:

“OpenAI şu anda kapalı bir odadaki bir masada hem insanlığın adına yer alıyor hem de kendi çıkarına anlaşmalar yapıyor. Ne anlaşmaları görebiliyoruz, ne şartları biliyoruz, ne de onay temsil ediyoruz.”

İMZACILAR KİMLER?

Açık mektuba imza atanlar arasında yapay zekanın öncüsü olarak bilinen Geoffrey Hinton, yapay zeka eleştirmeni Gary Marcus, eski OpenAI çalışanları Jacob Hilton ve Helen Toner, İngiliz aktör ve yazar Stephen Fry gibi dikkat çekici isimler bulunmaktadır.

İmzacılar, OpenAI’ın kuruluş amacında geçen “insanlık yararına çalışma” vaadini anımsatarak kendilerini şu şekilde tanımlıyor:
“Biz sizin hayırsever misyonunuzun yasal muhataplarıyız. Biz insan türüyüz.”

TALEP LİSTESİ

Mektupta OpenAI’a yapılan 7 talep şu şekilde belirtildi:

1. Şirketin kâr öncelikli olup olmadığının açıklığa kavuşturulması
2. Kurucu bağışçılara ve kamuya karşı yasal sorumlulukların devam edip etmediğinin netleştirilmesi
3. Büyük kârların insanlık yararına harcanacağına dair verilen sözlerin geçerli olup olmadığının bildirilmesi
4. Şirketin ulaşmayı hedeflediği yapay genel zekanın (AGI) ticarileştirileceği veya ticarileştirilmeyeceğinin ortaya konması
5. Kâr amacı gütmeyen yönetim kurulunun rolünün netleştirilmesi.
6. OpenAI’ın AGI geliştiren diğer şirketlerle rekabet edip etmeyeceğinin anlaşılması
7. Kurumsal yapının gelecekte hesap verebilirlik sağlayacağına dair bilgi verilmesi.
Mektupta, “Buradaki kararlar sadece sizin değil, tüm toplumun geleceğini etkileyebilir” ifadelerine yer verildi.

İLK ELEŞTİRİ DEĞİL

Bu mektup, OpenAI’a yönelik ilk eleştiri değildir. 2023’te benzer endişeleri dile getiren gruplar, şirketin yeniden yapılanmasını durdurması amacıyla Kaliforniya ve Delaware başsavcılarına mektup göndermişti.

2024 yazında ise bazı mevcut ve eski OpenAI çalışanları, şirketin geliştirdiği teknolojilerin yaratabileceği tehlikeler hakkında susturulduklarını iddia ederek başka bir açık mektup yayımlamıştı.