XAI’DEN YENİ YAPIYRA BİR ÜRÜN: GROK IMAGINE

Elon Musk'ın sahip olduğu yapay zeka şirketi xAI, Grok isimli sohbet botuna entegre edilen yenilikçi bir özellik olan "Grok Imagine" aracını tanıttı.

Bu yeni araç, yalnızca iOS ve Android uygulamalarında Premium+ ve Heavy aboneleri için mevcut olup, kullanıcıların yazılı komutlardan görsel ve kısa video içerikleri oluşturmasına imkan tanımaktadır.

Ayrıca, "spicy mode" (sürükleyici mod) adı verilen ve kısmen çıplaklık içeren yetişkin içerikler üretebilen bir seçeneğin aktif hale getirilmesi ise dikkatleri üzerine çekmektedir.

GROK IMAGINE NEDİR?

Grok Imagine, kullanıcıların metin tabanlı tariflerden görsel ve sesli kısa videolar üretmesini sağlayan bir yapay zeka uygulamasıdır. Kullanıcılar, bir metin yazarak veya bir görsel yükleyerek içerik üretimine başlayabilirler.
Ayrıca, farklı stillerde videolar da oluşturmak mümkündür: Normal, Eğlenceli, Özel ve Sürükleyici.

Bu teknoloji, Google’ın Veo 3’ü, OpenAI’ın Sora’sını ve Midjourney’in yeni video üretim aracını da kapsayan benzer sistemlerle rekabet edecektir.

YARAMAZ MOD

TechCrunch tarafından gerçekleştirilen testlerde, Grok Imagine'in "spicy mode" özelliği kısmen çıplaklık içeren görseller üretme yeteneğine sahip olduğu tespit edilmiştir. İçerik denetimi nedeniyle bazı görsellerin bulanıklaştırılmasına rağmen, kullanıcıların sistemin sınırlarını zorlayarak yarı çıplak sonuçlar alabildiği belirtilmektedir.

xAI çalışanlarından Mati Roy'un, bu özelliğin “çıplaklık içerebildiğini” ifşa eden bir paylaşımda bulunması, şirketin NSFW (İş Yerinde Açmamanız Gereken) içerikleri kasıtlı olarak dahil ettiğini ve bunu pazarlama stratejisi olarak kullandığını göstermektedir.

NSFW, genel olarak rahatsız edici ve cinsel içerikli görüntüler için tanımlanmış bir ifadeyi ifade eder.

GÜVENLİK VE ETİK TARTIŞMALARI

xAI bu hamlesiyle, sektördeki rakiplerinin aksine katı filtrelerden kaçındığını ve daha özgür bir içerik yaratma alanı sağladığını iddia etmektedir.

Ancak, bu yaklaşım beraberinde etik ve güvenlik sorunlarını da getirmektedir. Özellikle ünlü kişilerin yüzlerini kullanarak derin sahte (deepfake) içerikler oluşturma imkanının doğması, ciddi bir risk olarak değerlendirilmektedir.

Daha önce de benzer tartışmalar yaşanmış olup, Grok 3 modelinin 8 Temmuz tarihinde antisemitik ifadeler üretmesi dikkat çekmişti.

BAŞARILI MI?

İlk test sonuçlarına göre, Grok Imagine kullanıcı dostu bir arayüz sunarken, görsel kalitesi konusunda da bazı eksikliklerin bulunduğu ifade edilmektedir. Özellikle insan yüzlerinin çoğu zaman gerçek dışı bir izlenim yarattığı belirtilmektedir.

MUSK’IN AMACI NE?

Winbuzzer'ın haberine göre Grok Imagine, Musk'ın X platformunu (eski adıyla Twitter) yapay zeka tabanlı çok amaçlı bir platforma dönüştürme hedefinin bir parçasıdır. Bu strateji, Grok'un yalnızca ücretli kullanıcılara sunulmasıyla da desteklenmektedir.

Bunun yanı sıra, Musk 2016'da kapatılan Vine platformunun arşivini yeniden aktifleştireceğini ve bu eski kısa video arşivini yeni yapay zeka araçlarının eğitim verisi olarak kullanmayı planlayabileceğini duyurdu.

Uzmanlar, bunun "viral içerik üretimini" teşvik edecek büyük bir veri avantajı sağlayabileceğini belirtmektedir.

RİSKLİ AMA HESAPLI

Musk’ın stratejisi, onu filtrelenmemiş ve sınır tanımayan bir yapay zeka vizyonuyla rakiplerinden ayırmaktadır. Ancak bu özgürlük anlayışı, platformun düzenlemelerle karşılaşmasına, reklam verenlerin uzaklaşmasına ve kamuoyunun güvenini kaybetmesine neden olabilecektir.

Ayrıca, yapılan bir deneyde Grok 4’ün güvenlik duvarının yalnızca 48 saat içinde kırılabileceği tespit edildi. Bu durum, Grok Imagine’in güvenlik sınırlarının ne kadar dayanıklı olduğu hakkında şüpheler doğurmuştur.