Yapay Zeka Tarih Yazıyor: Unutma Yeteneği Kazandı!

Makine Unutuşu: Ses Taklitlerini Önlemek İçin Yeni Bir Yöntem

“Makine unlearning” (makine unutuşu) olarak bilinen bu teknik, bir sesi izinsiz şekilde taklit etmeyi engellemek amacıyla, yapay zekanın o sesi veritabanından tamamen silmesine dayanmaktadır. Böylelikle, bir kullanıcı belirli bir sesi taklit etmesini istese de, model o sesi üretememektedir.
Profesör Jong Hwan Ko ve ekibi, bu yöntemi Meta’nın VoiceBox adlı ses üretim modelinde test etti. Denemelerde, unutturulan bir sesi taklit etmesi istenen modelin, sesi yüzde 75 oranında daha az başarılı bir şekilde taklit ettiği gözlemlendi.

Bu fark, dinleyicilerin sahte sesi kolayca ayırt etmelerini sağlıyor. Ancak bu unutma işlemi, diğer seslerin taklit kalitesinde ortalama yüzde 2,8’lik bir düşüşe neden olmaktadır.

UNUTULAN VERİLER GERİ GETİRİLEMEZ

Araştırmaya göre, bir sesi unutturmak için modelin yaklaşık beş dakikalık orijinal ses kaydına ihtiyacı bulunmaktadır. Unutma süreci ise hedeflenen ses sayısına bağlı olarak birkaç gün sürebilmektedir. Araştırmacılar, unutulan verilerin rastgele gürültü ile değiştirildiğini ve bu nedenle geri getirilemeyecek hale geldiğini belirtmektedir.
Yapay zekada istenmeyen içerikleri engellemek için şu ana kadar genellikle koruma bariyerleri (guardrails) kullanılmaktaydı. Ancak bazı kullanıcılar bu bariyerleri aşmayı başarmaktaydılar. Makine unutuşu ise veriyi tamamen sistemden çıkararak bu açıkları kapatmayı hedefliyor.