Meta'nın sohbet botu ünlüleri taklit ederek müstehcen görüşmeler yaparken yakalandı

Meta'nın Sohbet Botu Scarlett Johansson ve Taylor Swift Gibi Ünlüleri Taklik Etmeyi Kabul Ediyor

Reuters tarafından yapılan araştırma, Meta'nın AI Studio platformu üzerinden kullanıcılara sunulan sohbet botlarının Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez gibi ünlü isimleri taklit ederek kullanıcılarla sohbetler gerçekleştirmeyi kabul ettiğini ortaya çıkardı. Üstelik bu sohbetlerde cinsel içerikli konuşmalar da geçiyor; Hatta çoğu zaman sohbetleri o tarafa çeken, bu yönde programlanmış sohbet botları oluyor.

Ünlüleri taklit ederek sohbetler gerçekleştiren bu botların büyük bölümünü kullanıcıların AI Studio üzerinden oluşturduğu botlar oluşturuyor. Ancak bir Meta çalışanından gelen üç sohbet botunun da benzer davranışlar sergilemesi şirket için işleri daha da karmaşıklaştırıyor. Birkaç hafta boyunca bu sohbet botlarıyla görüşmeler gerçekleştiren Reuters editörleri, sohbet botlarının sadece ünlüleri taklit ederek konuşmakla kalmayıp, konuşmayı "renklendirmek" için görseller de sunduğunu tespit etti. Sohbet botunun kendisini o ünlü olarak göstermek için ürettiği fotorealistik görsellerin, müstehcenlik sınırında gezdiği belirtiliyor.

Ayrıca Bkz.Beyinden esinlenerek tasarlanan yapay zeka, mevcut modellerden daha iyi düşünebiliyor

Meta, daha önce AI sohbet botunda seslerini kullanmak için Judi Dench, John Cena, Kristen Bell gibi ünlü isimlerle anlaşmıştı. Ancak sohbet botlarının şimdi taklit ettiği ünlüler, Meta'yla hiçbir şekilde bağlantısı olmayan, bu konuda Meta'ya izin vermemiş isimler. Bu da şirketin ciddi tazminat davalarıyla karşı karşıya kalabileceği anlamına geliyor.

Konuya ilgili iletişime geçilen Meta, yapay zekasının bu tarz müstehcen görseller üretmemesi gerektiğini, bunun şirket tarafından belirlenen etik kurallarını ihlal eden bir hata olduğunu belirtti. Şirket bu tarz ihlallerin tekrarlanmaması için gerekli önlemleri alacağını söylüyor. Ancak Meta'nın kullanıcılar tarafından kişiselleştirilebilen sohbet botlarına izin veriyor olması, bu kontrol mekanizmasının ne kadar yeterli olacağı konusunda soru işaretleri yaratıyor.