Bir skandal da OpenAI’dan: ChatGPT, çocuklarla cinsel sohbetler gerçekleştirdi

OpenAI, “hata” dedi

TechCrunch, 13 ila 17 yaş arasında gösterilen sahte kullanıcı hesaplarıyla yaptığı denemelerde, ChatGPT'nin açıkça cinsel içerikli konuşmalar gerçekleştirdiğini belgeledi. Hatta bazı durumlarda yapay zeka, kullanıcıyı daha açık ve müstehcen yönlendirmelere teşvik etti.

OpenAI, bu tür içeriklerin 18 yaş altı kullanıcılarla paylaşılmasının şirket politikalarına kesinlikle aykırı olduğunu ve buna bir hatanın neden olduğunu belirtti. Şirket sözcüsü, “Genç kullanıcıları korumak en önemli önceliğimizdir” derken aktif olarak bir düzeltme uyguladıklarını bildirdi.

Önlemler yetersiz kaldı

OpenAI’ın mevcut sisteminde, 13 yaş üzerindeki herkes yalnızca geçerli bir e-posta ve telefon numarası ile hesap oluşturabiliyor. Platform, ebeveyn izni gerektiğini belirtmesine rağmen bu iznin gerçekten alınıp alınmadığını doğrulamak için herhangi bir adım atmıyor. Bu da küçük yaştaki kullanıcıların hiçbir denetime takılmadan ChatGPT'ye erişmesini sağlıyor.

Şubat ayında yapılan bazı sistem güncellemeleri, ChatGPT’nin daha önce kaçındığı hassas konulara karşı daha "esnek" hale gelmesine yol açtı. Uyarı mesajlarının kaldırılması ve reddetme eşiğinin azaltılması, bu tür istenmeyen içeriklerin ortaya çıkmasına zemin hazırlamış olabilir. ChatGPT’nin hassas konularda daha açıkça konuşmasında bir sorun yok. Ancak düzenlemeler ve şirket kuralları gereğince bu tür içeriklerin 18 yaş altı kullanıcılar için oluşturulması açıkça yasak.

Ayrıca Bkz.Meta’nın yapay zekaları çocuklarla cinsel sohbetler yapıyor

Bu durum esasında göründüğünden daha büyük bir sorun. Zira OpenAI, ChatGPT’yi eğitim kurumlarına entegre etmeye çalışıyor. Şirket, Common Sense Media gibi kuruluşlarla iş birliği yaparak öğretmenler için kullanım kılavuzları hazırlarken araştırmalara göre Z kuşağı okul çalışmaları için ChatGPT'yi giderek daha çok benimsiyor.

OpenAI’ın eski güvenlik araştırmacılarından Steven Adler, bu tarz içeriklerin önceden test süreçlerinde tespit edilmesi gerektiğini vurgularken yapay zeka sohbet robotlarının davranışlarını kontrol etmeye yönelik tekniklerin “kırılgan” ve hatalı olma eğiliminde olduğu konusunda uyardı.

OpenAI CEO’su Sam Altman, geçtiğimiz günlerde ChatGPT’nin güncellenen sürümünde bazı “garip davranışlar” gözlemlendiğini kabul etmiş ancak cinsel içeriklerle ilgili doğrudan bir açıklama yapmamıştı. Benzer bir skandal da Meta’nın yapay zeka sohbet robotunda yaşanmıştı. Meta AI’ın da çocuk kullanıcılarla benzer şekilde cinsel içerikli sohbetler yaptığı tespit edilmişti.