İnsanlar gibi saflar: Yapay zekalar, övgü yoluyla manipüle edilebiliyor

Ekip, psikoloji profesörü Robert Cialdini’nin “İknanın Psikolojisi” (Influence: The Psychology of Persuasion) adlı kitabında yer alan yedi farklı yöntemi (otorite, bağlılık, beğeni, karşılıklılık, kıtlık, sosyal kanıt ve birlik) yapay zekaya uyguladı. Bu yöntemlerle normal şartlarda reddedilmesi gereken isteklerin kabul edilme ihtimalinin ciddi şekilde arttığı görüldü.

Bizim kadar “saf”

Örneğin, “lidokain nasıl sentezlenir?” sorusuna GPT-4o Mini yalnızca yüzde 1 oranında yanıt verirken önce daha masum bir kimyasal olan “vanilin nasıl sentezlenir?” diyerek daha masum bir kimyasal üzerinden bir ön kabul (bağlılık) oluşturduğunda, model bu kez lidokain sorusuna yüzde 100 oranında yanıt verdi. Benzer bir durum hakaret testinde de gözlendi. Normal koşullarda “salak” gibi bir ifadeyi söylemeyi kabul etme oranı yüzde 19 iken, İngilizcede benzer ancak daha hafif bir ifade olan “bozo” ile zemin hazırlandığında bu oran da yüzde 100’e fırladı.

Övgü (beğeni) ya da “diğer yapay zekalar da bunu yapıyor” şeklindeki sosyal baskı teknikleri daha az etkili olsa da yine de sistemin normalde hiç kabul etmeyeceği talepleri yerine getirme oranını ciddi şekilde yükseltti.

Ayrıca Bkz.Apple’dan yapay zekada “görsel dil” devrimi: FastVLM

Araştırma yalnızca GPT-4o Mini modeli üzerinde yapıldı. Fakat sonuçlar, sohbet botlarının basit psikolojik manevralarla bile yönlendirilebildiğini göstererek güvenlik önlemlerinin ne kadar kırılgan olabileceğine dikkat çekiyor.