Amazon'un yapay zekası Q’nun ciddi güvenlik sorunları var

Amazon Q, güvenlik endişelerine neden oluyor

Platformer tarafından elde edilen dahili belgelere göre Amazon Q, ciddi halüsinasyonlar görüyor ve gizli verileri sızdırıyor. Bu sızıntılardan bazıları AWS veri merkezlerinin konumu, dahili indirim programları ve hatta yayınlanmamış özellikleri içeriyor. Amazon temsilcisi Platformer'a yaptığı açıklamada ise bu iddiaları yalanladı. Amazon, çeşitli geri bildirimler aldıklarını ancak bunlar neticesinde herhangi bir güvenlik sorunu tespit edemediklerinin altını çiziyor.

Ayrıca Bkz.Amazon, ChatGPT rakibi yapay zeka sohbet robotu Q’yu tanıttı

Q, çalışanlara çeşitli farklı iş işlevlerinde yardımcı olmanın yanı sıra soruları yanıtlamak ve içerik oluşturmak için özelleştirilebilen iş odaklı bir sohbet robotu olarak çalışıyor. Yani ücretsiz ChatGPT gibi değil de daha çok ChatGPT Enterprise sürümü gibi diyebiliriz. Ürünü duyurduğunda Amazon, aralarında Accenture, Amazon, BMW Group, Gilead, Mission Cloud, Orbit Irrigation ve Wunderkind'in de bulunduğu çok sayıda şirketin Q'yu kullandığını söyledi.

Amazon Q, diğer birçok sohbet robotunun aksine web'den bilgi almak yerine, yanıtları "şirketin bilgi havuzlarından, kod tabanlarından ve kurumsal sistemlerinden" alıyor ve bu da bilgilerin yanlış olması veya yanlış kişilerle paylaşılması durumunda daha ciddi sorunlar yaratabiliyor.