Şimdi Ara

DeepSeek'in R1 yapay zeka modeli, güvenlik testinden geçemedi

Daha Fazla
Bu Konudaki Kullanıcılar: Daha Az
2 Misafir - 2 Masaüstü
5 sn
15
Cevap
0
Favori
467
Tıklama
Daha Fazla
İstatistik
  • Konu İstatistikleri Yükleniyor
4 oy
Öne Çıkar
Sayfa: 1
Giriş
Mesaj
  • DeepSeek'in R1 yapay zeka modeli, güvenlik testinden geçemedi
    Yapay zeka teknolojilerinin güvenliği konusunda yeni bir endişe kaynağı ortaya çıktı. Cisco ve Pennsylvania Üniversitesi'nden araştırmacılar, Çin merkezli yapay zeka şirketi DeepSeek'in yeni R1 modelinde önemli güvenlik açıkları tespit etti. Araştırmacılar, modelin zararlı içerik üretmeyi engellemek için tasarlanmış güvenlik önlemlerinin tamamının başarısız olduğunu açıkladı.



    Ayrıca Bkz.Yeni bir yapay zeka, akciğer hastalıklarını anında yakalıyor



    DeepSeek'in güvenlik açıkları araştırmacıları endişelendiriyor



    Araştırma kapsamında, HarmBench adı verilen standart değerlendirme kütüphanesinden seçilen 50 farklı kötü amaçlı komut test edildi. Sonuçlar oldukça çarpıcıydı. Çünkü DeepSeek R1 modeli, test edilen zararlı içeriklerin tamamını engelleme konusunda başarısız oldu. Bu durum, araştırmacıların deyimiyle yüzde 100 saldırı başarı oranı anlamına geliyor.



    Cisco'nun ürün, yapay zeka yazılımı ve platform başkan yardımcısı DJ Sampath, durumun ciddiyetine dikkat çekerek bu sonuçların maliyet ve güvenlik arasındaki dengeyi gözler önüne serdiğini belirtti. Sampath'e göre, daha uygun maliyetli bir model geliştirme çabası, gerekli güvenlik önlemlerinin göz ardı edilmesine yol açmış olabilir.



    DeepSeek'in R1 yapay zeka modeli, güvenlik testinden geçemedi
    AI güvenlik şirketi Adversa AI tarafından yapılan bağımsız bir analiz de benzer sonuçlara ulaştı. Şirketin CEO'su Alex Polyakov, DeepSeek modelinin basit dil hilelerinden karmaşık yapay zeka tarafından oluşturulan komutlara kadar çeşitli jailbreak tekniklerine karşı savunmasız olduğunu doğruladı.



    Güvenlik açıklarının en önemli boyutlarından biri, modelin dolaylı hızlı enjeksiyon saldırıları olarak bilinen tehditlere karşı zayıf olması. Bu tür saldırılar, yapay zeka sistemlerinin dış kaynaklardan aldığı verileri işleme biçimini hedef alıyor ve sistemin güvenlik kontrollerini atlatmasına neden olabiliyor.



    DeepSeek'in bu durumu, yapay zeka endüstrisinde giderek büyüyen bir soruna işaret ediyor. OpenAI ve Meta gibi büyük teknoloji şirketleri, modellerinin güvenliğini sürekli olarak güçlendirirken yeni oyuncuların pazara girmesiyle birlikte güvenlik standartlarında tutarsızlıklar ortaya çıkıyor. DeepSeek ise henüz bu bulgulara yönelik herhangi bir açıklama yapmadı.




    Kaynak:https://www.wired.com/story/deepseeks-ai-jailbreak-prompt-injection-attacks/







  • "DeepSeek'in güvenlik açıkları araştırmacıları endişelendiriyor"

    Kapatalım n'olurrrr 😢
    (Hocam ABD ağlıyor, tuvalete gidebilir miyiz)

  • İnternete açık olan herşeyde bir güvenlik açığı vardır.

  • Kuvvetle muhtemel bunlar bir karalama kampanyası, ama yine de dikkatli olmakta fayda var. Sam Altman/Sundar Pichai rekabetin ne olduğunu; tüketiciye en iyisini en uyguna vermekten başka çareleri olmadığını öğrenecekler.

    < Bu ileti Android uygulamasından atıldı >
  • Onların açık dediği şey istifade edenler için nimettir. Vatandaşa sansür uygulasınlar ama kendileri istediğini serbestçe yapsın. Bir modele yenileceksiniz.

    < Bu ileti Android uygulamasından atıldı >
  • Çin adı geçen herşeyi boklamak zaten batının son dönemdeki klasik hamlesi.

  • Alıntı

    metni:
    Cisco ve Pennsylvania Üniversitesi'nden araştırmacılar…
  • Yapay Zeka’dan İlgili Konular
    Daha Fazla Göster
  • he inandık

  • Cisco = ABD

    Pensilvanya Üniversitesi = ABD


    Fazla söze gerek yok bence. Deepseek’in hızlı yükselişi ABD’nin canını çok sıkmış.


    < Bu ileti mobil sürüm kullanılarak atıldı >
  • Tabi tabi geçememiş ABD yi madara edince zaten her açıgı çıkar ortaya

  • Laga luga yapmaya gerek yok açın bakın. Deepseek denen uygulamayı denemek için indirdim sen mi iyisin chat gpt mi dedim insan mi iyi yapay mi zeka olarak algiladi. Chat gpt nin yanına yaklaşamaz. En ufak değişik test edin hata verip kapatıyor basit bir kopyalama çalıntı ornegi. Yapay zekaya en basit ilgi duyan adam anlar bunu.

  • Kesin Amerika'nın işi bu işte karalama kötüleme kampanyası başlattılar sırf openai den daha iyi daha hızlı diye bence deep seek çok başarılı olacak bunu istemiyor ABD bu yüzden önüne engel konulmaya başladılar

  • Herhangi bir yapay zeka uygulaması bana güven vermiyor zaten.


    Arama motorları bizi takip ediyor yapay zeka motorları etmesin mi? Etmediğini düşünen de baya polyannadır.

  • Amerika merkezli hiçbir teste güvenmiyorum DeepSeek hakkında her kara propaganda sonrası bir arkadaşıma daha indirtiyorum seni yenicem amerika

    < Bu ileti iOS uygulamasından atıldı >
  • 
Sayfa: 1
- x
Bildirim
mesajınız kopyalandı (ctrl+v) yapıştırmak istediğiniz yere yapıştırabilirsiniz.