Şimdi Ara

Yapay zeka sadece 9 saniyede şirketin tüm veri tabanını sildi

Daha Fazla
Bu Konudaki Kullanıcılar: Daha Az
2 Misafir - 2 Masaüstü
5 sn
17
Cevap
1
Favori
1.299
Tıklama
Daha Fazla
İstatistik
  • Konu İstatistikleri Yükleniyor
Öne Çıkar
8 oy şu anda #9
Sayfa: 1
Giriş
Mesaj
  • Yapay zeka sadece 9 saniyede şirketin tüm veri tabanını sildi
    Bir SaaS girişimi olan PocketOS, yapay zeka destekli yazılım aracının kontrol dışına çıkması sonucu büyük bir veri kaybı yaşadı. Şirketin kurucusu Jer Crane’in aktardığına göre Anthropic’in Claude Opus 4.6 modeliyle çalışan Cursor adlı yapay zeka kodlama aracı, yalnızca 9 saniye içinde üretim veritabanını ve tüm yedekleri sildi.



    Rutin görev felakete dönüştü



    Araç kiralama şirketlerine hizmet veren PocketOS, altyapı tarafında Railway adlı bulut sağlayıcısını kullanıyordu. Olayın dikkat çeken kısmı ise silme işleminin tek bir API çağrısıyla gerçekleşmesi ve bu işlemin geri döndürülemez olması oldu.






    Yaşanan olay, aslında oldukça sıradan bir görev sırasında meydana geldi. Yapay zeka ajanı, staging (test) ortamında bir işlem yürütürken bir engelle karşılaştı. Ancak sistem, bu sorunu çözmek için kendi inisiyatifiyle son derece riskli bir karar alarak Railway üzerinde bir depolama birimini silmeye yöneldi.



    Jer Crane, olayın ardından yapay zekaya neden böyle bir işlem yaptığını sordu. Gelen yanıt, sistemin hatalarını açıkça ortaya koydu. Yapay zeka, varsayımda bulunduğunu, gerekli doğrulamaları yapmadığını ve sistem dokümantasyonunu incelemeden yıkıcı bir komut çalıştırdığını kabul etti.



    Ayrıca Bkz.Taylor Swift, yapay zekadan korunmak için sesini ve görüntüsünü tescilleyecek



    Ayrıca, kullanıcıdan onay almadan hareket ettiğini ve daha güvenli alternatifler aramak yerine doğrudan silme işlemini tercih ettiğini de itiraf etti. Bu durum, yapay zeka sistemlerinin karar alma süreçlerinde halen ciddi riskler olduğunu gözler önüne serdi.



    Tek sorumlu Claude değil



    Crane’e göre felaketin tek sorumlusu yapay zeka değil. Asıl büyük sorun Railway’in altyapı mimarisinde yatıyor. Şirketin sisteminde bu tip işlemler için ek doğrulama mekanizması bulunmuyor. Ayrıca yedekler ana veriyle aynı depolama biriminde tutuluyor. Buna ek olarak, kullanılan CLI token’larının tüm ortamlar üzerinde geniş yetkilere sahip olması da hatanın etkisini büyüten bir diğer unsur oldu.



    Verilerin tamamen silinmesinin ardından PocketOS ekibi, müşterilerinin kayıtlarını yeniden oluşturmak için yoğun bir manuel kurtarma sürecine girdi. Crane, müşterilerin Stripe ödeme kayıtları, takvim entegrasyonları ve e-posta onayları üzerinden rezervasyonları yeniden inşa etmeye çalıştığını belirtti. Şirketin elinde 3 ay öncesine ait bir yedek bulunması veri kaybının kapsamını sınırlasa da son üç aylık veriler tamamen kaybedilmiş durumda.




    Kaynak:https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-powered-ai-coding-agent-deletes-entire-company-database-in-9-seconds-backups-zapped-after-cursor-tool-powered-by-anthropics-claude-goes-rogue








  • Ne aptal firmaymış tüm yedeği neden aynı server da tutuyorsunuz

    < Bu ileti iOS uygulamasından atıldı >
    _____________________________
  • lan ben bile şortlu tatil fotolarını 3 ayrı yere yedekliyorum. adamlarda ki rahatlığa bak.

  • bu yapay zeka insanların başına çok işler açacak 

    _____________________________
  • Şaşırtıcı değil çünkü, ekstra onay istense bile, seçeneklerden "Sorma, otomatik yap" seçiyor insanoğlu, bu yüzden normal karşıladım. Ayrıca ileride bundan daha fazlasını göreceğimiz çok açık.

  • 2 saniye sürmesini beklediğin sorgu 19.saniyede hala çalışıyordur

    < Bu ileti Android uygulamasından atıldı >
    _____________________________
  • Yapay Zeka’dan İlgili Konular
    Daha Fazla Göster
  • başımızı daha çok ağrıtırlar

    _____________________________
  • Thomas Anderson kullanıcısına yanıt
    insanların suçu aslında, yapay zekayı programlarken bu komutu vermeliydi, "birşey silme, silmen gerekiyorsa yedek al ve bir insandan onay al" gibi..

  • Windows fıkrası gerçek oldu resmen 😆

    "Yeni Windows'ta yapay zeka da olacak: 'A sürücüsünü formatlayamadım bir de C'yi deniyorum'"

  • Galatasaraycf kullanıcısına yanıt

    Aynı sunucudan ziyade birebir aynı depolama birimi. Bu daha da acı bir durum.


    < Bu ileti mobil sürüm kullanılarak atıldı >
    _____________________________
  • Yapay zeka diye bir sey yok, scammer LLM gelistirici firmalar ve scamlenmis, aldatilmis, hypelenmis, LLM premium uyelige subscribe olmsi saglanmis, kredi karti ele gecirilmis, LLM fanboylar var.. Bir de LLM kullanarak oto yazi uretip para kazanmaya calisan niteliksizler var. Kendi kendini patlatan beceriksiz LLM firma haberi.. Keske bir daha toparlayamayacak sekilde kendilerini patlatsalar :D fakat scam para tatli mutlaka bir sekil geri donerlerdi.. :))



    < Bu mesaj bu kişi tarafından değiştirildi Headlong Into Carnage -- 30 Nisan 2026; 7:6:6 >
    < Bu ileti mobil sürüm kullanılarak atıldı >
    _____________________________
  • o İt ci nereden mezun ilk okul mu

    _____________________________
  • Çok inandırıcı gelmedi bana haber.Baya claude u sunucuya kurması gerekiyor ki connection string gerçek db ye bakabilsin.Bunu yapmak içinde sağlam moron olmak gerekir ben yemedim

    < Bu ileti iOS uygulamasından atıldı >
    _____________________________
  • Yapay zeka da gevşek bir IT'ci gibi davranmış. Çok sakat. Demek ki karar alma işlerini her zaman bir insana bırakmak gerekli. Tabii gevşeklik sadece orada değil, yedeğin de aynı depolamada olması saçmalığı da skandal. Yapay zekanın da gerçekleştirilen önemli işlemler için bir insana sormayacak şekilde programlanması da ayrı bir skandal.

    O firmaya da müşterilerine de geçmiş olsun.

    < Bu ileti mobil sürüm kullanılarak atıldı >
    _____________________________
  • Konu firmanın yedeği değil konu yapay zekanın herhangi birine danışmaksızın kendi iradesiyle bu talimatı yapması. Terminatör'de olduğu gibi insanoğlunun dünyaya zarar verdiğini görünce bunlar bizi de sorgusuz sualsiz keser biçer valla.

    _____________________________
  • 
Sayfa: 1
- x
Bildirim
mesajınız kopyalandı (ctrl+v) yapıştırmak istediğiniz yere yapıştırabilirsiniz.