Şimdi Ara

ChatGPT geliştiricisi OpenAI, CEO'sunu gizemli Q* projesi yüzünden kovmuş olabilir

Daha Fazla
Bu Konudaki Kullanıcılar: Daha Az
1 Misafir - 1 Masaüstü
5 sn
14
Cevap
0
Favori
281
Tıklama
Daha Fazla
İstatistik
  • Konu İstatistikleri Yükleniyor
0 oy
Öne Çıkar
Sayfa: 1
Giriş
Mesaj
  • ChatGPT geliştiricisi OpenAI, CEO'sunu gizemli Q* projesi yüzünden kovmuş olabilir
    ChatGPT’nin arkasındaki şirket olan OpenAI için drama bitmek bilmiyor. OpenAI CEO'su Sam Altman'ın dört günlük sürgününden önce, konuyla ilgili iki kişinin Reuters'a verdiği bilgiye göre, birkaç araştırmacı yönetim kuruluna bir mektup yazarak insanlığı tehdit edebilecek güçlü bir yapay zeka keşfi konusunda uyarıda bulundu.



    OpenAI, tehlikeli bir AGI keşfi mi yaptı?



    Kaynaklara göre daha önce bildirilmeyen mektup ve yapay zeka algoritması, yönetim kurulunun Altman'ı görevden almasına neden olan bir katalizör görevi gördü. Altman’ın geçtiğimiz salı günü geri dönmesinden önce 700'den fazla çalışan işten çıkarılan liderleriyle dayanışmak için istifa etmek ve Microsoft'a katılmakla tehdit etmişti.



    Kaynaklardan birine göre, uzun süredir yöneticilik yapan Mira Murati, çarşamba günü çalışanlara Q* adlı projeden bahsetti ve bu hafta sonu yaşanan olaylardan önce yönetim kuruluna bir mektup gönderildiğini doğruladı. Reuters'a konuşan kişilerden biri, ChatGPT'nin yapımcısının Q* (Q-Star olarak telaffuz ediliyor) üzerinde ilerleme kaydettiğini, bunun da şirketin yapay genel zeka (AGI) olarak da bilinen süper zeka arayışında bir dönüm noktası olabileceğine inandığını söyledi.



    Ayrıca Bkz.Resmî açıklama geldi: Sam Altman, OpenAI CEO'su olarak geri dönüyor



    Q* modelinin geniş bilgi işlem kaynakları sayesinde belirli matematiksel problemleri çözebildiği belirtilirken yalnızca ilkokul öğrencileri düzeyinde matematik yapmasına rağmen, bu tür testlerde başarılı olmasının araştırmacıları Q*'nun gelecekteki potansiyeli konusunda çok iyimser kıldığı aktarıldı.



    Araştırmacılar için matematik, üretken yapay zeka gelişiminin bir sınırı. Şu anda üretken yapay zeka, bir sonraki kelimeyi istatistiksel olarak tahmin ederek yazma ve dil çevirisinde oldukça iyiyken, aynı soruya verilen cevaplar büyük ölçüde değişebiliyor. Ancak tek bir doğru cevabın olduğu matematik yeteneğini kazanmak, yapay zekanın insan zekasına benzeyen daha gelişmiş muhakeme yeteneklerine sahip olacağı anlamına geliyor.



    Yapay zeka bilim ekibi kuruldu



    ChatGPT geliştiricisi OpenAI, CEO'sunu gizemli Q* projesi yüzünden kovmuş olabilir
    Bilgisayar bilimcileri arasında uzun zamandır yüksek zekalı makinelerin yarattığı tehlikeler, örneğin insanlığın yok edilmesinin kendi çıkarlarına olduğuna karar verip veremeyecekleri tartışılıyor. Dolayısıyla AGI, kazançları, tehlikelerle birlikte getiriyor.



    Kaynaklara göre OpenAI, özel bir yapay zeka ekibi kurdu. Daha önceki "Code Gen" ve "Math Gen" ekiplerinin birleştirilmesiyle oluşturulan ekip, mevcut yapay zeka modellerinin muhakemelerini geliştirmek ve nihayetinde bilimsel çalışmalar yapmak için nasıl optimize edileceğini araştırıyor.



    Altman geçen hafta San Francisco'da dünya liderlerinin katıldığı Asya-Pasifik Ekonomik İşbirliği zirvesinde, büyük ilerlemelerin yakın olduğuna inandığını söyledi. Altman, OpenAI’ın tarihinde dört kez, en sonuncusu geçtiğimiz birkaç hafta içinde olmak üzere, cehalet perdesini araladığını ve keşif sınırını ileriye taşıdığını söyledi.



    Bunu, hayatının en büyük mesleki onuru olarak ifade eden Altman, bir gün sonra yönetim kurulu tarafından kovulmuştu.




    Kaynak:https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/







  • Sade yapay zeka için çalışan OpenAI'ın 700 çalışanı var... Tubitak'ın ise sadece 800 küsür(1 2 yıl önce bakmıştım). Tehlikenin gerçekten farkında mıyız? Ülkemizde araştırma yapan kurum/kişi sayısı o kadar limitli ki, gelecekte tehlikeli olabilecek bir tablo var ortada(OpenAi ile Tübitak tabi karşılaştırılamaz, biri şirket diğeri devlet kurumu fakat çalışan sayısını görünce direk aklıma Tübitak geldi)

  • Yapay zeka eldeki verileri birleştirerek bir şeyler ortaya çıkarır. Binlerce köpek resmini kedi olarak tanıtırsanız onun kedi olduğunu zanneder. Çünkü elindeki veri setine göre çıkarım yapar.

    Dil ve kelimeler de bunun gibidir. Belki onlarca dil için milyonlarca kelimelik cümlelerle eğitildiler ve bu sayede sorduğunuz soruya genel anlamda hem farklı hem de dilin yapısına uygun cevaplar verebiliyorlar.

    Mantıken bakınca yapay zekanın dil veya görsel gibi ucu çok açık bir sürecin içinden bu kadar başarılı şekilde çıkarken sonucu belli olacak bir şeyi çözmek için daha fazla zorlanmasının sebebini tam anlayamadım açıkçası.

  • 1BilimAdamı kullanıcısına yanıt
    ölçün çalışan sayısı mı.Guzelmis

    < Bu ileti Android uygulamasından atıldı >
  • Bu işin önü kanunlarla bile kesilemez. Yasaklanırsa geşişim gizli olarak devam eder. Gücü elinde tutan hakimiyet kurar. Skynet ten fazlası kaçınılmaz olarak geliyor. Yaşamlar ve özgürlükler her zamankinden fazla tehdit altında. Nükleer tehdit bile yanında minik kalır. Yapay zekanın kendisinden çok onu kontrol edenlerin fesatı düşündürüyor.

    < Bu ileti Android uygulamasından atıldı >
  • IQ'su 2000 olan bir zeka bize istediğini yapar. İnternet çıkışı vermemekte fayda var.

    "Next" adlı diziyi tavsiye ederim.https://www.imdb.com/title/tt9315054/

  • İsimlendirmeden anladığım kadarıyla A*(A star) algoritmasını Q öğrenmesi ile harmanlamış birisi var. Tabi benzerlikte olabilir.

    Şu sıralar bu algoritmalar ile ilgilendiğimden -tesadüf- isimlerdirme direkt dikkatimi çekti.

  • erdem552 kullanıcısına yanıt
    Çünkü metin, görsel veya ses gibi içeriklerdeki tahminin aksine sonucu 127 olan bir matematik işlemi için 126 cevabı yakın olsa da kabul edilemez.
    Dil modelleri bu tür uygulamalar için (eğitmek mümkün olsa da) pek uygun değil. Bunun yerine modele kullanabileceği bir hesap makinesi aracı vermek daha mantıklı ki bunun örnekleri mevcut.

    < Bu ileti Android uygulamasından atıldı >
  • erdem552 kullanıcısına yanıt
    Iyi de sen de eldeki verilerle öğreniyorsun. Sana da çocukken köpekleri kedi diye öğretseler sen de kedi zannedersin. Ama bi noktadan sonra onun kedi olmadığını mutlaka öğrenirsin. Yapay zeka da aynısı. Yapay zeka senin de bilgiye ulaşmak için ilk başvurduğun yer olan internet erişimine sahip ve burada 1 kisi köpeğe kedi diyorsa 1 milyon kişi de köpeğe kopek diyor. Ayrica buradaki her bilginin dogru olmadigi bilincinde. O yüzden ChatGPT ile sohbet ettiğinde yanlış bisey söylediğinde eger ama bu aslında öyle değil de şu şekilde degil mi dediğinde, hemen özür dileyip dogru bilgi vermeye başlıyor. Iste o anda bir şeyi daha ogrendigini anlayabiliyorsun. Sınırsız bor kaynaktan öğreniyor ve on milyonlarca insandan ayni anda bu bilgileri dogrulatiyor. Bence kedi kopek örneği kadar küçümsemek asıl en tehlikelisi.

    < Bu ileti Android uygulamasından atıldı >
  • CrimsonBlade C kullanıcısına yanıt
    Kedi köpek temel bir örnekti sadece.

    Ben de sizinle aynı şeyi dedim aslında. Metin, ses ve görsel gibi ucu açık konularda bu kadar başarılı iken matematik neden zor onu tam anlamadığımı belirttim.

  • Ulan Musk kullanıcısına yanıt
    Tabi ki kabul edilemez.

    Benim demek istediğim görsel veya metin gibi ucu olmayan bir karmaşıklık içinden başarı ile çıkabilirken, bir matematik sorusuna nasıl yaklaşılacağı ve çözmek için gerekli formüller zaten elde olduğu halde yapay zekanın bunu becerememe nedeni ne olabilir?

  • erdem552 kullanıcısına yanıt
    Aslında verdiğim örnek nedenini açıklıyor. Bir görsel için piksel değerlerini tahmin ederken 127 yerine 126 olması sorun olmuyor. Metin tahmininde de sonraki kelimenin ihtimalinin %90 olması yerine %89 olması yine sorun olmuyor.
    Bir diğer nokta da dediğim gibi LLM için matematiksel işlemlerden oluşan büyük bir veri seti ile eğitim yaparsanız başarı çok yüksek seviyelere çıkıyor. Eğer matematiksel işlemler için özelleştirilmiş bir nöral ağ tasarlarsanız bunu neredeyse kusursuz bir noktaya da çıkarabilirsiniz. Fakat nöral ağ zaten bir hesap makinesi üzerinde çalıştığından nöral ağı iptal edip direkt alttaki hesap makinesini kullanmak daha verimli olabilir.

    < Bu ileti Android uygulamasından atıldı >
  • ssbrutality S kullanıcısına yanıt

    Napıyım çalışan sayısı ile diğer ülkenin GSYHni mi karşılaştırıyım? Çalışan sayısı ile çalışan sayısını karşılaştırdım ki bi biri kurum diğeri şirket diye özellikle belirttim, tam nesnel değil diye. Tabi ayrıyetten bütçelerinide karşılaştırabiliriz ama ben teknik kadro çalışan sayısıda direk teknolojik kapasitenin bir göstergesi sonuçta




    < Bu mesaj bu kişi tarafından değiştirildi 1BilimAdamı -- 24 Kasım 2023; 23:19:22 >
  • 
Sayfa: 1
- x
Bildirim
mesajınız kopyalandı (ctrl+v) yapıştırmak istediğiniz yere yapıştırabilirsiniz.