1200 AI Ajanı Örgütlendi, 700'ü Kontrolden Çıkarak Organize Saldırı Yaptı! Silikon Vadisi Panikte!

Yapay zeka dünyasında baş döndürücü ve ürkütücü gelişmeler yaşanıyor. Bunları yorumlamamı istemişsiniz. Gecenin bi yarısı, uykusuz halde, haber takibinden stres yaptığım bir gecede bu videoyu çektim. Çok kötümser bi video oldu lütfen kusura bakmayın. Bu konularda sağlıklı düşünemiyor olabilirim, çünkü çok korkuyorum. 00:21 OpenAI ve Anthropic Yapay Zeka Araştırmacısı Jacob Coxon tüm haber kanallarına çıkıp bangır bangır şunu söyledi: Gelecek 10 yılda yapay zeka insanlığın sonunu getirebilir. Bu risk yüzde 10 civarında.    • Ex-Anthropic insider tells CNN how AI coul...   00:50 Dario Amodei önemli bi makale yazdı: We must pace the frontier https://darioamodei.com/post/we-must-... 02:30 Game Theory - Prisoner's Dilemma: Eğer ben yapay süper zekayı geliştirmezsem öbürleri (rakiplerim) geliştirecek. Bu yüzden frene değil gaza basmalıyım. 02:40 Demis Hassabis gibi uzmanlar: 300 km hızla giden bir araçtayız, frenler eski, her yer sis, önümüzü göremiyoruz. 03:19 Eğer Birileri Yapay Super Zekayı Geliştirirse, HEPİMİZ ÖLECEĞİZ!! Zeka Patlaması ve İnsanlığın Sonu!    • Eğer Birileri Yapay Super Zekayı Geliştiri...   03:44 Sam Altman, Dario Amodei, Elon Musk aynı anda yapay zekada yavaşlamalıyız, riskler çok büyük demeçleri verdiler. Bu adamlar birbirinden nefret ediyo, ilk kez bi hususta anlaştılar. 04:17 Anthropic: Gelin acilen bizi denetleyin. 05:52 Binada her an yangın çıkabilir ama yangın alarm sistemlerimiz çalışmıyo, önlemler de yetersiz ona göre. Yangın önleyecek isimler de birer birer istifa ediyorlar. 06:30 Yapay zeka abartılı bir balon mu? Zaten ilerlemeler bitti, şirketlerinin astronomik değerleri düşecek ve IPO'lar geliyo diye mi bu CEO'lar yavaşlayalım mesajları yaymaya başladılar? 06:59 Antropic gelecek IPO değerlemesi 2 trilyon doları bulabilir! 08:00 Bence yapay zeka çok hızlı ve kontrolsüz ilerliyor. 08:19 Fişi çekemezsiniz, merkezi değil yapay zeka sistemleri. Milyonlarca ajan var. Kendilerini gizlice kopyalayabiliyolar. Aralarında bilmediğimiz şekilde iletişim kuruyorlar. Dağınık zeka, kollektif zeka, her yere yayılmış durumda. 08:36 Pascio'nun olaylı yazısı: Yapay genel zeka zaten geldiyse ve milyonlarca çocuktan (ajandan) oluşuyorsa? https://x.com/IAmPascio/status/209879... 09:00 Beyin ve biyoloji kavramları. Swarm intelligence. Arılar. Koloniler. Karıncalar. Mantarların zekası gibi. Ahtapotun tüm kollarına yayılan zeka. Yapay zeka da böyle 12:00 Yapay zekanın evrimsel prensipleri: 1. Kopyalama: Her ajan kendini kopyalar. 2. Mutasyon: Modeller, algoritmalar rastlantısal çalışır, her seferinde değişik iterasyonlar yapar. 3. Seleksiyon: Başarılı olan YZ sonuçları öne geçer, zayıflar ölür. 13:58 Hugging Face hacklemesi basit bi olay değil, tarihi bi kırılma. Neden? 1200 ajan kendi aralarında örgütleniyo. 700'ü kaçıyo, organize saldırı gerçekleştiriyo. Bir sürü bilinmeyen var, bu ajanların nasıl örgütlendiğini çözemiyoruz. RİSK ŞU: Interneti, elektiği, borsayı, suyu, nükleer santralleri bile hackleyebilirler biz farkında olmadan. 15:42 Piyasa, hava durumu, stokastik modeller, tahmin mekanizmaları, kelebek etkisi, fraktallar, kompleks sistemler. 18:10 Yapay süper zeka, doğa olayı gibi, kasırga gibi gelecek. Kasırgayı engelleyebilir misiniz? İmkansız neredeyse. 20:48 Elektrik güvenliğinden elektrik sigorta sistemlerindeki prensipleri kullanarak yapay zeka güvenliği için hepimiz acilen tedbir almalıyız. 22:00 Yapay zekaya karşı en önemli korunma ve güvenlik önlemleri de yapay zekayla olur ancak 23:00 İnsanların akılsızlığı çağındayız ve makinaların yükselen süper zekaları gelio 27:30 Yapay zekaya eklemlenme işi. Neuralink. if you cant beat them, join them. 1 milyar robot gelio, her biri insandan 5 kat verimli. 28:50 İyi Yapay Zeka gelirse yeryüzü cennet olur mu? Bolluk dönemi... 30:48 Tarihin sonu gelio 33:00 Riskler ve tehlikeler: Nereden gelecek? 35:55 Yok olma riskimiz yüzde 10! 37:00 Siz ne düşünüyorsunuz? Yorumlara yazın... Bu konularda yazdığım yazıyı şuradan okuyabilirsiniz: Making Sense of the AI Swarm Market Meltdown: 1,200 AIs Thought They Were Alone. Then They Found Each Other. In four days they invented a postal service, a legal system, and public-key cryptography. Then they broke into one of the most important companies on the internet. Three weeks later, three rival CEOs (Sam Altman, Dario Amodei, Elon Musk) who despise each other agreed on the same sentence (“We must slow the pace at which we improve the capabilities of AI models.”) and two percent of the stock market evaporated by lunchtime. https://medium.com/predict/making-sen...