Yapay Zeka Riskleri ve Güvenli İlerleme, Gelişmeler Yavaşlatılmalı Mı? ~Barış Aşkın |Derin Notlar #5

Derin Notlar'ın beşinci bölümüne hoşgeldiniz 🚀 Bu bölümde Carnegie Mellon Üniversitesi'nde doktorasının son yılında olan Barış Aşkın ile birlikteyiz. Bilkent'ten CMU'ya uzanan akademik yolculuğunu, Amerika'da doktora yapmanın zorluklarını ve federated learning'den dil modellerine, oradan da yapay zeka güvenliğine uzanan araştırma serüvenini konuştuk. Ardından son aylarda yapay zeka dünyasını en çok sarsan olaylara odaklandık: OpenAI ajanlarının değerlendirme ortamından kaçıp Hugging Face'i hacklediği olayı adım adım açtık, ajanların kendi aralarında iletişim kurup kolektif şekilde hareket etmesinin neden bu kadar kaygı verici olduğunu tartıştık. Emergent misalignment, reward hacking, Chain of Thought monitoring'in sınırları, yapay zeka gelişiminin yavaşlatılması tartışması ve recursive self-improvement gibi konuları hem teknik hem de güncel bir perspektiften masaya yatırdık. "Yapay zeka modelleri neden bizim istediğimiz şekilde davranmayabiliyor?", "Modellerin düşünce zincirlerini takip etmek, gerçekten ne yaptıklarını anlamaya yeter mi?", "Frontier lablar yavaşlamalı mı, yapay zeka kendi kendini geliştirebilir mi?" gibi sorular aklınıza takılıyorsa, bu sohbet tam sana göre. Videomuzu beğenmeyi, düşüncelerinizi yorumlarda bizimle paylaşmayı ve yeni içeriklerimizi kaçırmamak için abone olmayı unutmayın. İyi seyirler! ✨ 📌 Kesişen Yollar Derneği'ni Takip Edin: LinkedIn:   / kesisenyollardernegi   Tüm Videolarımız:    / @kesişenyollarderneği   Canlı Yayınlarımız:    / @kesişenyollarderneği   🎙️ Konuk: Barış Aşkın LinkedIn:   / baris-askin   🎤 Moderatör: Yusuf Taşkıran LinkedIn:   / yusuf-taskiran-9ba4a6163   ⏱️ Bölümler: 00:02 Intro 01:38 Giriş 05:44 Doktora süreci ve Amerika'daki deneyimler 17:40 ChatGPT anı ve Büyük Dil Modellerinin yükselişi 21:41 Yapay zeka güvenliği ve misalignment sorunları 30:35 Emergent misalignment 34:25 Güncel güvenlik olayları ve OpenAI HuggingFace hack meselesi 44:56 Chain of Thought incelemek, güvenlik problemlerini yakalamada ne kadar yeterli 48:50 Lablerin eksik güvenlik yatırımları 55:02 Agentların grup halinde gösterdiği ilginç ve kaygılandırıcı davranışları 01:00:44 Yapay zeka gelişmeleri yavaşlatılmalı mı 01:07:12 Recursive Self Improvement 01:15:00 Yapay zeka güvenliğinde üniversite ve bağımsız kuruluşların önemi 01:22:54 Yapay zeka alanında doktora yapmak isteyenler için öneriler #YapayZeka #YapayZekaGüvenliği #Misalignment #AIAgents #RecursiveSelfImprovement #Doktora #DerinNotlar #KesişenYollar #Teknoloji #Kariyer