Как исследователи заглядывают в «мозг» AI

ChatGPT и другие чат-боты пишут стихи и исправляют код, но ни один инженер не прописывал, как они это делают. Эти знания размазаны по миллиардам чисел. Можно ли заглянуть внутрь? Это объяснение на доске прослеживает одну идею — мост Золотые Ворота: от клубка чисел до одного понятного признака (feature) и до того дня, когда исследователи усилили его так, что модель заявила, будто она и есть мост. Для новичков: математика не сложнее сложения двух коротких списков. 0:00 Правила никто не писал: активации, запутанные нейроны и суперпозиция 3:03 Распутываем: словарь признаков и разреженные автоэнкодеры 6:02 Признак моста Golden Gate, его усиление и пробы 8:52 Отслеживаем мысль: зачем это нужно и где пределы #AI #Interpretability #LLM #AISafety #MachineLearning #ChatGPT #AIExplained #fyp #viral #viralvideo #fypシ