Как на самом деле работает ChatGPT: 7 шагов после Enter
ibrain
0:00 / 0:00
Как на самом деле работает ChatGPT: 7 шагов после Enter
13 просмотров · 9 часов назад
ibrain
130 подписчиков
13 просмотров · 9 часов назад
Ты нажимаешь Enter – и на каждое слово ответа внутри нейросети проходят сотни миллиардов вычислений. Разбираю по шагам, что происходит с твоим сообщением, откуда ИИ всё знает и почему он иногда уверенно врёт.
Хочешь разбор, как нейросети рисуют картинки и делают видео? Напиши в комментариях «картинки».
0:00 Ты нажал Enter
0:56 Шаг 1. Нейросеть не видит слов
2:22 Шаг 2. Слова становятся числами
3:45 Шаг 3. Внимание: чемодан и багажник
5:23 Шаг 4. Она не думает – она угадывает
6:30 Шаг 5. Откуда она всё знает: 3 000 жизней
8:08 Шаг 6. Почему она врёт: адвокаты и 6 выдуманных дел
9:33 Шаг 7. Как она «думает» перед ответом
10:36 Итог: весь путь твоего «привет»
Источники:
– токены: токенизаторы GPT-4 (cl100k_base) и GPT-4o (o200k_base), библиотека tiktoken
– «король − мужчина + женщина»: Mikolov и др., word2vec (Google, 2013)
– «Attention Is All You Need»: Vaswani и др. (Google, 2017)
– Llama 3: обучение на 15+ трлн токенов (2024)
– дело Mata v. Avianca: постановление суда Нью-Йорка (S.D.N.Y.) от 22.06.2023, штраф $5 000
– «Why Language Models Hallucinate», OpenAI (2025)
– «Reasoning Models Don't Always Say What They Think», Anthropic (2025)
Музыка: Tema Minimal House – maty1309 (Pixabay)
Instagram: @rud.dvlpr
#нейросети #ChatGPT #ИИ