Почему ChatGPT не может посчитать буквы R в слове strawberry?

Спросите чат-бота, сколько букв R в слове «strawberry», и долгое время многие отвечали: две. Причина удивляет: языковая модель вообще не видит букв. Текст режется на токены, кусочки слов, и каждый становится числом. На доске мы проводим слово strawberry от букв к кусочкам и числам, разбираем, как строится токенизатор, почему токены вызывают другие странные ошибки, и в чём простое решение. 0:00 Ошибка со strawberry: ИИ не видит букв 2:19 Как строятся токенизаторы и их странные эффекты 5:16 Цена, длина контекста и решение #AI #ChatGPT #LLM #Tokenization #Tokens #AIExplained #fyp #viral #viralvideo #fypシ