Почему контекстное окно на 1 миллион токенов — не идеальная память
AIChalkboord
0:00 / 0:00
Почему контекстное окно на 1 миллион токенов — не идеальная память
10 просмотров · 6 дн. назад
AIChalkboord
18 подписчиков
10 просмотров · 6 дн. назад
Чат-боты теперь обещают контекстное окно на миллион токенов — туда помещается целая полка романов. Но вставьте договор на 200 страниц, спросите об одном пункте на странице 117, и ответ всё равно может оказаться неверным. Это объяснение на доске следует за одним договором от начала до конца: что такое контекстное окно на самом деле, почему «поместилось» не значит «хорошо использовано», и что с этим делать. Без жаргона, только рисунки.
0:00 Огромное контекстное окно и один пропущенный пункт
3:13 Потерянное в середине, context rot и похожие факты
6:12 Цена длины, память чат-бота и 4 полезные привычки
#AI #LLM #ContextWindow #ChatGPT #ContextRot #AIExplained #fyp #viral #viralvideo #fypシ