Перейти к содержимому

Почему контекстное окно на 1 миллион токенов — не идеальная память

AIChalkboord

0:00 / 0:00

Почему контекстное окно на 1 миллион токенов — не идеальная память

10 просмотров · 6 дн. назад
AIChalkboord
18 подписчиков
10 просмотров · 6 дн. назад
Чат-боты теперь обещают контекстное окно на миллион токенов — туда помещается целая полка романов. Но вставьте договор на 200 страниц, спросите об одном пункте на странице 117, и ответ всё равно может оказаться неверным. Это объяснение на доске следует за одним договором от начала до конца: что такое контекстное окно на самом деле, почему «поместилось» не значит «хорошо использовано», и что с этим делать. Без жаргона, только рисунки. 0:00 Огромное контекстное окно и один пропущенный пункт 3:13 Потерянное в середине, context rot и похожие факты 6:12 Цена длины, память чат-бота и 4 полезные привычки #AI #LLM #ContextWindow #ChatGPT #ContextRot #AIExplained #fyp #viral #viralvideo #fypシ