Что такое температура в LLM

#ai #llm #textgeneration Генерацию текста в больших языковых моделях можно сделать более креативной или более детерминированной, контролируя случайность с помощью таких методов, как температурное масштабирование, выборка Top-K и выборка Top-P. В этом видео я даю четкое объяснение каждого метода и того, как они влияют на поведение LLM. 0:00 - вступление 0:55 - Жадная выборка 1:55 - Температурное масштабирование 4:45 - Выборка Top-K 5:56 - Выборка Top-P 7:42 - Top-P, Top-K, температурное масштабирование (все вместе)