ИИ-модель Laya: решение с открытым исходным кодом, живое тестирование

Модель Laya — это небольшая модель принятия решений с открытым исходным кодом (Apache 2.0). Она не записывает текст: вы даёте ей текст и вопрос, а она возвращает набранный ответ и степень уверенности в нём за один проход. В этом видео я запускаю её в реальных условиях, на графическом процессоре и на обычном центральном процессоре, на пяти реальных примерах: заявка в службу поддержки, весь почтовый ящик, сообщения на хинди и испанском, подтверждение расходов и случаи, когда она даёт сбой. Затем сравнение Laya с Jev, других открытых моделей принятия решений, построенных на основе Qwen (Gutsy, Decider-4B, руководство по обучению Unsloth), реальные ограничения (небольшое контекстное окно, почти случайный результат без тонкой настройки, отрицание, множество вариантов) и то, как инженеры с этим справляются. Все измерения времени и результаты — это мои собственные запуски на одной машине (графический процессор RTX 3050 в ноутбуке), а не бенчмарки. Значения бенчмарков (0,766 против 0,727, Banking77) являются собственными заявлениями авторов и помечены соответствующим образом. 🔔 Подпишитесь: https://www.youtube.com/@D_AI_LABS?su... Разделы 0:00 Вступление 0:31 Источник 0:43 Запуск Laya в реальном времени: сортировка 1:40 Реальный результат 2:17 Что такое Laya 2:57 Один проход по модели 3:29 В реальном времени: весь почтовый ящик 3:53 Чтение почтового ящика 4:37 В реальном времени: другие языки 5:12 Чтение языков 5:34 В реальном времени: одобрить или отклонить 6:04 Чтение решений 6:44 Laya против Jev 7:18 Другие открытые модели принятия решений 8:02 Какая из них выбрать? 8:22 В реальном времени: в чем проблемы Laya 8:49 Чтение ограничений 9:36 Больше ограничений 10:41 В реальном времени: работа с ограничениями 11:24 Та же модель, более разумное использование 11:45 Что инженеры делают с ограничением 12:11 Заключение вверх Источники https://github.com/NandhaKishorM/laya D AI Labs #Laya #OpenSource #AIexplained