Адаптация домена и дообучение LLM для специализированных задач: Аби Ариан

В этом докладе мы обсудим различные методы адаптации моделей, от Prompt Engineering до RAGs и методов тонкой настройки, в зависимости от набора данных и задачи. Мы также подробно рассмотрим некоторые лучшие операционные практики тонкой настройки и способы их оценки для конкретных бизнес-кейсов. Кроме того, в заключение мы представим сравнительную структуру, проведем анализ затрат и выгод, а также рассмотрим компромиссы между тонкой настройкой и базами знаний для повышения производительности больших языковых моделей для конкретной задачи. Запись сделана в прямом эфире в Сан-Франциско на AI Engineer Summit 2023. Полное расписание докладов смотрите по ссылке https://ai.engineer/summit/schedule и присоединяйтесь к нам на AI Engineer World's Fair в 2024 году! Приобретайте билеты сегодня по ссылке https://ai.engineer/worlds-fair Обо мне, Аби Ариан Привет, меня зовут Аби. Я специалист по информатике, активно работаю в области машинного обучения, чтобы сделать программные системы умнее. В течение последних семи лет я занимался разработкой систем машинного обучения для различных приложений, включая рекомендательные системы, автоматизированные конвейеры разметки данных для аудио и видео, синтез речи и аудио, прогнозирование и анализ временных рядов и т. д. В прошлом я также участвовал в программе Insight в качестве научного сотрудника в области науки о данных и был приглашенным научным сотрудником в Калифорнийском университете в Лос-Анджелесе под руководством доктора Джудеа Перла, где работал в области автоматического машинного обучения, многоагентных систем и распознавания эмоций. В настоящее время я также являюсь автором книги LLMOps: Managing Large Language Models in Production для издательства O'Reilley Publications и курса MLOps: Deploying ML models in production для специалистов по данным, изучающих основы инженерии данных и способы развертывания моделей машинного обучения в производственной среде.