Перейти к содержимому

[Lablup Conf 6th] Furiosa-LLM: High-performance LLM Serving for RNGD

Lablup

0:00 / 0:00

[Lablup Conf 6th] Furiosa-LLM: High-performance LLM Serving for RNGD

131 просмотр · 5 дней назад
Lablup
785 подписчиков
131 просмотр · 5 дней назад
🎤 연사: 최현식(FuriosaAI) ➡️ 발표 자료: https://bnd.ai/speakerdeck-hyunsik ➡️ 발표 소개: RNGD를 위해 설계한 고성능 엔터프라이즈 서빙 엔진 Furiosa-LLM을 소개합니다. 프로젝트의 동기, 최신 릴리즈의 상태와 기능, 기존 서빙 엔진과의 관계 및 차이점, 내부 구조와 프로젝트의 방향성에 대해 설명합니다.