Перейти к содержимому

Model AI nào thật sự tốt? Model nhỏ, chạy local, context và AI gọi công cụ

Code có gì hay?

0:00 / 0:00

Model AI nào thật sự tốt? Model nhỏ, chạy local, context và AI gọi công cụ

7 просмотров · 5 дней назад
Code có gì hay?
24 подписчика
7 просмотров · 5 дней назад
Có quá nhiều model AI: model đóng, mở trọng số, bản nhỏ, bản lượng tử... Vậy chọn thế nào cho đúng việc? Video tổng hợp 6 phần giải thích bằng ví dụ: vì sao có nhiều model; khi nào model nhỏ chuyên biệt có thể thắng; bộ nhớ khi chạy local; token/giây và context; cách AI gọi công cụ; và vai trò của harness. 00:00 Tại sao có quá nhiều model AI? 07:36 Model nhỏ có thể thắng model đầu bảng không? 14:13 Nhét model lớn vào máy nhỏ: chạy được nghĩa là gì? 20:58 Token mỗi giây và context: vì sao AI nhanh mà vẫn chậm? 27:37 AI gọi công cụ bằng cách nào? 34:24 Dùng đúng vỏ chính chủ có làm AI giỏi hơn? Các con số về bộ nhớ và tốc độ là phép tính minh họa theo giả định được nêu trong video, không phải bảng điểm model thương mại. Ví dụ đọc, sửa file và kiểm tra code được thực thi trên chương trình mẫu; yêu cầu của model được dựng để giải thích luồng hoạt động. Nguồn tham khảo (đối chiếu 24/09/2026): https://huggingface.co/learn/llm-cour... https://arxiv.org/abs/1503.02531 https://huggingface.co/deepseek-ai/De... https://huggingface.co/docs/transform... https://huggingface.co/docs/transform... https://opensource.org/ai/open-source... https://huggingface.co/docs/trl/sft_t... https://www.anthropic.com/engineering... https://www.swebench.com/ https://github.com/ggml-org/llama.cpp https://huggingface.co/docs/transform... https://docs.ollama.com/context-length https://huggingface.co/learn/llm-cour... https://github.com/ggml-org/llama.cpp... https://docs.ollama.com/capabilities/... https://code.claude.com/docs/en/overview https://developers.openai.com/blog/ru... https://developers.openai.com/api/doc... #AI #ModelAI #LocalAI #laptrinh #congnghe