Laptop RAM 16GB đến 128GB thử chạy test gpt-oss-20B và -120B
Duy Luân Dễ Thương
0:00 / 0:00
Laptop RAM 16GB đến 128GB thử chạy test gpt-oss-20B và -120B
14 067 просмотров · 1 год назад
Duy Luân Dễ Thương
499 тыс. подписчиков
14 067 просмотров · 1 год назад
Trong video này, mình chia sẻ kết quả test khi chạy mô hình ngôn ngữ lớn (LLM) GPT-OSS trên nhiều laptop khác nhau: Mac, Windows (AMD, Intel).
Cần mua laptop, ghé qua CellphoneS nhé: https://cellphones.com.vn/chao-nam-ho...
Các thông tin được cung cấp trong video này chỉ mang tính chất tham khảo, không bắt buộc. Trước khi quyết định mua hàng hay làm theo, bạn cần nghiên cứu kỹ và tham khảo thông tin từ nhiều nguồn, nhiều phía.
Tải app LiAi: tóm tắt thông tin công nghệ https://liai.app
00:00 - Giới thiệu
01:03 - Chi tiết cách test bằng LM Studio, sử dụng GPU cho Mac, CPU/GPU cho Windows
02:24 - Các dòng Mac
03:25 - Kiến trúc Unified Memory của Mac với laptop Windows (AMD Ryzen AI Max Plus), đánh giá hiệu năng và khả năng đáp ứng của các dòng laptop Windows khác nhau.
04:52 - Test trên GPU rời mà sao nó lạ lạ...
05:50 - Hiệu năng MacBook M2/M3/M4 với RAM 16GB, lưu ý về giới hạn RAM và trải nghiệm sử dụng không tối ưu.
07:03 - Hiệu năng Intel Core Ultra, lợi ích từ việc LM Studio hỗ trợ GPU tích hợp, so sánh với các cấu hình mạnh hơn (MacBook Pro M4 Max, ROG Flow Z13).
08:23 - Nhấn mạnh ưu thế của Nvidia GPU khi chạy mô hình ngôn ngữ lớn
08:43 - Đánh giá tính hữu dụng của mô hình ngôn ngữ lớn trong công việc (hỏi đáp code, SQL), so sánh với chatGPT.
12:18 - Phân tích nhu cầu thực tế về AI PC, so sánh giữa việc chạy AI trên máy local và trên cloud (ưu nhược điểm về chi phí, hiệu năng, quyền riêng tư).
15:25 - Lời khuyên
Anh em có thể theo dõi mình tại:
Facebook: / duyluannice
TikTok: / duyluandethuong
Tham gia group Cùng chơi Công nghệ để hỏi đáp, chia sẻ kinh nghiệm về công nghệ, smarthome, điện gia dụng:
Facebook: / cungchoicongnghe
Mấy món đồ mình đang dùng có thể mua tại https://duyluandethuong.koclink.info/.