AI đọc câu bạn viết như thế nào? Giải mã Transformer
Kiều Anh Tuấn | AI & Công nghệ
0:00 / 0:00
AI đọc câu bạn viết như thế nào? Giải mã Transformer
1 739 просмотров · 1 дн. назад
Kiều Anh Tuấn | AI & Công nghệ
3,04 тыс. подписчиков
1 739 просмотров · 1 дн. назад
Tìm hiểu cách hoạt động của Transformer, kiến trúc cốt lõi đằng sau sự thông minh của các mô hình ngôn ngữ lớn hiện nay.
Video này giải thích chi tiết quy trình xử lý văn bản và các phép tính toán học phức tạp như tích vô hướng hay softmax bên trong mô hình. Chúng ta sẽ cùng phân tích cách Transformer xử lý dữ liệu đầu vào, từ việc chuyển đổi văn bản thành các con số cho đến cách mô hình dự đoán từ tiếp theo để tạo ra câu trả lời.
Nội dung cũng làm rõ sự khác biệt giữa phiên bản gốc và các thế hệ GPT hiện đại, cùng với vai trò của số lượng tham số trong việc nâng cao khả năng suy luận. Bạn sẽ hiểu rõ hơn về logic vận hành của các trợ lý ảo và những giới hạn kỹ thuật mà các mô hình này đang đối mặt.
Đăng ký kênh để nhận các video phân tích về công nghệ và AI hàng tuần, và hãy để lại bình luận về những thắc mắc của bạn liên quan đến cấu trúc của Transformer.
Video có gắn sản phẩm qua chương trình YouTube Shopping Affiliate. Nếu bạn mua qua link, tôi có thể nhận một khoản hoa hồng nhỏ, giá của bạn không đổi.
📩 Theo dõi kênh để nhận video mới về thế giới AI và công nghệ mỗi tuần:
/ @kieuanhtuanai
🤝 Liên hệ hợp tác / Work with me
• Website: https://kieuanhtuan.com
• Facebook: / kieuanhtuan68
⏱️ CHƯƠNG
0:00 Giới thiệu
0:22 Hai chữ đậu giống hệt nhau
1:25 Từ chữ sang con số (token, embedding, layer)
4:05 Tích vô hướng: đo độ giống nhau (có toán)
6:29 Các chữ nhìn nhau (attention)
7:33 Cuộc đi chợ: tờ danh sách, biển, hàng
8:24 Điểm, softmax, giỏ hàng bằng số thật (có toán)
14:30 Tính lại con số 99% (có toán)
18:28 Vì sao chỉ nhìn về phía trước (causal mask)
22:34 Công thức một dòng của sự chú ý (có toán)
23:35 Mỗi chữ tự nghĩ một mình (MLP)
27:28 Nhiều lớp nối nhau
28:50 Từ dãy số cuối đến chữ tiếp theo
33:55 Vì sao Transformer được dùng rộng
37:02 Cái giá của sự chú ý
39:09 Hiểu đúng về Transformer
40:52 Cộng đồng Xưởng tự động hoá AI