Lập trình GPT và Transformer từ con số 0 - Phần 2: Tạo Training dataset
Học Lập Trình cùng Phát
0:00 / 0:00
Lập trình GPT và Transformer từ con số 0 - Phần 2: Tạo Training dataset
2 822 просмотра · 1 г. назад
Học Lập Trình cùng Phát
8,94 тыс. подписчиков
2 822 просмотра · 1 г. назад
Xin chào các bạn! 👋 Chào mừng các bạn đã quay trở lại với series Lập trình GPT và Transformer từ con số 0. Trong video này, chúng ta sẽ cùng nhau khám phá cách xây dựng training dataset từ dữ liệu văn bản thuần túy 📚 để huấn luyện mô hình GPT của riêng mình mà không cần sử dụng bất kỳ thư viện chuyên biệt nào liên quan đến Transformer!
📌 Nội dung chính:
1. Ôn tập về Self-Supervised Learning 📈
2. Cách chuyển đổi văn bản thành dữ liệu huấn luyện
3. Sử dụng PyTorch Dataset để quản lý và xử lý dữ liệu
4. Tạo các cặp đầu vào - đầu ra cho mô hình GPT
🌟 Bộ dữ liệu sử dụng:
Bộ truyện Kính Vạn Hoa của tác giả Nguyễn Nhật Ánh, gồm 10 tập đầu tiên.
📺 Đừng quên xem lại phần 1:
• Lập trình mô hình GPT và Transformer từ c...
Nếu các bạn thấy video hữu ích, hãy LIKE 👍, SHARE 📤, và SUBSCRIBE 🔔 để không bỏ lỡ những video tiếp theo nhé!
Github của project: https://github.com/SonPhatTranDevelop...
#GPT #Transformer #PyTorch #MachineLearning #HọcLậpTrình #Python #AI #Dataset #TựHọcLậpTrình #DeepLearning #NLP #Programming #LLM #LargeLanguageModel #ChatGPT
0:00 Giới thiệu Training Dataset
3:25 Mảng Inputs và Labels
5:20 Tạo bộ Training Dataset
11:00 Lời kết và cảm ơn