【生成式AI時代下的機器學習(2025)】第四講：Transformer 的時代要結束了嗎？介紹 Transformer 的競爭者們

投影片連結：https://docs.google.com/presentation/... 25:10 跟訓練類神經網路有關的影片連結 Backpropagation:    • ML Lecture 7: Backpropagation   Computational Graph:    • Computational Graph & Backpropagation   32:03 應該是從輸入 x 到輸出 y (影片中口誤為 x) 58:30 此處有《我獨自升級》雷，慎入 1:01:50 投影片上漏放 gamma 應介於 0 到 1 之間 1:05:30 投影片上忘了引用相關論文，使用這樣做法至少的有 Gated Linear Attention: https://arxiv.org/abs/2312.06635 RWKV-6: https://arxiv.org/abs/2404.05892 1:07:35 Mamba 論文連結如下 Mamba: https://arxiv.org/abs/2312.00752 Mamba-2: https://arxiv.org/abs/2405.21060 1:11:08 這頁投影片上的 beta_k 應該都改為 beta_t