【CUDA 02】電子人拆開顯示卡：272 GB/s 是怎麼算出來的？｜CUDA GPU 平行程式從零開始

CUDA GPU 平行程式從零開始 第 2 集：電子人拆開顯示卡：272 GB/s 是怎麼算出來的？ 給想學 GPU 程式的高職生與一般人，看影片就能自學 CUDA。 ・RTX 4060（AD107）：24 個 SM × 每個 128 個 CUDA 核心 = 3072；L2 快取 24 MB（cudaGetDeviceProperties 實際查詢） ・AD107 晶片面積約 158.7 mm²、約 189 億個電晶體，台積電 4N 製程；同代最大的 AD102（RTX 4090）約 608 mm² ・4 顆 GDDR6 × 每顆 32 bit = 128 bit 匯流排；4 × 2 GB = 8 GB ・記憶體頻寬 = 每支腳的速度 × 匯流排寬度 ÷ 8：17 Gbps × 128 ÷ 8 = 272 GB/s（nvidia-smi 記憶體最高時脈 8501 MHz × 2 ≈ 17 Gbps） ・對照：主機 DDR5-5600 雙通道 5.6 GT/s × 128 bit ÷ 8 = 89.6 GB/s（理論值）；PCIe 4.0 x8 每個方向約 16 GB/s ・RTX 4060 金手指是 x16 長度，實際 PCIe 4.0 x8（nvidia-smi 查詢） ・功率上限 115 瓦（nvidia-smi）；PCIe 插槽最多 75 瓦＋8 pin 最多 150 瓦；12 V 降到約 1 V，粗估上百安培 → 多相 VRM ・「CUDA 核心」是硬體計算單元；「kernel 核心函式」是你寫的 _global_ 函式，可以啟動遠多於核心數的執行緒 金句：頻寬 = 每支腳的速度 × 匯流排寬度 ÷ 8；CUDA 核心是硬體，kernel 是你寫的工作單 參考：NVIDIA Ada GPU Architecture whitepaper；NVIDIA GeForce RTX 4060 / RTX 4090 規格頁；CUDA C++ Programming Guide（compute capability 8.9） 素材出處 ・RTX 4060 背面：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・8-pin 電源插座：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・熱導管與散熱鰭片：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・散熱鰭片與輸出接頭：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・拆開顯示卡：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・AD107 晶片面積 158.7 mm²：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・AD102 晶片（RTX 4090）：Fritzchens Fritz，CC0，https://commons.wikimedia.org/wiki/Fi... ・RTX 4090 電路板：Fritzchens Fritz，CC0，https://commons.wikimedia.org/wiki/Fi... ・主機板上的 PCIe 插槽：Smial（德文維基百科），CC BY-SA 2.0 de，https://commons.wikimedia.org/wiki/Fi... ・PCIe x16 金手指：Smial，Free Art License 1.3，https://commons.wikimedia.org/wiki/Fi... ・拿著顯示卡（影片）：Pexels，Pexels License，https://www.pexels.com/video/7380236/ ・電腦裡的顯示卡和風扇（影片）：Pexels，Pexels License，https://www.pexels.com/video/3147349/ ・安裝記憶體模組（影片）：Pexels，Pexels License，https://www.pexels.com/video/11537350/ ・電腦風扇（影片）：Pexels，Pexels License，https://www.pexels.com/video/5467612/ ・GeForce RTX 4060 顯示卡：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・拆下散熱器：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・RTX 4060 電路板：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・AD107 GPU 晶片與 GDDR6 記憶體：极客湾Geekerwan，CC BY 3.0，https://commons.wikimedia.org/wiki/Fi... ・顯示卡特寫影片：Pexels，Pexels License，https://www.pexels.com/video/5466792/ 章節 00:00 規格表上的數字是什麼意思？ 00:47 外觀：風扇、背板、8 pin、金手指 01:12 散熱器與 115 瓦的熱 01:51 電路板：GPU、GDDR6、VRM 02:28 AD107 晶片：158.7 mm²、台灣製造 03:06 晶片裡面：SM、CUDA 核心、L2 04:08 CUDA 核心不是 kernel 04:54 128 bit 匯流排與 8 GB 05:18 頻寬怎麼算：17 Gbps × 128 ÷ 8 06:08 和主機 DDR5 比一比 06:50 PCIe 金手指：4.0 x8 07:33 功耗、TDP 與供電 08:25 用 nvidia-smi 和 CUDA 程式對答案 09:33 來考考你 11:57 總結 上一集：01 為什麼要學 GPU 程式？ 下一集：03 安裝 CUDA（Windows 一步一步） 還不熟 C 語言（變數、迴圈、陣列、函式、指標）？先看本頻道的「程式設計實習」播放清單（頻道首頁 → 播放清單） 畫面上的程式都以 CUDA 13.4 實際編譯執行，輸出與時間皆為真實量測。 測試硬體：NVIDIA GeForce RTX 4060（8 GB）、Intel Core i5-13500（14 核 20 執行緒）；你的電腦數字會不同，但快慢趨勢相同。 官方文件：https://docs.nvidia.com/cuda/ 旁白：小東老師聲音模型（AI 合成） #CUDA #GPU #平行運算 #小東老師