黃仁勳談 NVIDIA 的護城河以及如何超越摩爾定律

原影片來自於‪@Bg2Pod‬ ， 影片主要是關於 NVIDIA 執行長黃仁勳與 Altimeter Capital 執行長 Brad Gerstner 的對談，探討 NVIDIA 在 AI 領域的護城河、AI 發展趨勢，以及 NVIDIA 如何利用 AI 提升自身效率。 對談中，Gerstner 首先指出 NVIDIA 的護城河並非僅僅是設計出更好的晶片，而是涵蓋了從 GPU 到 CPU、網路，尤其是軟體和函式庫的完整堆疊，這使得應用程式能夠在 NVIDIA 平台上運行。 黃仁勳也強調，過去人們認為只要設計出具有更多運算能力的晶片就能提升系統效能，但這種思維已經過時了。現代的軟體並非靜態的，而是會不斷演進，因此需要一個能夠加速每一步驟的系統，才能真正提升整個週期時間。 黃仁勳進一步解釋，NVIDIA 的護城河在於其平行處理的能力。相較於串列處理需要每個電晶體都表現出色，平行處理則需要大量電晶體才能更具成本效益。 NVIDIA 寧願擁有 10 倍的電晶體數量，即使速度慢 20%，也不要只有 1/10 的電晶體數量，即使速度快 20%。這是因為平行運算需要對每個演算法進行不同的重構，而 NVIDIA 在這方面擁有豐富的經驗。 Gerstner 提到，AI 領域正處於「推論時代」，推論指的是利用已訓練好的模型進行預測。黃仁勳指出，訓練和推論本質上是相同的，只是規模不同。如果訓練良好，推論的效果通常也會很好。 NVIDIA 的優勢在於其平台能夠在雲端、本地和邊緣裝置上無縫運行。例如，在雲端建立的 Vela 視覺語言模型，可以在機器人上完美運作，無需修改。 Gerstner 進一步詢問黃仁勳對於 AI 模型和 OpenAI 的看法，OpenAI 在當週獲得了 65 億美元的投資，估值高達 1500 億美元。 黃仁勳表示，OpenAI 的成功證明了 AI 的巨大潛力，AI 不再只是一個概念，而是正在被各行各業實際應用。他也強調，AI 領域將會出現許多機會，但並非每一個層級都適合每一家公司。公司需要根據自身的優勢和目標選擇合適的發展方向。 最後，Gerstner 探討 AI 的安全性和監管問題。黃仁勳認為，確保 AI 安全的最佳方法是讓好的 AI 變得更好。 他也強調，AI 產業正在積極開發各種方法和工具來確保 AI 安全，例如紅隊測試、模型卡、評估系統和基準測試系統。這些努力雖然未被廣泛重視，但對於 AI 的安全發展至關重要。