傳奇晶片設計師捨棄高頻寬記憶體 (HBM) ，設計比Nvidia更高效的晶片

傳奇晶片設計師、現任美國 AI 晶片設計新創公司 Tenstorrent 執行長的 Jim Keller，正致力於開發比 Nvidia GPU 更具效率的晶片，以降低 AI 應用的成本，並意圖搶佔 Nvidia 的市場佔有率。

隨著人工智慧技術逐漸應用於智慧型手機、電動車和雲端服務，許多企業正在尋求更具經濟效益的解決方案。許多小型企業不願意花費 2 萬美元購買 Nvidia 的高端 GPU。為了針對那些尚未被 Nvidia 覆蓋的細分市場，Jim Keller 正在努力設計更具性價比和效率的晶片。

Tenstorrent 計劃在2024年底推出其第二代多用途 AI 晶片。實際上，與 Nvidia 的 DGX 系列 AI 伺服器相比，Tenstorrent 的 Galaxy 系統在效率上提升了三倍，並且成本降低了33%。

降低耗電量和價格的關鍵：捨棄 HBM

高頻寬記憶體（HBM）是一種廣受歡迎的高性能記憶體晶片，能夠迅速傳輸大量數據。它是生成式人工智慧晶片的關鍵組成部分，對 Nvidia 產品的成功至關重要。然而，HBM 同時也是 AI 晶片高功耗和高成本的主要原因之一。通常，GPU 在處理每個任務時都需要將數據傳送到記憶體，這就需要依賴 HBM 的高速數據傳輸能力。

與此不同，Tenstorrent 晶片大幅降低了資料傳輸次數，並不依賴 HBM。每個 Tenstorrent 晶片擁有數百個核心，每個核心都配備一個小型 CPU，能夠獨立決定哪些數據需要優先處理，哪些任務可以放棄，從而提升整體效率。Keller 相信，這種創新的設計有潛力使 Tenstorrent 晶片在某些 AI 研究領域取代 GPU 和 HBM。此外，公司還將致力於提高產品的性價比。

由於每個核心相對獨立，Tenstorrent 晶片可以根據需求進行靈活的堆疊，以適應更廣泛的應用場景。例如，少量核心足以用於智能手機或可穿戴設備，而 100 個核心則可以組合用於人工智慧數據中心。

Keller 承認，要顛覆目前大規模 HBM 產業可能需要數年的時間。他預測，將來會有更多新興公司進入Nvidia目前無法覆蓋的人工智慧市場，而非單一公司完全取代 Nvidia。

相關文章: AI 晶片短缺持續，但曙光乍現