博通發布Jericho4芯片:臺積電3nm工藝,可連接超100萬顆處理器,實現跨數據中心分布式AI計算
今天(8 月 5 日)發布博文,報道稱博通(Broadcom Inc.)針對舊有較小規模數據中心,推出了 Jericho4 網絡芯片,目的是連接相距超過 60 英里(96.5 公里)的數據中心,并加速人工智能計算。
隨著人工智能技術的飛速發展,數據中心正變得越來越大,因此云服務公司面臨一個挑戰:如何處理那些老舊、規模較小的數據中心?博通提出了一個潛在的解決方案。
這款 Jericho4 芯片采用臺積電 3nm 工藝,可以連接超過 100 萬個處理器,相比較前代,處理信息量增加了約 3 倍。Broadcom 公司的高級副總裁兼核心交換部門總經理 Ram Velaga 表示,這款芯片讓客戶可以連接多個小型數據中心,形成一個龐大的系統,用于開發或運行人工智能模型。
博通公司一直在從構建人工智能系統的需求中受益,其網絡組件,如路由器和交換機,負責在圖形處理單元(GPU)之間引導數據流,這些昂貴的芯片用于創建人工智能模型。IT之家援引 Velaga 觀點,隨著 GPU 集群的規模越來越大,其功耗也變得過大,無法全部位于同一地點。
Velaga 表示“在嘗試構建一個擁有 20 萬個或甚至 10 萬個 GPU 的集群時,功耗很快就會達到 300 兆瓦,而如今沒有一個建筑能夠提供 300 兆瓦的電力,Jericho 系列網絡芯片將有助于解決這個問題”。
此外,公司也在嘗試將數據中心容量遷移到離客戶更近的地方,以加快用戶從 AI 模型中獲取答案的速度。這意味著云和人工智能業務將需要利用位于擁擠都市區域的數據中心,在這些地方連接幾個小型設施可能更為實用。
為了緩解網絡擁堵問題,Jericho4 芯片使用了與英偉達和 AMD 的 AI 處理器相同的高帶寬內存(HBM)。