產業動態

NVIDIA推出新一代AI GPU加速產品，擁抱未來智慧科技

2024/04/07

新聞視界時報記者李翌淳整理報導

在GTC 2024大會上，NVIDIA震撼公布全新的Blackwell架構，引起了廣泛的關注。

雖然Blackwell將在2024年下半年才會開始出貨，但目前最新的NVIDIA AI GPU加速產品已經問世，其中包括採用美光HBM3e記憶體的NVIDIA H200 Tensor Core GPU。

這款新一代GPU帶來了顯著的性能提升，透過MLPerf測試，基於Hopper架構的H100借助TensorRT-LLM軟體，不僅突破了生成式AI測試項的性能上限，而且在GPT-J LLM推論性能上提升了近3倍。

同時，H200 GPU通過HBM3e記憶體的容量和頻寬提升，以及更彈性的散熱方案，一舉刷新了多項MLPerf的紀錄。

MLPerf v4.0版本引入了兩項生成式AI測試項，這對硬體性能提出了更高的要求。

而NVIDIA則通過強化Hopper架構的記憶體，以及提供客製化的散熱解決方案，使得系統的性能得到了顯著的提升。

合作夥伴

旅人空間設計

專業室內裝修設計

此外，NVIDIA的H200 GPU將由多家領先的系統商與雲端服務商推出，為用戶帶來更強大的AI運算能力。

對於客戶對單一系統記憶體的更高要求，NVIDIA推出了GH200 Superchips平台，提供高達624GB的高速記憶體。

這一平台整合了Grace GPU與H200 GPU，並通過NVLink-C2C高速溝通，為如推薦系統等記憶體密集的MLPerf測試提供了出色的效益。

NVIDIA在MLPerf測試中一直保持著領先地位，並與合作夥伴不斷刷新著成績。

無論是更新硬體還是軟體，NVIDIA都在不斷提升系統的性能。

此外，NVIDIA還強調其測試結果的公開和透明，為行業的發展做出了積極的貢獻。

隨著生成式AI技術的不斷發展，NVIDIA的Blackwell架構將應對兆級參數需求，為未來的智慧科技帶來更大的突破。

這一架構不僅性能顯著提升，而且擁有更大的規模和記憶體容量，將為兆級參數生成式AI模型提供強大的支持。

你可能也想看

為響應2050淨零轉型並協助住商部門降低用電成本。屏東縣政府於7月14日舉辦「屏東縣住商服務業ESCO推廣說明會」。邀請金屬工業研究發展中心、相關領域專家學者及節能成功案例分享實務經驗。

日本山口縣「日台友好促進山口縣議會議員連盟」會長島田教明今（13）日率團拜會屏東縣政府。屏東縣雖近期正全力投入豪雨及風災復原工作，屏東縣長周春米仍特別調整行程接見。

桃園市長張善政日前前往中壢區，出席「桃園市智慧產業學院成果發表暨財團法人成立記者會」。與產官學研各界代表共同見證桃園推動智慧產業轉型的重要成果。現場氣氛熱絡而溫馨，不僅展現桃園在AI、智慧製造與產業升級上的推動能量，也象徵區域產業合作邁向全新階段。

昨日台灣日東電工股份有限公司於前鎮科技產業園區舉行新廠竣工啟用典禮，現場貴賓雲集，氣氛隆重而溫馨。高雄市長陳其邁、副市長羅達生、臺灣日本關係協會會長謝長廷、經濟部產業園區管理局副局長劉繼傳。