新聞視界時報
產業動態

NVIDIA推出新一代AI GPU加速產品,擁抱未來智慧科技

2024/04/07

新聞視界時報/記者陳品妤 報導

NVIDIA推出新一代AI GPU加速產品,擁抱未來智慧科技

新聞視界時報 記者 李翌淳 整理報導

在GTC 2024大會上,NVIDIA震撼公布全新的Blackwell架構,引起了廣泛的關注。

雖然Blackwell將在2024年下半年才會開始出貨,但目前最新的NVIDIA AI GPU加速產品已經問世,其中包括採用美光HBM3e記憶體的NVIDIA H200 Tensor Core GPU。

這款新一代GPU帶來了顯著的性能提升,透過MLPerf測試,基於Hopper架構的H100借助TensorRT-LLM軟體,不僅突破了生成式AI測試項的性能上限,而且在GPT-J LLM推論性能上提升了近3倍。

同時,H200 GPU通過HBM3e記憶體的容量和頻寬提升,以及更彈性的散熱方案,一舉刷新了多項MLPerf的紀錄。

MLPerf v4.0版本引入了兩項生成式AI測試項,這對硬體性能提出了更高的要求。

而NVIDIA則通過強化Hopper架構的記憶體,以及提供客製化的散熱解決方案,使得系統的性能得到了顯著的提升。

{{AD21}}

免費架站 - 點擊時代網頁設計,新聞視界時報嚴選推薦,AI 世代限時免費架設專屬網站,立即免費諮詢

此外,NVIDIA的H200 GPU將由多家領先的系統商與雲端服務商推出,為用戶帶來更強大的AI運算能力。

對於客戶對單一系統記憶體的更高要求,NVIDIA推出了GH200 Superchips平台,提供高達624GB的高速記憶體。

這一平台整合了Grace GPU與H200 GPU,並通過NVLink-C2C高速溝通,為如推薦系統等記憶體密集的MLPerf測試提供了出色的效益。

NVIDIA在MLPerf測試中一直保持著領先地位,並與合作夥伴不斷刷新著成績。

無論是更新硬體還是軟體,NVIDIA都在不斷提升系統的性能。

此外,NVIDIA還強調其測試結果的公開和透明,為行業的發展做出了積極的貢獻。

隨著生成式AI技術的不斷發展,NVIDIA的Blackwell架構將應對兆級參數需求,為未來的智慧科技帶來更大的突破。

這一架構不僅性能顯著提升,而且擁有更大的規模和記憶體容量,將為兆級參數生成式AI模型提供強大的支持。

 

 

你可能也想看

創業理財

接案要不要設立 行號與公司的差別

個人接案做到一定規模,常會被問要不要設立。本文說明個人、行號與公司三種身分的差別、責任與稅務的不同、什麼時候該轉換,以及設立前要先準備的事。

創業理財

沒有加盟金的合作模式,在台灣服務業是怎麼運作的:錢從哪裡賺、風險換到誰身上

加盟要先付加盟金、權利金、保證金,公平交易法規定加盟業主須在締約前 10 日以書面揭露這些費用。近年服務業出現「零加盟金」的合作模式——不收前期費用,改用按件抽成、月租系統費或設備供給來營運。這篇拆解傳統加盟的四大費用與法定揭露義務、零加盟金模式錢從哪裡賺、風險如何從「加盟者先付」換成「業者後收」,以及不管哪種模式都該問清楚的三件事。

創業理財

家事服務平台興起之後,接案師傅的收入結構怎麼變:從月薪到「時薪 × 可計費時數 × 平台信用」

打工趣 2025 年調查顯示 73.1% 的家庭對彈性家事服務有興趣;潔客幫 2026 年價格表向客戶收每小時 450 到 650 元、招募頁寫時薪 265 起最高 470。平台把找客戶這件事從接案者手上拿走,代價是價差與規則。這篇拆解平台前後的收入結構、承攬者的法律位置、外送專法為什麼管不到家事平台,以及接案者該問的三個數字。

創業理財

外送、代駕、洗冷氣:零工經濟裡的技術型副業,跟純接單的零工差在哪

主計總處統計 2025 年非典型就業 79.9 萬人、占 6.86%,總量微降但組成在變:外送員三年增為三倍、月薪中位數 3.6 萬、經歷中位數不到一年。這篇用公開數據把外送、代駕與冷氣清洗放在同一張表上比:門檻、單價由誰決定、收入會不會隨時間累積、季節性與風險,以及 2026 年外送專法改變了什麼、沒改變什麼。