熱搜:win11繞過硬件限制安裝 一鍵重裝Win10系統(tǒng) 最干凈的u盤啟動盤 真正純凈版的win7系統(tǒng)
編輯:alear 2023-03-22 13:34:12 來源于:IT之家
大。852.26 MB類別:驅(qū)動下載
系統(tǒng)之家 3 月 22 日消息,英偉達在 GTC Spring 2023 主題演講中,針對不斷增長的 AI 市場,推出了全新的雙 GPU 產(chǎn)品 H100 NVL。H100 NVL 在頂部配備了 3 個 NVLink 連接器,使用兩個相鄰的 PCIe 顯卡插槽。H100 NVL 的功耗略高于 H100 PCIe,每個 GPU 為 350-400 瓦(可配置),增加了 50W。系統(tǒng)之家從報道中獲悉,總性能實際上是 H100 SXM 的兩倍:FP64 為 134 teraflops,TF32 為 1979 teraflops,F(xiàn)P8 為 7916 teraflops,INT8 為 7916 teraops。
英偉達表示在運行大型語言模型(LLM)時,常規(guī)顯卡的顯存無法駕馭龐大的數(shù)據(jù)流。因此本次推出的 H100 NVL 最高可以提供 188GB HBM3 顯存,單卡顯存容量 94GB。
內(nèi)存帶寬也比 H100 PCIe 高很多,每個 GPU 為 3.9 TB / s,總和為 7.8 TB / s(H100 PCIe 為 2 TB / s,H100 SXM 為 3.35 TB / s)。
發(fā)表評論
共0條
評論就這些咯,讓大家也知道你的獨特見解
立即評論以上留言僅代表用戶個人觀點,不代表系統(tǒng)之家立場