NVIDIA H800 Tensor Core GPU
為各類數(shù)據(jù)中心提供出色的性能、可擴(kuò)展性和安全性。
加速計(jì)算的數(shù)量級飛躍
通過 NVIDIA H800 Tensor Core GPU，在每個工作負(fù)載中實(shí)現(xiàn)出色性能、可擴(kuò)展性和安全性。使用NVIDIA? NVLink? Switch 系統(tǒng)，可連接多達(dá) 256 個 H800 來加速百億億級(Exascale) 工作負(fù)載，另外可通過專用的 Transformer 引擎來處理萬億參數(shù)語言模型。與上一代產(chǎn)品相比，H800的綜合技術(shù)創(chuàng)新可以將大型語言模型的速度提高 30 倍，從而提供業(yè)界lingxian的對話式 AI。
準(zhǔn)備好迎接企業(yè) AI 了嗎？
企業(yè)采用 AI 現(xiàn)已成為主流，企業(yè)組織需要端到端的 AI 就緒型基礎(chǔ)架構(gòu)，加快自身邁向新時代的步伐。
適用于主流服務(wù)器的 H800 隨附五年期 NVIDIA AI Enterprise軟件套件訂閱（包括企業(yè)支持），能夠以強(qiáng)大的性能簡化 AI 的采用。這可確保組織能夠訪問構(gòu)建 H800 加速的 AI 工作流所需的 AI框架和工具，例如 AI 聊天機(jī)器人、推薦引擎和視覺 AI 等。
NVIDIA H800 TENSOR CORE GPU 規(guī)格 （SXM4 和 PCIE外形規(guī)格）
外形規(guī)格 | H800 SXM4 | H800 PCIE |
FP64 | 1 teraFLOPS | 0.8 teraFLOPS |
FP64 Tensor Core | 1 teraFLOPS | 0.8 teraFLOPS |
FP32 | 67 teraFLOPS | 51 teraFLOPS |
TF32 Tensor Core | 989 teraFLOPS* | 756teraFLOPS* |
BFLOAT16 Tensor Core | 1979 teraFLOPS* | 1,513 teraFLOPS* |
FP16 Tensor Core | 1979 teraFLOPS* | 1,513 teraFLOPS* |
FP8 Tensor Core | 3958 teraFLOPS* | 3026 teraFLOPS* |
INT8 Tensor Core | 3958 TOPS* | 3026 TOPS* |
GPU 顯存 | 80GB | 80GB |
GPU 顯存帶寬 | 3.35TB/s | 2TB/s |
解碼器 | 7 NVDEC/7 JPEG | 7 NVDEC/7 JPEG |
Zui大熱設(shè)計(jì)功率 (TDP) | 高達(dá) 700 瓦（可配置） | 350 瓦（可配置） |
多實(shí)例 GPU | Zui多 7 個 MIG @每個 10GB | |
外形規(guī)格 | SXM | PCIe雙插槽風(fēng)冷式 |
互聯(lián)技術(shù) | NVLink：600GB/s PCIe:128GB/s | NVLink：600GB/s PCIe:128GB/s |
安全地加速從企業(yè)級到百億億次級規(guī)模的工作負(fù)載
實(shí)時深度學(xué)習(xí)推理
超大模型的 AI 推理性能提升高達(dá) 30 倍
HPC 應(yīng)用的性能提升高達(dá) 7 倍
百億億次級高性能計(jì)算
加速數(shù)據(jù)分析
為企業(yè)提高資源利用率
內(nèi)置機(jī)密計(jì)算
為大規(guī)模 AI 和高性能計(jì)算提供出色的性能
英偉達(dá)顯卡算力租賃，自動駕駛開發(fā)平臺，4D毫米波雷達(dá)，激光雷達(dá)，智能攝像頭
顯卡GPU算力租賃、AIGC產(chǎn)品、自動駕駛開發(fā)平臺、傳感器
上海智算行云科技主要銷售顯卡GPU算力租賃、AIGC產(chǎn)品、自動駕駛開發(fā)平臺、傳感器。上海智算行云科技深度融合智算（智能計(jì)算）、AI（人工智能）、自動駕駛技術(shù)與先進(jìn)算力，致力于打造前沿的AIGC（AI Generated Content，人工智能生成內(nèi)容）產(chǎn)品，引領(lǐng)數(shù)字化轉(zhuǎn)型的新紀(jì)元。 ...