AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
NVIDIA H100
1 篇相关内容
相关话题
机密计算
GPU推理
性能基准
英特尔TDX
英特尔TDX机密环境下NVIDIA H100 GPU推理性能实测:机密计算代价几何?
研究人员在英特尔TDX机密实例中对NVIDIA H100 GPU进行AI推理基准测试,发现启用机密计算模式会导致首令牌时间增加21-28%,全局吞吐量下降约18-21%。
a
arXiv
·
42 天前
机密计算
GPU推理
性能基准
NVIDIA H100
a