AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
机密计算
2 篇相关内容
相关话题
IBM
AI加速
企业AI
RAG架构
GPU推理
性能基准
NVIDIA H100
英特尔TDX
IBM推出Spyre加速卡:企业AI推理新架构,数据安全与性能兼得
IBM发布专为LinuxONE设计的Spyre加速卡,构建全栈式RAG架构,实现敏感数据不出硬件边界的高性能AI推理,端到端延迟低于2秒。
I
IBM
·
9 天前
IBM
AI加速
企业AI
RAG架构
I
英特尔TDX机密环境下NVIDIA H100 GPU推理性能实测:机密计算代价几何?
研究人员在英特尔TDX机密实例中对NVIDIA H100 GPU进行AI推理基准测试,发现启用机密计算模式会导致首令牌时间增加21-28%,全局吞吐量下降约18-21%。
a
arXiv
·
42 天前
机密计算
GPU推理
性能基准
NVIDIA H100
a