NVIDIA 的机密计算通过 Blackwell GPU 利用基于硬件的安全性,以最小的性能影响保护 AI 工作负载。
NVIDIA 推出了全新的机密计算 (CC) 解决方案,该解决方案集成到 Blackwell GPU 中,包括 HGX B200、HGX B300 和 RTX PRO 6000。该平台旨在在硬件级别保护 AI 工作负载,同时不影响推理性能,这是企业采用 AI 的长期挑战。基准测试显示,支持 CC 的设置可提供高达非安全配置 98% 的吞吐量,为平衡安全性和效率的企业提供了令人信服的权衡。
机密计算解决了人工智能推理过程中的数据隐私和模型完整性等关键问题。通过在芯片级嵌入硬件信任根,NVIDIA 可确保用于加密和证明的私钥在制造过程中安全融合,并且永远不会暴露给软件或主机系统。这种方法可以保护数据和专有模型权重免遭篡改和未经授权的访问。
它是如何工作的
NVIDIA CC 解决方案的核心是 NVIDIA 远程认证服务 (NRAS),它在执行之前验证工作负载的完整性。系统结合使用 GPU 硬件报告和 CPU 可信执行环境 (TEE) 测量,在允许部署敏感数据或模型解密密钥之前验证 AI 环境是否安全。重要的是,此证明过程仅在启动时发生,确保对运行时推理请求没有延迟影响。
对于多 GPU 设置,NVIDIA 实施了 NVLink 加密,可实现最多 8 个 GPU 之间的安全通信。结合 CC 安全自动调谐器和异步数据传输优化等创新,这些增强功能缓解了通常与安全 AI 推理相关的性能挑战。
性能基准
NVIDIA 使用其 Blackwell Ultra (HGX B300) GPU 和以 FP8 精度运行的 Qwen 3.5 模型测试了 CC。在一系列工作负载中,包括不同的令牌长度和并发级别,性能开销是最小的。例如,批量大小为 32,令牌输入/输出长度为 1024/1024 时,吞吐量影响仅为 -1.0%,而每个输出令牌的时间仅增加 -0.9%。即使在较高的并发水平下,开销仍然不大,增强了 CC 进行生产规模部署的潜力。
市场影响
引入硬件锚定的人工智能安全之际,企业和监管机构对安全人工智能操作的需求不断升级。最近的发展,例如意法半导体采用后量子加密技术的 ST54M 芯片(2026 年 6 月 24 日)以及英飞凌的 OPTIGA TPM 与 NVIDIA Jetson Thor 集成(2026 年 6 月 3 日),突显了人们对硬件支持的 AI 完整性解决方案的日益重视。
虽然可信平台模块 (TPM) 和 TEE 等单个原语已经成熟,但用于可扩展、安全 AI 的完全统一框架仍处于起步阶段。 NVIDIA 的 CC 是弥合这一差距的一步,为企业提供了近乎完整的解决方案来保护敏感数据并遵守 GDPR 和 HIPAA 等法规。
展望未来
随着人工智能在各行业的加速采用,对可靠、可扩展的安全解决方案的需求只会不断增长。 NVIDIA 的机密计算可以为安全 AI 工作负载设定新标准,特别是在企业面临着越来越大的保护数据和 AI 模型的压力的情况下。凭借最小的性能权衡和强大的硬件级保护,CC 能够很好地满足医疗保健、金融和自主系统等领域的需求。
对于有兴趣采用该技术的组织,NVIDIA 提供了广泛的资源,包括文档和集成指南,以促进部署。随着行业朝着完全安全、大规模生产的人工智能方向发展,CC 等解决方案将在塑造计算的未来方面发挥关键作用。
