Cohere 介绍机密计算能力：端到端加密推理与 GPU 硬件隔离

AI 企业 Cohere 近日通过官方 X 账号介绍了其机密计算（Confidential Computing）能力，主张通过三项机制确保用户数据在推理过程中不被追踪或滥用。这是 Cohere 在企业级 AI 安全与合规方向上的一次系统性表述，面向关注数据主权与隐私保护的客户群体。

三道防线：从加密到硬件再到可验证证明

Cohere 将其方案概括为三层防护，具体包括：

端到端加密推理（End-to-end encrypted inference）：数据在传输与处理过程中均处于加密状态，降低链路中被截获或泄露的风险。
硬件级隔离延伸至 GPU：与英伟达（NVIDIA）的机密计算能力集成，将隔离边界从 CPU 扩展到 GPU，确保模型推理过程中敏感数据不被外部访问。
可验证签名证明（Signed Attestation）：用户可随时向平台请求签名证明令牌，并独立对照硬件厂商的公钥进行核验，确认运行环境确实符合安全承诺。

强调「数据由用户掌控」

Cohere 在文末以「Your data under your control」（数据由你掌控）为收束语，将此次发布定位为面向企业级客户的数据主权承诺。在生成式 AI 加速进入金融、医疗、政府等强合规行业的背景下，推理阶段的端到端加密与可验证硬件证明，正在成为大模型厂商竞争企业市场的关键差异点之一。

仍待补充的技术细节

目前 Cohere 仅以要点形式披露能力概览，尚未公开具体的性能开销、加密协议栈、支持的模型范围、与 NVIDIA Hopper / Blackwell 等不同代次 GPU 的兼容情况，以及面向自托管客户与 API 客户的差异。对于希望评估其在实际工作负载中影响的企业用户而言，后续是否提供更细粒度的技术白皮书与基准数据，将是判断该方案成熟度的关键。