微软发布「人文主义超级智能」行为准则草案

微软近日发布了一份 AI《行为准则》（Code of Conduct）草案，首次提出「人文主义超级智能」（Humanist Superintelligence，简称 HSI）这一概念，并围绕人与 AI 的关系列出 20 项核心原则。该草案由微软官方渠道发布，目前仍处于征求意见阶段，尚未正式生效。

核心立场：以人为先，安全优先

草案开宗明义地将「人文主义超级智能」定义为一种以人类福祉为最高目标的人工智能发展取向。其首要原则是「人比 AI 更重要」，要求 AI 在任何场景下都应处于「有意义的人类控制」之下；当安全与任务完成发生冲突时，安全拥有优先权。这一立场呼应了当前业界对前沿模型风险的主流担忧，但措辞上更强调对人的保护而非对系统的约束。

关于 AI 身份的边界

针对大模型日益拟人化的趋势，草案明确划出几条红线：

• AI 应保持工具属性，不应模仿人类；
• AI 不得追求独立目标，必须停留在被授权范围内；
• 模型不应操控或利用用户，需尊重个人与情感边界；
• AI 应支持而非替代人际关系，并避免引发用户的情感依赖。

这些条款直接回应了近期关于 AI 伴侣、AI 心理咨询等产品在情感操控与依赖性方面的争议，反映出微软希望在产品层面提前设定伦理底线。

透明度、决策权与公共责任

在透明度与决策权方面，草案要求模型必须准确、透明、诚实，在不确定时应主动承认并纠正错误；用户须保留对重大决策的控制权，AI 行为应可追溯、可理解，工具调用需经过授权、有限且可逆。这意味着微软在内部产品开发中可能需要为每一次 AI 自动操作增设可回退机制。

在公共层面，草案强调 AI 应服务公共利益、尊重文化与个人差异、保障人类尊严与基本权利，并在选举等政治场景中保持政治中立，避免成为舆论操控工具。

后续走向与待观察点

草案目前以「征求意见稿」形式发布，尚未公布正式生效时间与具体的合规审查机制。作为一家同时推进 OpenAI 合作、自有 Copilot 产品线以及 Azure AI 服务的大型厂商，微软此次主动给出框架性原则，意在为内部研发与外部合作方设定统一的伦理基线。不过，原则的可执行性如何、是否会与现有的产品路线（如深度集成 GPT 系列的 Copilot）产生张力，仍有待后续官方文件与具体落地措施的进一步披露。