复旦 WAIC 发布 AI 伦理别册：让人放心、把人放大

2026 年 7 月 17 日，在上海举行的 2026 世界人工智能大会（WAIC）「人工智能全球治理与可持续发展」论坛上，复旦大学科技伦理与人类未来研究院正式发布报告《超级智能时代的风险转变与伦理应对》的别册《放心与放大：智能向善的双重维度》，试图为智能社会的 AI 伦理提供一套完整的框架。

别册的核心概念「让人放心，把人放大」源自腾讯研究院 2026 年 2 月的文章《AI 要让人放心，把人放大》，别册则分别从制度底线与规范边界两个角度对这一理念进行了系统论述。

别册提出的问题背景

报告指出，AI 已被视为继蒸汽机、电力、信息技术之后的第四次工业革命核心引擎，首次将赋能范围从体力劳动延伸至符号处理、逻辑推理与复杂决策等核心认知领域。生成式 AI 的规模化应用被国际机构测算为有望每年带来万亿美元级新增价值。与此同时，以 GPT-4 为代表的大模型已展现出跨学科、多模态的通用问题解决能力，被学界视为 AGI 时代来临前的早期火花。

技术能力的指数级跃迁伴随着三组典型风险：

• 认知不透明性：算法决策依据难以被相关主体理解。
• 算法权力失衡：高风险场景中归责与权益救济存在结构性困境。
• 人类主体性弱化：技术深度介入决策与意义建构过程。

报告引用《全球风险报告 2026》和约书亚·本吉奥主持的《2026 国际 AI 安全报告》等权威来源，指出 AI 风险已是所有风险中跨期上升幅度最大的领域，AGI 新型风险可分为恶意使用、故障性和系统性三类。

「让人放心」的伦理内涵

报告将「让人放心」界定为一种关系性的规范状态，而非单纯的技术性能集合，其内涵由三个相互支撑的要素构成：

• 可理解性：关键判断能够以可被相关主体把握的方式呈现其依据与边界，但不要求完全透明。
• 可介入性：人在关键节点拥有提出异议、请求复核或中止流程的权利，体现为人机关系中的最终裁决权安排。
• 可追溯性：当实际损害发生时，责任链条、权责分配与纠错机制能够被识别与启动。

报告援引欧盟实践中正在形成的「多层治理机制」（Multi-layered governance approach）和分布式责任（Distributed Responsibility）理念，认为在医疗、金融等高风险 AI 场景中，应通过设计实现可解释性，将责任链条拆解并前置。

「把人放大」的规范边界

报告对「把人放大」提出了三层相互支撑的限制：

• 人的主体性优先：技术应被限定为服务于人类目的的手段，而非重塑目的结构的主导力量。
• 能力不退化：增强应当扩展人的行动与认知能力，但不能以削弱判断与反思能力为代价，否则将形成「增强—退化」的结构性悖论。
• 价值不降格：防止技术实践过度把人当作数据原料或计算节点，在制度层面保留人的尊严地位。

在精神层面，报告警示当算法系统过度依赖情感价值的优化来驱动用户行为时，个体的意义建构能力可能被优化逻辑覆盖，导致主体性的深度消解。

理论框架：从「连续论」到「技启」

报告的理论分析包含两个核心概念：

• AI 连续论与断裂：主流叙事将 AI 发展视为稳定的能力累积，但系统从执行型工具转向具备目标推断与策略选择能力的智能体后，行为逻辑已发生质的改变；技术介入开始进入理解方式、决断过程与意义建构，关系正当性问题取代单纯的技术评估。
• 技启的双重结构：技术介入认知形成与决断生成过程本身，呈现「许诺—代价」并存的双重结构，且代价具有时间不对等（收益先显、代价后显）、内容不对等（触及主体性深层结构）、可见性不对等（设计方、运营方与使用方识别能力存在结构性差距）三重特征。

报告由此认为，仅靠结果评估不足以回应风险，需要建立过程性识别与制度化纠偏机制。

双重规范的相互关系

报告最后强调，「让人放心」与「把人放大」必须同时成立，不能偏废：

• 缺少「放心」条件的「放大」，可能形成高效但申诉能力不足的技术秩序。
• 缺少「放大」目标的「放心」，可能形成低风险但能力受限的保守治理。

二者结合，方能在超级智能时代既维持可被证明的信任条件，又使技术增强指向人的能力扩展而非主体性削弱。