AI 监控进入美国校园:安全、隐私与公平的多重争议
全美学校大规模部署 AI 监控工具,但研究显示其在低收入与少数族裔学校更普遍,且缺乏可靠性证据,引发公平与执法过度风险。
美国校园正在大规模引入 AI 监控工具,从走廊里的武器识别摄像头,到能「听声辨危」的卫生间监听设备,再到用学生成绩预测「未来犯罪倾向」的算法系统。然而,这些工具往往缺乏可靠性验证,且在不同学校之间部署极不均衡,由此引发的安全、公平与执法越界风险,正在成为教育与公共政策领域的热点议题。
校园里的 AI 监控长什么样
目前的校园 AI 监控手段相当多样,远不止传统摄像头。一些学校在卫生间安装了 Motorola 出品的音频监测设备,用于实时识别枪声、呼救等异常声响,并声称不存储录音。然而据 Forbes 报道,曾有学生破解此类设备,把它变成实时窃听器、关闭检测功能,甚至伪造枪击警报。Motorola 随后通过更新修补了漏洞,但这一事件让「安全」与「监控」之间的边界变得更加模糊。
更受争议的是预测性执法实践。佛罗里达某学区曾将学生的成绩、出勤数据共享给当地警方,由算法生成一份「潜在未来犯罪者」名单——即便这些学生并未有任何违规行为。算法基于其学业与考勤记录给出风险分,把他们标记为「高风险青少年」。在当地 30 个地方、州与全国性组织的反对下,学区最终终止了数据共享协议。
部署不均与系统偏见
研究显示,这类系统并非均匀地铺开。尽管许多富裕学校也在采用监控技术,但新兴研究表明,AI 监控更集中出现在规模较大、城市化程度较高、少数族裔与低收入学生比例更高的学校中。这意味着一部分有色人种学生面临更高密度的数字监控。
这种不均衡本身就会带来风险。佛罗里达使用的「预测式警务」工具尤其容易制造「自我应验的预言」:当一个孩子被标记为「未来潜在犯罪者」,警察与他的互动方式会随之改变;这些互动反过来可能加剧学生对警察的不信任、与社会的疏离,甚至强化系统原本试图预防的行为。更关键的是,相关算法往往基于反映既有系统性偏见的历史数据进行训练,导致有色人种学生更容易被标记为「高风险」,遭受更密集的执法干预。
在安全与信任之间寻找平衡
承认校园安全的重要性是讨论的前提。一项面向中学生的近期调查显示,仅 37% 的黑人学生与 40% 的西班牙裔学生认为自己「在学校免受暴力威胁」,而白人学生的这一比例为 53%。在性侵、校园枪击、霸凌等真实威胁面前,学校管理者面临巨大的预防压力,而监控厂商也迅速推出技术解决方案——许多工具正是校园枪击事件后的产物,例如 AI 枪支检测软件 ZeroEyes 便是 2018 年此类悲剧背景下创立的。
不过,专家与权益组织普遍认为,单靠「更多监控」并不能解决问题。要在校园安全与学生信任之间取得平衡,关键在于:要求厂商提供独立、可验证的技术可靠性证据;建立透明的算法与数据使用机制;让教师、家长与学生真正参与决策过程。换句话说,监控工具可以被讨论,但前提是它的有效性、公平性与边界都被摆在阳光下接受审视。
