从开源之争到 AI 之争:闭源趋势正在重演知识封闭
一位曾在 MIT 与斯托曼共事多年的工程师指出,当前 AI 前沿模型正走向全面闭源,开放替代品稀缺,呼吁在突破尚未到来之…
一篇在 Hacker News 上引发讨论的长文,将 1980 年代自由软件运动与当下 AI 前沿模型的开放之争做了直接对照。文章作者自称曾在 MIT 人工智能实验室工作多年,与理查德·斯托曼(Richard Stallman)比邻而坐,就软件是否应当自由共享进行了长达两年的反复辩论。作者承认,最初他秉持当时的主流观点,认为企业保留专有控制才能推动软件进步,但最终被斯托曼说服:软件不只是一项商业资产,更是一套知识体系,而知识在被分享时反而会变得更强。
开源运动的遗产
斯托曼将这一信念转化为一场运动:任何人都有权研究、修改并再发布自己使用的软件。这一理念孕育了 GCC 编译器,以及由全球数千名贡献者共同维护的 GNU/Linux 操作系统。文章指出,今天互联网大部分基础设施都运行在开源软件之上,而成功商业公司则是在这个开放核心之上叠加服务来获利。
针对当年「安全需要靠代码保密来保障」的论点,作者援引了开源阵营的反驳:透明度能让全球开发者社区发现并修复问题,而封闭只能寄望于没人去深究。事实证明,开源在安全性上赢得了这场辩论。更深远的影响在于,开源社区本身就是一代工程师的「教科书」:一个封闭的系统几乎无法培养任何后来者。
当下的 AI 走向封闭
文章的核心关切落在 AI 领域。作者写道,AI 是软件,但 AI 正变得越来越封闭。最先进的前沿模型几乎完全闭源,并且这一趋势在加速;真正可用的开放替代品凤毛麟角。问题在于,AI 科学本身仍处于早期,今天的模型虽然出色但远未成熟,最关键的突破尚未到来。在这一节点关闭整个领域,与知识共享最需要开放的时机恰好相反。
闭源 AI 带来的知识风险
文章进一步指出,AI 已经成为「未来的图书馆」。如果少数公司买下所有图书馆、决定人们能读哪些书,并在无人察觉时改写内容,社会不会容忍;但闭源、可控的 AI 正是这样一种「只能按所有者规则进入」的图书馆。更深层的风险在于,当少数公司决定模型能做什么、不能做什么,并悄悄影响其答案时,依赖模型的医生、工程师、法官乃至普通人都无法真正理解自己得到的结果。
作者还区分了「解释」与「审计」:模型事后给出的解释只是一个合理化的故事,并非产生答案的真实计算记录。同样的问题明年可能得到不同答案,而用户无从知晓是世界变化了还是厂商改了模型。
安全性论点并非定论
针对「AI 太危险、不应开源」的常见反对意见,作者承认这一论点值得认真对待——它确实不像发表论文那样只是描述一种能力,软件本身就承载了能力。但文章认为结论并不成立:如果危险性足以否定开源,那么任何已发表的科学成果都可能落入错的手中,然而科学界并未因此放弃开放。最后,作者尚未将这一段的完整论述写完便在「we don't respo…」处截断,整体立场偏向呼吁在 AI 领域延续开源传统。
