Featured image of post AI安全争议升温,三位先驱为何仍主张保持开放

AI安全争议升温,三位先驱为何仍主张保持开放

开放模型之争折射AI治理与竞争格局。

核心事件

核心事件

在拉斯维加斯 Ai4 大会上,Geoffrey Hinton、李飞飞和 Andrew Ng 围绕 AI 监管、开放权重模型与中美竞争展开讨论;尽管三人对策略并不完全一致,但都反对让少数大公司垄断 AI 的发展路径。

这场讨论发生在 AI 安全担忧持续升温之际。部分安全项目希望通过大型实验室来约束前沿研究,而开放权重模型因可被免费下载、再训练和改造,成为行业争议焦点。开放权重指公开训练后模型的参数,而不一定公开训练代码、数据或完整工程流程;它不同于传统开源软件,后者通常开放代码,便于外部审查和修复漏洞。

开放与风险的分歧

三位研究者的共同担忧是“守门人”效应:如果少数公司掌握先进模型入口,就可能像移动操作系统生态中的平台方一样,影响开发者能构建什么、用户能接触什么。Ng 明确反对 AI 领域出现 gatekeepers,主张维持多个模型和公司之间的竞争,让 AI 更广泛可及。

Hinton 的态度更谨慎。他支持开源软件,但反对将大型基础模型的权重直接公开,因为训练基础模型成本很高,而拿到权重后,攻击者可能以低得多的成本微调模型,用于网络攻击等恶意用途。不过他也承认,开放权重模型已经成为现实,阻止其扩散的“战斗”基本结束,训练成本这一门槛正在消失。

关键事实包括:

  • 讨论地点:拉斯维加斯 Ai4 大会;
  • 参与者:诺奖得主 Hinton、World Labs CEO 兼联合创始人李飞飞、Coursera 联合创始人 Ng;
  • 核心争点:开放权重、监管、美国竞争力与中国模型扩张。

竞争、软实力与“非二元”治理

Ng 将开放问题进一步放到全球竞争中。他认为,AI 是一种软实力来源;如果中国开放权重模型在亚洲、非洲或发展中世界更广泛普及,就可能影响数十亿人接触民主、自由和人权等观念的方式。其判断重点不只是安全,还包括成本:谁能以更低成本构建和分发模型,谁就拥有商业采用优势。

李飞飞则反对把问题简化为“完全开放”与“完全封闭”的二选一。她以核物理作类比:科学论文可以公开,铀等关键材料受到监管,实验室活动则处于中间地带。她还提到人类基因组计划,认为公共与私人机构合作形成的知识平台,既能让企业获利,也能推动科学和社会受益。

在她看来,AI 应被视作一种基础设施:科学发现、教育和全球合作需要一定开放度,创业者也需要可持续商业模式,同时社会可以接受某些闭源系统。真正的问题不是只允许一种模式,而是为生态不同层级设计不同开放程度。

监管共识与行业走向

尽管分歧明显,三人都承认 AI 需要监管。Hinton 强调,监管的目标应是引导 AI 帮助人类,而不能把决定权完全交给少数科技企业领袖。他同时认为,担忧 AI 可能带来的负面影响并不等同于散播恐慌;AI 仍可能提升生产力、改善教育和医疗,但风险讨论必须被认真对待。

行业层面看,开放模型之争已不只是技术路线选择,而是安全治理、市场结构和地缘竞争的交汇点。未来更可能出现分层监管:基础研究保持较高开放度,模型权重和高风险用途接受更细规则,商业平台则在闭源与开放之间寻找平衡。对普通开发者和企业而言,开放生态仍会降低试用与创新门槛;但随着模型能力提高,围绕用途、责任和访问控制的制度化约束也会同步增强。