AI安全警示：全球专家呼吁暂停大模型竞赛

国际非营利机构Future of Life Institute于2023年3月29日发布公开信，已获3000余人签名支持，包括Tesla CEO Elon Musk、Yann LeCun等AI领域权威。核心诉求明确：所有AI实验室立即暂停训练超过GPT-4能力级别的模型至少6个月，并推动建立全球统一的安全协议与治理框架。

安全关切：失控的模型研发竞赛

公开信指出，当代AI系统已开始在通用任务上达到人类水平竞争力，但its rapid development lacks adequate safety oversight. 关键风险包括：信息渠道被AI生成的虚假信息淹没；自动化导致人类工作大规模消失；以及可能出现难以预测、无法控制的智能体。信中引用《Asilomar AI原则》强调：“先进AI可能代表地球生命史上的深刻变革，须以相应谨慎与资源进行规划管理。” 实际情况是，目前的规划与管理水平远未达到所需级别，实验室陷入不可控的研发军备竞赛，甚至开发者自身也无法理解、预测或可靠控制最新模型。

法规与治理：亟待构建新框架

公开信提出系统性建议：首先，暂停必须为公开且可验证，涵盖所有关键参与者；若无法快速达成自愿暂停，各国政府应介入实施禁令；其次，AI实验室与独立专家应联合制定并实施严格的安全协议，确保模型"超出合理怀疑的安全性"；第三，呼吁大幅加速AI治理体系建设，具体包括：设立专门AI监管机构；追踪高能力AI系统与大型算力池；发展内容来源追踪与数字水印技术；建立审计认证生态；明确AI致害责任归属；增加AI安全技术研究公共投入；以及建立足够资源的机构应对AI引发的经济与政治冲击。

平衡发展：聚焦现有模型优化

公开信特别澄清，暂停不等于停止所有AI研究，而是从"盲目追求更大、更不可预测的黑箱模型"转向更负责任的方向。AI研发应重新聚焦于让现有先进系统变得更准确、安全、可解释、透明、鲁棒、对齐人类意图、可信赖且忠诚。这体现一种务实路径：在享受当前AI技术红利的同时，为社会适应争取时间窗口。

读者建议

• 开发者与企业：若当前使用前沿模型进行实验或部署，应评估其风险敞口，优先考虑使用已有成熟安全机制的模型，暂缓升级至未经验证的超级模型。
• 企业和政策制定者：宜加速制定内部AI使用规范与应急预案，并关注监管机构动向，为即将到来的监管框架做好准备。
• 研究人员：可利用暂停窗口期深入参与安全协议讨论，或转向模型可解释性、鲁棒性等安全相关研究方向。

写在最后

公开信并非技术悲观主义，而是对技术潜力的负责任表达。类比人类曾暂停克隆、基因编辑等高风险技术以建立规范，AI领域同样需要以审慎换取可持续发展——我们应追求长期而非短期的"AI长夏"。