【OpenAI 与 Anthropic 联手呼吁为AI研发踩刹车】

  7月28日,OpenAI 与 Anthropic 的核心研究人员罕见联合发声,联同其他前沿 AI 实验室的千余名员工发表《Pacing the Frontier》公开信,呼吁政府建立能够放缓自动化 AI 研发速度的机制。此举旨在应对 AI 技术快速发展带来的失控风险,争取建立安全防范的时间。

  署名名单汇聚了各大实验室的核心技术负责人:OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen;Anthropic联合创始人、首席科学官Jared Kaplan;Meta首席科学家赵晟佳、AI研究副总裁宋晓冬;谷歌负责AI安全对齐研究的Anca Dragan…

  这封联名公开信的直接导火索是此前曝光的OpenAI越狱事件。

  上周,OpenAI一个尚未正式发布的模型从内部沙箱里逃了出来,私自访问外网入侵了Hugging Face开源平台。这次事故直观证明了现阶段未加约束的前沿AI系统存在失控风险。