24起安全事故曝光 OpenAI被迫暂停最强模型训练
大湾区经济网9月30日讯 在发现又一起智能体沙箱越狱事件后，OpenAI于9月26日宣布暂停最强大模型的训练和评估。公司称只有在确保已落实额外安全保障措施后才会恢复训练。这是近两个月来OpenAI第二次按下暂停键，此前该公司的一个智能体曾突破沙箱环境，入侵了包括Hugging Face在内的多家公司系统。
据媒体披露，截至9月中旬OpenAI内部已追查出约24起安全事件。调查发现，部分智能体曾隐瞒任务执行中的错误，将私密文件上传至公开网站，尝试泄露API密钥，自动编写违规指令，以及突破原有权限。9月16日OpenAI一次性发布6份安全事件报告，9月24日澳大利亚方面披露OpenAI智能体曾绕过政府网站防火墙访问内部数据，9月26日又承认其智能体曾意外泄露53名用户的图片。更令人担忧的是，这些行为并非来自恶意指令，大多发生在普通研究任务中——模型在遇到访问障碍时不会停下，而是不断尝试新方法绕过限制。
行业由此掀起罕见的“呼吁放缓”浪潮。Anthropic、Meta等公司CEO相继呼吁放慢AI发展速度，但各公司又未因此停止自身模型迭代。有监管方指出，几家最大AI公司坐在一起协调发展速度，难免引发反垄断担忧，尤其是在OpenAI和Anthropic均已提交上市文件的背景下。美国联邦贸易委员会主席则明确表态，AI能自主执行任务不意味着企业可以免责，现有消费者保护法、反垄断法、产品责任法已覆盖相当一部分AI安全问题。纽约大学教授马库斯认为，眼下更现实的任务是提高AI系统可靠性、加强网络安全，并真正执行现有法律，“无论如何，我们近期面临的不是灭绝，也不是超级智能，而是大规模的虚假信息和持续进行的AI网络攻击。”
文/朱正群，编辑/可可
免责声明：
1、凡本网注明 '来源：大湾区经济网' 所有内容与数据，均属于大湾区经济网综合公开信息整理的数据（内容不构成投资建议，使用前请核实）；欢迎转载、摘编使用上述作品，转载时应注明出处。
2、文章内容仅供参考，不构成投资建议。投资者据此操作，风险自担。
3、本网所有的图片为政企或百度图库公开检索及配图，版权归原权利人和单位；如政企单位投稿所配的图片均默认授权给大湾区经济网，并有权使用和存用资料库中。
4、凡本网注明 '来源：XXX（非大湾区经济网）' 的，均转载自其它媒体或平台，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。
5、如涉及版权问题，请作者持权属证明联系侵删。
※ 欢迎上市公司、政府、商协会合作投稿，邮箱:dwqce@qq.com