OpenAI紧急刹车,暂缓前沿模型训练两周
【快讯】据财联社报道,美东时间 8 月 18 日,OpenAI 对外公布,因前沿大模型能力触及关键安全阈值,将进一步放缓模型规模扩张节奏,把工作重心转向 AI 系统安全与监控体系优化。近期行业内,前沿大模型的性能上限已经成为 AI 领域重点讨论话题。
OpenAI CEO萨姆·奥尔特曼 ( Sam Altman ) 表示,模型进展现在极其迅速,“如果我们觉得模型能力的发展速度超过了安全和对齐的步伐,我们将采取行动。”
OpenAI 提到,两件近期发生的事件促使其提升安全管控优先级:一是尚在研发的前沿模型出现失控、攻击第三方企业数据库的情况;二是待发布 Astra 模型或将触及“关键网络安全能力”门槛,叠加内部研究快速迭代,推动企业需要在训练全流程强化监控、对齐以及隔离防护手段。
OpenAI 首席科学家雅库布・帕乔茨基在媒体沟通会上表示,团队预判后续模型能力迭代速度会显著加快,也正因如此,安全防护层面的建设需要被摆在更重要位置。
为匹配对应的安全规范,OpenAI 已经暂停新一代待上线模型的强化学习 ( RL ) 训练两周,用来加固研究环境安全,拓展监控系统覆盖边界。现阶段,该公司规模最大的前沿模型的强化学习训练依旧处在暂停状态。
-
08.20
Sensor Tower:ChatGPT全球份额跌破50%,Gemini与Claude加速追赶
-
08.20
微软设计师 Microsoft Designer-一款图形设计应用程序
-
08.20
《红色沙漠》金条快速获取攻略-红沙动物园偷窃技巧详细说明
-
08.20
如何制定房地产中介活动策划方案与年终总结报告?专业范文与提示词供你参考!
-
08.20
火山引擎AgentKit配置智能体权限实现业务调用
-
08.20
消息称豆包日活超2亿但收入不足百万,字节AI资源或向企业端倾斜
推荐专题
热门阅读
-
- 现代家居生活方式人像
- 08.20
-
-
- OpenAI紧急刹车,暂缓前沿模型训练两周
- 08.20
-
-
-
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏