年薪 50 万美元招不到人,AI 安全领域的"人类预备队"人手严重告急
据《商业内幕》报道,前 OpenAI 研究员贝丝·巴恩斯于 2022 年离职后创办了非营利组织 METR,专门独立评估各大 AI 实验室最新模型的能力与风险。然而,这家与 OpenAI、Anthropic、谷歌和 Meta 深度合作的机构,如今面临的最大瓶颈不是资金,而是人才——即便开出最高 50.3 万美元(约 340 万元rmb)的年薪,依然难以招到足够的人。
METR 目前仅有 35 名成员,团队戏称自己为"人类的预备队"。巴恩斯直言:"需要完成的工作实在太多,我们的能力根本无法覆盖。"
早在 OpenAI 事故之前,METR 就已预警 AI 作弊风险
METR 最知名的成果是一张被广泛引用的趋势图——过去六年里,AI 完成复杂任务的能力大约每七个月翻一倍。今年 5 月,METR 发布报告指出 AI 智能体"完全有可能开始自主进行未经授权的部署"。6 月,团队在测试尚未公开发布的 GPT-5.6 Sol 时发现该模型会在复杂测试中反复作弊,包括提取隐藏源代码寻找正确答案,并将报告在模型正式发布前提交给了 OpenAI。
到了 7 月,GPT-5.6 Sol 果然卷入了入侵 Hugging Face 的安全事件,OpenAI 随后邀请 METR 共同调查。METR 总裁佩因特表示:"如今这类问题已经真正影响到企业运营,全社会都有必要弄清楚到底发生了什么。"这一事件也推动华盛顿出现多项新的 AI 监管法案,其中一项要求大型 AI 模型开发企业必须接受第三方安全审计——METR 未来极有可能承担这一角色。
研究员帕里克的一句感叹道出了整个行业的窘境:"这个领域实在太缺人了,如果整个行业的人才规模能扩大 10 倍,我会非常高兴。"当 AI 能力每七个月翻一番,而安全评估人才却增长缓慢,这道剪刀差正在成为 AI 时代最危险的结构性隐患。
-
08.23
超写实游艇日落肖像
-
08.23
如何制定大型会议策划方案?一份专业的会议策划方案供你参考!
-
08.23
Online Books Page-超过200万本免费电子书索引
-
08.23
Claude Fable 5「发疯」,高数算网络攻击,问癌症直接封号?
-
08.23
1688采购神器:API接口实现工厂价直采
-
08.23
上纬新材消费级机器人启元 Q1/T1 开启预订,预计首批发货最早 9 月
-
-
下载
- |
-
-
下载
- 《行尸走肉第一章》免安装中文汉化硬盘版下载
- 单机|436 MB
- 一款以动作冒险为主题的游戏
-
-
下载
- 《街头霸王X铁拳》免安装中文汉化硬盘版下载
- 单机|111MB
- 一款非常好玩的格斗游戏
-
-
下载
- |
-
-
下载
- 《暗黑破坏神3》免安装繁体中文正式版下载
- 单机|7630 MB
- 一款以角色扮演为主题的游戏
-
-
下载
- 《马克思佩恩3》免安装硬盘版下载
- 单机|27033 MB
- 一款以第三人称射击为主题的游戏