OpenAI 前超级对齐领导人抨击公司忽视安全治理

2024年 5月 20日 81.9k 0

上周,OpenAI 超级对齐(Superalignment)团队的两位联合领导人--前首席科学家 Ilya Sutskever 和 Jan Leike 双双在数小时内宣布从公司辞职。

此后,美国《连线》杂志报道称,在两位联合负责人离职后,OpenAI 的超级对齐团队据说已经解散。

团队的一位知情人士透露,OpenAI 曾承诺超级对齐团队可以使用公司 20% 的计算资源。但事实却是,尽管他们只申请了其中一小部分计算资源,也会经常遭到拒绝,从而导致团队工作无法开展。

紧接着,Leike 在个人 X 账户上发布了一长串信息,公开阐述了辞职的一些原因。

“相当长一段时间以来,我一直与 OpenAI 领导层关于公司核心优先事项的意见存在分歧,直到我们最终达到了一个爆发点。

我认为,我们应该把更多的精力用于为下一代模型做好准备,包括安全性、监控、准备、安全、对抗鲁棒性、(超级)一致性、保密性、社会影响以及相关主题。这些问题都很难解决,我担心我们还没有步入正轨。

在过去的几个月里,我的团队一直在逆风航行。有时,我们为计算而苦苦挣扎,要完成这项至关重要的研究越来越难。”

他谴责 OpenAI 及其领导层在过去的几年里已经逐渐忽视了“安全性”,更加关注所谓的“shinyproducts”。

并强调,为了确保 AGl 能够造福全人类,我们必须认真对待 AGl 的影响,尽可能优先的做好准备。“OpenAl 必须成为一家安全第一的 AGl 公司。”

OpenAI 前超级对齐领导人抨击公司忽视安全治理-1

在 Leike 发帖数小时后,OpenAI 首席执行官 Altman 转帖回应表达了对 Leike 所做贡献的感谢。并表示,“他说得没错,我们还有很多事情要做;我们致力于完成这些工作。在接下来的几天里,我将会发布一篇更长的帖子。”

OpenAI 前超级对齐领导人抨击公司忽视安全治理-2

相关文章

塑造我成为 CTO 之路的“秘诀”
“人工智能教母”的公司估值达 10 亿美金
教授吐槽:985 高校成高级蓝翔!研究生基本废了,只为房子、票子……
Windows 蓝屏中断提醒开发者:Rust 比 C/C++ 更好
Claude 3.5 Sonnet 在伽利略幻觉指数中名列前茅
上海新增 11 款已完成登记生成式 AI 服务

发布评论