OpenAI宣布,他们已经开始训练其新的“前沿模型”,并成立了一个新的安全与保密委员会。
该委员会由现任董事会成员Bret Taylor(OpenAI董事会主席和客户服务初创公司Sierra AI的联合创始人,以前是Google Maps的负责人和Facebook CTO)、Adam D’Angelo(Quora首席执行官和AI模型聚合应用Poe的创始人)、Nicole Seligman(前索尼公司执行副总裁兼全球总法律顾问)以及Sam Altman(现任OpenAI首席执行官和创始人之一)领导。
OpenAI在公司博客中写道:“OpenAI近期开始训练其下一代前沿模型,我们预期这些新系统将把我们带入通用人工智能(AGI)的下一个能力水平。尽管我们为构建和发布在能力和安全性上都领先业界的模型感到自豪,我们欢迎在这个重要时刻进行广泛的辩论。”
90天倒计时从现在开始
特别值得注意的是,OpenAI概述了这个新委员会在引导新模型开发中的角色,表示:“安全与保密委员会的首要任务是在接下来的90天内评估并进一步完善OpenAI的流程和保障措施。90天结束后,安全与保密委员会将向全体董事会提交他们的建议。全体董事会审查后,OpenAI将公开分享已采纳建议的更新,以符合安全和保密的原则。”
因此,可以合理地推断,无论新的前沿模型叫什么——无论是GPT-5还是其他什么名字——都不会在至少90天内发布,这样新的安全与保密委员会有时间“评估并进一步开发OpenAI的流程和保障措施”,并向“全体董事会”提交建议。
这意味着OpenAI的董事会应该在2024年8月26日之前收到新安全与保密委员会的建议。为什么是90天而不是更长或更短的时间?OpenAI并没有详细说明,但这个时间指标在商业中常用于评估和反馈流程,对于这样的评估期来说,是一个合理的选择——既不太短,也不太长。
新的安全委员会并非独立
这一消息立即引起了批评,一些人指出,新的委员会完全由OpenAI的“内部高管”组成,这意味着对公司的安全措施的评估不会是独立的。OpenAI的董事会,许多成员现在都在新的安全与保密委员会内,此前已成为争议的来源。
在2023年11月17日,OpenAI的非营利控股公司的旧董事会解雇了Altman的首席执行官职位以及他在公司的所有职责,仅在ChatGPT一周年的前五天,称他“与他们不一致”,结果却遭到了员工的坚决反对和OpenAI投资者,包括大支持者微软的强烈反对。
Altman最终在2024年11月21日恢复了OpenAI的首席执行官职位,而旧董事会则下台,由Bret Taylor、Larry Summers和Adam D’Angelo接替,微软加入作为无投票权的观察员。当时,董事会因全由男性组成而受到批评。今年3月8日,其他成员Sue Desmond-Hellmann(比尔和梅琳达·盖茨基金会前首席执行官)、Fidji Simo(Instacart的首席执行官和主席)、Seligman和Altman也被任命为新董事会成员。