OpenAI安全团队升级授予其董事会否决危险AI的权力

2023-12-20 16:03:37 编辑：吴子承来源：

导读当地时间12月18日，OpenAI在官网表示，正在扩展内部安全流程，以抵御有害人工智能的威胁。本次更新很大程度，是因为之前该公司首席执行官山

当地时间12月18日，OpenAI在官网表示，正在扩展内部安全流程，以抵御有害人工智能的威胁。本次更新很大程度，是因为之前该公司首席执行官山姆奥特曼被董事会霸着的一个缘由似乎与大模型安全问题有关。在发布的内容当中，该公司对于最新的“准备框架”也做了相关的解释。即OpenAI跟踪、评估、预测和防范日益强大的模型带来的灾难性风险的流程。

本次公司革新之后，“新安全顾问小组”将会位于技术团队之上，向领导层提出建议，并且董事会被授予否决权。在开发中的前沿模型有准备团队，该团队会在模型发布之前识别和量化风险，然后是超级对齐团队，正在研究超级智能模型的理论指南。OpenAI根据4个风险类别对每个模型进行评级：网络安全、说服、模型自主性以及CBRN。

标签：

免责声明：本文由用户上传，如有侵权请联系删除！