OpenAI将组建新团队 以评估和减轻与人工智能相关的灾难性风险

10月27日消息,据外媒报道,当地时间周四,美国人工智能研究公司OpenAI宣布,它将组建一个名为Preparedness的新团队,以评估和减轻与人工智能(AI)相关的“灾难性风险”。

OpenAI表示,该团队将由麻省理工学院可部署机器学习中心主任亚历山大·马德里(Aleksander Madry)领导,将帮助跟踪、评估、预测和防范由人工智能造成的多个类别的灾难性风险。

该公司还表示,该团队还将负责制定和维护风险知情发展政策(RDP)。RDP旨在补充和扩展该公司现有的风险缓解工作,有助于在部署前和部署后确保新的高性能系统的安全性和一致性。

OpenAI是由特斯拉CEO埃隆•马斯克(Elon Musk)、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得·蒂尔等硅谷科技大亨于2015年联合创立的一家美国人工智能研究公司,主攻人工智能技术应用领域。

该公司CEO萨姆•奥尔特曼(Sam Altman)是一位著名的人工智能末日预言家,他经常担心人工智能“可能导致人类灭绝”。

据外媒报道,奥尔特曼曾警告过人工智能可能引发灾难性事件。今年5月,他和其他著名的人工智能研究人员发表了一份声明,称“减轻人工智能带来的灭绝性风险应成为全球优先事项”。

今年9月份,OpenAI宣布推出“红队网络”(Red Teaming Network),并邀请各领域专家加入其“红队网络”,以提高其人工智能模型的安全性。签约的专家将通过协助评估和减轻模型风险,在增强OpenAI人工智能系统的稳健性方面发挥关键作用。(小狐狸)

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

赞助商
2023-10-27
OpenAI将组建新团队 以评估和减轻与人工智能相关的灾难性风险
当地时间周四,美国人工智能研究公司OpenAI宣布,它将组建一个名为Preparedness的新团队,以评估和减轻与人工智能相关的“灾难性风险”。

长按扫码 阅读全文