7月6日消息,当地时间 7 月 5 日,ChatGPT 的开发者 OpenAI 表示计划投入更多资源并成立新的研究团队,研究如何确保 AI 对人类的安全性,最终实现用 AI 来监督 AI。
据新浪科技报道,OpenAI 联合创始人伊利亚・苏茨凯弗(Ilya Sutskever)和 AI 对齐负责人简・莱克(Jan Leike)在官方博客中表示:“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前,我们还没有解决方案来操纵或控制一个可能的超智能 AI,并防止其变成无赖。”
这篇博文预测,超智能 AI,即相比于人类更智能的系统,可能会在未来 10 年中出现。人类需要比目前更强大的技术来控制超智能 AI,因此需要在“AI 对齐研究”方面取得突破,确保人 AI 对人类持续有益。
AI 对齐是 AI 控制中的主要问题,即要求 AI 的目标和人类的价值观与意图保持一致。
作者写道,OpenAI 将在未来 4 年内,将算力的 20% 专门用于解决这方面问题。此外,该公司将组建新的“超对齐”团队来组织这方面的工作。团队的目标是开发达到“人类水平”,由 AI 驱动的对齐研究员,随后通过庞大的算力推动其发展。
OpenAI 表示,这意味着将使用人工反馈来训练 AI 系统,通过训练 AI 系统来协助人工评估,最终训练 AI 系统来进行实际的对齐研究。
- 蜜度索骥:以跨模态检索技术助力“企宣”向上生长
- AI大模型集体上车:是新时代的号角还是厂商的自嗨
- SK海力士将建新厂 提升HBM产能以应对AI领域高速增长需求
- 携手伙伴,昇思MindSpore开源社区斩获第三届中国国际软件发展大会三项荣誉
- “一键消除衣服”引争议 实测“百度AI图片助手”
- 洛杉矶用AI预测无家可归人群
- 百度搜索上线“AI图片助手”可在线修图 我们试了一下
- 台积电亚利桑那州第二座晶圆厂制程工艺升级至2nm 是为AI相关强劲需求
- 消息称苹果和OpenAI已重新开始谈判 寻求将生成式AI引入iOS 18
- 声网发布RTC+AI教育超级双擎解决方案 适用直播大班课等场景
- 微软张祺:聚焦AI大航海时代的新契机
免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。