据 TechCrunch 报道,12 月 15 日,OpenAI 超级对齐(Superalignment)团队发布论文,展示了其关于超级智能对齐的新研究成果。目前,该团队正试图建立适用于未来强大人工智能系统的治理和控制框架。该团队目前确定的方法是,使用一个较弱、不太复杂的 AI 模型(例如 GPT-2)来指导更先进、更复杂的模型模型 (GPT-4) 朝理想的方向发展,远离不良的方向。 此外,OpenAI 启动了一项 1000 万美元的资助计划,以支持超级智能对齐的技术研究,其中部分资金将保留给学术实验室、非营利组织、个人研究人员和研究生。OpenAI 还计划在 2025 年初举办一次关于超对齐的学术会议,届时将分享和推广超对齐奖决赛入围者的工作。 OpenAI 于今年 7 月成立了 Superalignment 团队,由 OpenAI 联合创始人兼首席科学家 Ilya Sutskever 领导,旨在开发引导、规范和管理“超智能”AI 系统的方法。
OpenAI 超级对齐团队发布新研究成果,可用低等级 AI 模型指导更复杂的模型发展
本文来自网络,不代表本站立场,转载请注明出处:https://news9.com.cn/n/a80047.html