OpenAI 超级对齐团队发布新研究成果，可用低等级 AI 模型指导更复杂的模型发展

据 TechCrunch 报道，12 月 15 日，OpenAI 超级对齐（Superalignment）团队发布论文，展示了其关于超级智能对齐的新研究成果。目前，该团队正试图建立适用于未来强大人工智能系统的治理和控制框架。该团队目前确定的方法是，使用一个较弱、不太复杂的 AI 模型（例如 GPT-2）来指导更先进、更复杂的模型模型 (GPT-4) 朝理想的方向发展，远离不良的方向。 此外，OpenAI 启动了一项 1000 万美元的资助计划，以支持超级智能对齐的技术研究，其中部分资金将保留给学术实验室、非营利组织、个人研究人员和研究生。OpenAI 还计划在 2025 年初举办一次关于超对齐的学术会议，届时将分享和推广超对齐奖决赛入围者的工作。 OpenAI 于今年 7 月成立了 Superalignment 团队，由 OpenAI 联合创始人兼首席科学家 Ilya Sutskever 领导，旨在开发引导、规范和管理“超智能”AI 系统的方法。