OpenAI推出“集体对齐”团队，收集公众意见解决潜在偏见

据昨日消息，全球领先的人工智能研究机构OpenAI于当地时间本周二发布博客称，已正式成立一支名为“集体对齐”的新团队。新团队集结了一批经验丰富的研究员及工程师，现正致力于策划并实行群众观点采集环节，帮助调整及规范其人工智能模型行为，以期化解可能出现的偏颇及相关挑战。

OpenAI在博客中分享说：“我们的终极愿景是构建一套能收集并转化公众对于我们模型行为的认识的体系，以期把这些重要且细致入微的建议融入我们今后的产品和服务中，使我们的人工智能模型更趋向于与人类道德观相符。”

为此，OpenAI积极寻找具备各种技术资质的研究工程师加入新团队。他们期望与外部咨询公司加强协作，甚至开始进行创新试验，将最初版本引入我们的模型中。他们迫切需要各界专才，携手迈出这一步。

“集体对齐”团队实际上为OpenAI于去年五月份开启的公共项目的延续。这个项目致力于资助研发“民主程序”的实验，以确立人工智能系统应遵守的规则。OpenIA曾经明确表态，该项目是为了支持个人、团队以及组织研发概念验证，并在概念明确后回答关于人工智能监测与治理方面的问题。

OpenAI研究工程师、新团队创始人之一泰纳·埃伦杜（Tyna Eloundou）强调：“随着我们走向超级智能模型，这类模型必将逐步成为社会生活不可缺少的一环。因此，让公众有机会发表意见至关重要。”

举例来说，为确保仅由人类参与投票并给予评价，OpenAI正考虑与Worldcoin展开合作。Worldcoin是OpenAI首席执行官萨姆 · 阿尔特曼（Sam Altman）亲自操刀的加密货币项目，具备识别人类和人工智能机器人的独特功能。

自2022年末推出ChatGPT以来，OpenAI凭借生成性人工智能技术取得众多公众的关注。运用这种技术，简单暗示即可生成大量文字内容，使得ChatGPT成为有史以来增长速度最为迅猛的应用程序之一。

然而，人工智能技术催人不及掩耳的进步亦引起深深忧虑。尤其是其制造虚假图像及误导性信息的能力，令2024年美国总统选举临近之际，公众担心不已。多位评论家指出，如ChatGPT等人工智能系统因接受的数据成分所限而自带偏见，用户已多次发现某些人工智能软件输出显示出明显的种族主义或性别歧视倾向。

本次博客更新中，OpenAI还详尽总结了支援对象的工作成果，其中包含视频对话界面、人工智能模型众包审计平台以及“如何将信仰映射至可用于精细调整模型行为的因素”的方法。除此之外，他们也公开了所有援助对象在工作中所采纳的代码以及每个项目方案的精华摘要。

尽管 OpenAI 试图将该项目描述为与其商业利益无关，但考虑到其首席执行官阿尔特曼对欧盟人工智能监管的批评态度，这一说法似乎有些难以令人信服。阿尔特曼以及 OpenAI 总裁格雷格・布罗克曼（Greg Brockman）和首席科学家伊利亚・苏茨凯弗（Ilya Sutskever）一再强调，人工智能的创新速度非常快，以至于我们无法指望现有的权威机构能够充分控制这项技术。因此，他们提出了将这项工作众包的解决方案。