OpenAI正在组建一个团队来控制超级人工智能

OpenAI 正在组建一个专门团队来管理超级智能人工智能的风险。超级智能是一种假设的，它甚至比最有天赋、最聪明的人类还要聪明，并且擅长多个专业领域，而不是像前一代模型那样只专注于一个领域。OpenAI 相信这样的模型可能会在本世纪末到来。该非营利组织表示：“超级智能将是人类发明的最具影响力的技术，可以帮助我们解决世界上许多最重要的问题。” “但超级智能的巨大力量也可能非常危险，并可能导致人类丧失权力，甚至人类灭绝。”

新团队将由 OpenAI 首席科学家 Ilya Sutskever 和研究实验室协调负责人 Jan Leike 共同领导。此外，OpenAI 表示将把目前安全计算能力的 20% 投入到该计划中，目标是开发一个自动对准研究员。从理论上讲，这样的系统将有助于 OpenAI 确保超级智能可以安全使用并符合人类价值观。OpenAI 表示：“虽然这是一个令人难以置信的雄心勃勃的目标，并且我们不能保证一定会成功，但我们乐观地认为，通过集中一致的努力可以解决这个问题。” “有许多想法在初步实验中显示出希望，我们有越来越有用的进展指标，我们可以使用今天的模型来实证研究其中许多问题。” 该实验室补充说，未来将分享路线图。

周三宣布这一消息之际，世界各国政府正在考虑如何监管新兴的人工智能行业。在美国，OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman)与至少 100 名联邦议员会面最近几个月。Altman 公开表示，人工智能监管“至关重要”，并且 OpenAI“渴望”与政策制定者合作。但我们应该对此类声明以及 OpenAI 的 Superalignment 团队等所做的努力持怀疑态度。通过将公众的注意力集中在可能永远不会实现的假设风险上，OpenAI 等组织将监管负担转移到了地平线上，而不是此时此地。人工智能与人工智能之间的相互作用还有很多更紧迫的问题。劳动,误传和版权政策制定者需要解决今天的问题，而不是明天的问题。