你好,游客 登录
背景:
阅读新闻

OpenAI 发布通用人工智能研究纲领:以全人类的名义承诺

[日期:2018-04-12] 来源:雷锋网  作者: [字体: ]

雷锋网 AI 科技评论按:近期 Facebook 泄露用户数据、针对性影响用户、Uber 无人车事故,以及全球学者联名抵制韩国开发自主武器的事情再次敲响了人工智能安全的警钟。OpenAI 也于昨日发表了一份自己的研究纲领, 表明了自己的科研使命和行动法则,希望担负起自己在「让人工智能造福全人类」这一伟大事业中的责任。文中也涵盖了他们在过去两年的研究中逐渐成形的研究策略,以及来自 OpenAI 内外的各种反馈声音。雷锋网(公众号:雷锋网)AI 科技评论编译如下。

OpenAI 的使命是确保通用人工智能(artificial general intelligence,AGI) - 能在多数有经济价值的工作中展现超越人类表现的高度自动化的系统 - 会为全人类带来福祉。OpenAI 不仅希望通过自己的努力直接建造出安全的、有益的通用人工智能,而且同样愿意帮助其它研究组织共同制造出这样的通用人工智能。

为了达到这样的目标,OpenAI 为自己设定了这些纲领:

广泛参与,广泛贡献

  • OpenAI 承诺,在通用人工智能的开发过程中 OpenAI 将动用所有的影响力,确保它可以造福全人类,以及避免把人工智能/通用人工智能用于会伤害人类的、或者任务中,以及避免它们被过于集中的权力控制。

  • OpenAI 承担的责任主要要对全人类负责。如果有必要的话,他们准备好了对外分享所有重要的研究资源;同时他们也会积极行动,尽量减小股东和 OpenAI 工作人员之间的利益冲突,保证让更多人从中受益。

通用人工智能的长远安全问题

  • OpenAI 承诺进行能够保证通用人工智能安全性的研究,并且在整个 AI 研究领域内推动这类研究的大规模展开。

  • OpenAI 担心末端的通用人工智能开发成为一场竞争性的比赛,在比赛中也就不会分配时间在必要的安全防护措施上。所以,如果在 OpenAI 研发自己的项目之前就出现了一个价值均衡、注重安全的通用人工智能项目,OpenAI 承诺将停止和它竞争,并转而辅助这个项目。OpenAI 未来会针对每个项目列出具体的执行细节,不过典型的触发规则可能会类似「未来两年内能够成功的概率超过一半一半」。

技术带头人

  • 为了能有效地向整个社会展现通用人工智能的影响力,OpenAI 也需要站在 AI 能力开发的前沿 - 在政策和安全性方面仅仅发出声音是不够的。

  • OpenAI 相信人工智能在通用人工智能之前就会产生广泛的社会影响,OpenAI 也会在与自己的使命和经验相吻合的领域努力保持领导地位。

面向合作

  • OpenAI 会和其它研究机构以及策略制订机构积极合作,希望能够从中创建一个全球性的合作社区,共同应对通用人工智能的全球性挑战。

  • OpenAI 承诺将为全社会公开提供信息,帮助社会走向与通用人工智能共处的时代。目前要做的内容包括公开发表大多数的人工智能研究成果,同时 OpenAI 也希望,随着未来对安全和防护的担忧越来越多,他们的老式的成果发表将会减少,更多地转变为分享安全、策略和标准化的研究。

人类何时能研发出真正的通用人工智能还尚未可知,但 OpenAI 相信也希望自己的纲领可以引导自己在通用人工智能的研发过程中体现出全人类的最大利益。

这份纲领发出后,已经有一些学者给出了积极的反馈,非常欢迎 OpenAI 做出这样的举动,同时也认可 OpenAI 积极、坚定的态度,钦佩 OpenAI 公开做出这样的承诺。

雷锋网 AI 科技评论也非常期盼通用人工智能的到来,而且我们也希望它真的到来的那一天真的是全人类的福祉。相信到时肯定会有 OpenAI 的功劳在其中。

收藏 推荐 打印 | 录入:Cstor | 阅读:
相关新闻      
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款