你好,游客 登录
背景:
阅读新闻

【马斯克荐书】生命3.0:生活在AI时代的我们该如何做人

[日期:2017-09-18] 来源:新智元  作者: [字体: ]

【新智元导读】麻省理工学院教授 Max Tagmark 的新书 Life 3.0:Being Human in the Age of Artificial Intelligence 得到包括 Elon Musk 等人的力荐,书中畅想了一个人工智能驱动的未来,敦促我们尽快采取行动来决定未来,而不是等待未来。

技术史是人类不断被取代的历史

几年前,Max Tegmark 站在南肯辛顿科学博物馆门外哭了。他刚刚参观了一个展示人类知识增长的展览,观看了从查尔斯巴贝奇差分机到阿波罗11号复制品的一系列展品。让他流泪的不是这些里程碑技术的外表奇观,而是它们所展示的对真相的顿悟。

“我就像被砖块击中了一样。”他回忆说,“每当我们深入了解了自然中的某些东西,我们自己身心的某些方面就会变得过时、多余。 一旦我们理解了肌肉如何工作,我们就会以机器的形式造出更好的肌肉;也许当我们理解我们的大脑如何工作时,我们也将造出更好的人造大脑,这样我们自己的大脑也会变得完全过时。“

Tegmark 进一步问自己: 如果我们创造出了超越我们智慧的超级智能,人类将变成什么样呢?

这个问题曾在科幻作品中一再出现。 然而,随着AI成为科学事实,这个问题具有了非同寻常的意义和紧迫性。Tegmark认为,我们必须研究围绕人工智能的社会问题,特别是出现所谓超级智能的可能性。Tegmark 与他的朋友、Skype联合创始人Jaan Tallinn,利用来自科技亿万富豪 Elon Musk的资金设立了未来生命研究所,研究人类面临的存在风险。它位于马萨诸塞州剑桥。Tegmark本人是麻省理工学院的教授。

AI是什么,不是什么

Life 3.0:Being Human in the Age of Artificial Intelligence

Tegmark 开始撰写他的新书,《生命3.0:生活在人工智能时代》(Life 3.0:Being Human in the Age of Artificial Intelligence)。 

要看清AI的前景,一个巨大的困难在于,AI的概念已迷失于种种神话和误解。Tegmark试图解决这个问题,仔细地展开 AI 所涉及的与智慧,记忆,学习,意识相关的想法,逐一解释它们,让这些概念不再神秘。

首先,我们最应该明确的是,AI不是什么。

“我认为,好莱坞对我们的引导是错误的。”他说。 “这种对机器人的意识和邪恶的恐惧是杞人忧天。 高级人工智能的真正可怕之处不是邪恶,而是无能。 如果你拥有超级智能的AI,那么根据设定,它将非常好地实现它的目标;但我们需要确保,这些目标与我们的目标一致。 我并不仇恨蚂蚁,但如果你让我负责在蚁巢上建设绿色能源水电站,这对蚂蚁来说将是毁灭性的。 在面临超级智能时,我们可不想让自己处于这些蚂蚁的位置。”

《生命3.0》并不是一部关于超级AI碾压人类的哀歌。实际上,它对超级智能的潜力是乐观的。不过,什么是超级智能? 甚至,什么是智能? Tegmark把智能定义为“完成复杂目标的能力”。 因此,普通计算机已具有智能。 但是,它们的智能仍很狭隘。

目前,计算机在某些领域处理信息时远远超出人类。 例如,世界上最好国际象棋手已无法战胜现代计算机象棋程序。但是,如果让这个程序与儿童玩最简单的井字棋游戏,它就会无能为力。人类,即使人类中的孩子,都在广泛领域中拥有通用智力。而电脑的处理能力只限于规定的任务。

所以对普通计算机来说,它们只会达到我们通过编程所要求它们达到的那种聪明程度。 但是,随着进入AI时代,计算机开始改变了。 在Google的AI子公司DeepMind等地方,电脑已可以通过自学习 ,进行反复尝试和进步。 到目前为止,这类技术只在视频游戏和围棋中得到体现,但将来可能会扩展到其他媒体。 如果它扩展得足够远,将对我们如何看待对自己、如何看待生活,以及其他根本问题产生深远的影响。

生命的三个阶段

Tegmark 研究这些问题的方式是,设想一个具有发展阶段的生命历程。他把最原始的生命形式,如细菌,他称之为Life 1.0。 这是一个最简单的生命阶段,生命只是在不停复制,而适应只有通过自然进化才有可能。

生命2.0阶段或所谓文化阶段是人类所在的地方:人类能够学习,适应不断变化的环境,并能有意地改变这些环境。然而,我们还不能改变我们的身体自身,不能改变我们的生物遗传。Tegmark将这种对比比喻成软件和硬件之间的对比。 我们已经能设计自己的文化软件,能设计我们“走路,阅读,写作,计算,唱歌和说笑话”的能力;但是我们的生物硬件,包括我们的大脑和身体的特征,仍受到自然进化的限制。

第三个阶段,即生命 3.0阶段,是高科技阶段。在这个阶段,后期人类不仅可以重新设计自身的软件,还可以重新设计自身的硬件。 Tegmark 写道,这种形式的生命将是“自己命运的主人,最终完全摆脱自然进化的束缚”。

这种新的智能将是不朽的,并将在整个宇宙中扩散。 这将是一种我们尚不知道的生命形式。 但是,这到底是生命吗,还是别的什么东西?作为一名物理学家,Tegmark 可不是关于生命的感伤主义者。 他是一名唯物主义者,将世界乃至宇宙视为由不同层次的粒子组成,具有不同层次的活动。 在他看来,普通人的生物性智能与自我维持的机器智能之间没有任何有意义的、道德上的区别。

Tegmark描述了Life 3.0的无限可能性的未来。在书中,有时他的写作是梦幻般的;有时他又会像理论家一样,试图构想我们大多数人难以想象、不乐意想象的东西。

简单来说,我们正处于AI 的早期阶段,面临自驾车、智能家居控制单元等自动机器。 但是,如果趋势持续快速发展,那么,在30年,50年或200年后的某个时刻, 计算机将以达到人类的一样的通用智能。

一旦电脑达到这个阶段,他们的改善将迅速加快,因为它们将能够用已有的处理能力来计划如何提高自己的处理能力。 这就是 Bostrom 在他2014年的“ 超级智能”一书中所阐述的观点。这种智能大规模扩张的结果,将是超级智能或所谓奇点的到来。

然而,超级智能的来临并不是不可避免的。 有很多人认为电脑永远不能与人类智能相匹配,有些人认为如果电脑朝这个方向发展,人类本身也会学会适应。 但是,Tegmark认为,我们迫切需要认真思考超级智能来临的可能性。

“我们处于这样的时代:真正戏剧性的大事可能在几十年内发生。对我来说,这是人类开始为此准备的最好时候,这样才能让超级智能成为一个好的力量。 设想一下,如果我们30年前就为气候变化做好准备,那么气候的现状会好得多。“

AI的发展比气候变化问题更为迫切

像Bostrom一样,Tegmark认为AI的发展比气候变化问题更为迫切。 然而,如果我们正在创造一种我们不可能理解的智能,我们所做的准备对未来的超级智能又能有多大的影响呢? 我们如何才能尝试限制那种超出我们想象的智力?

Tegmark承认,这是一个没有人可以回答的问题,但他认为还有许多任务值得我们优先考虑。

“在我们担心超级智能的长期挑战之前,我们需要解决一些非常短期的问题。'完美'并不是'好'的敌人,即使做不到完美,我们也能让现实变好一点。在任何情况下,我们都不希望飞机撞进高山或建筑物。 当事故飞机飞行员 Andreas Lubitz 感到抑郁崩溃时,他告诉他的自动驾驶仪,让它下降100米,飞机的电脑系统居然执行了!然后就带来了灾难。这说明,这个电脑对于人类的目标是完全无知的。尽管我们现在已经拥有飞机安全驾驶技术,在这种技术下只要飞行员试图撞击什么东西,飞机就会进入安全模式,将着陆目标锁定在最近的机场。但这样的技术在这起灾难中完全无用。我们应该着手,让机器能够理解这种幼儿园级的基本道德规范。“

不过,在此之前,还有更紧迫的工作要做。 “我们如何才能将今天的容易出错、可攻破的计算机转变成我们可以真正信任的强大AI系统? 这是非常重要的。 我觉得我们作为一个社会对这个问题太轻率了。世界各国政府应该将这个领域作为计算机科学研究的重要组成部分。“

他认为,通过放弃人工智能研究来防止超级智慧兴起,这并不是一个可靠的方法。 “人类在2017年的生活的每一个方面都比石器时代更好,这都是因为技术。技术正在发生,没有人会停止技术发展。如果有人问你是不是反对AI,这就像询问你,是不是反对火这个东西,这很可笑。我们都喜欢火,它让我们的家庭保持温暖,但我们也都想防止火灾。“

在这本书中,Tegmark认为,Google的 Larry Page可能成为有史以来最有影响力的人物:“我的猜测是,如果超级智能在我的有生之年就诞生并吞噬天地,这一切将起源于 Larry Page 所做出的决策。“

Larry Page 像 Musk一样,富有思想,真诚关心人类的未来困境。但毫无疑问,他首先是一个商人,最关心的是利润和打败竞争对手。而事实证明,目前关于AI的决策权力仍过多地掌握在科技亿万富豪,而这些人并不能代表人类的利益。

关于近期的AI政策,Tegmark的建议是:第一,资助关于AI安全的研究,第二,禁止致命性的智能自主性武器,第三,扩大AI的社会服务,让AI创造的财富能使每个人都得到好处。”

如前所述,今天的行动将极大影响未来的AI道路。但是,采取这三点计划,似乎能让未来变得不那么让人担忧。

收藏 推荐 打印 | 录入:Cstor | 阅读:
相关新闻      
本文评论   查看全部评论 (0)
表情: 表情 姓名: 字数
点评:
       
评论声明
  • 尊重网上道德,遵守中华人民共和国的各项有关法律法规
  • 承担一切因您的行为而直接或间接导致的民事或刑事法律责任
  • 本站管理人员有权保留或删除其管辖留言中的任意内容
  • 本站有权在网站内转载或引用您的评论
  • 参与本评论即表明您已经阅读并接受上述条款