我们开始害怕人工智能，但Watson已经长大成“人”了！

我们开始害怕人工智能，但Watson已经长大成“人”了！

一月的第一个周末，很多人工智能领域的顶尖研究人员来到波多黎各参加一个不同寻常的私人会议。这个会议之所以不同寻常，一定程度上是因为它的主题：智能机器的崛起对人类而言是福是祸。公众一直在不断探讨这个问题，然而科学家们自己却很少这样做。会议由一个名为未来生活研究所（Future of Life Institute）的新兴智库组织，其负责人是麻省理工学院（MIT）宇宙学家马克思·泰格马克（Max Tegmark）。泰格马克曾经出版过一本书，假设宇宙可能仅仅是数学结构的结合。

参会的研究人员拿到了两个命题。第一个命题是，我们是异常突破性进展的管理者。MIT的经济学家埃里克·布伦乔尔森（Erik Brynjolfsson）称：“我们生活在一次最伟大的历史事件之中。”参会人员被要求预测机器在什么时候可以在所有人类工作领域战胜我们，他们的预测结果平均值是2050年。第二个命题比较复杂，因为它要求研究人员考虑人工智能的突破性进展也许是一件坏事这个问题。众多著名的技术人员早就警告过我们人工智能可能带来的威胁，其中就包括史蒂夫·沃兹尼亚克（Steve Wozniak）、比尔·盖茨（Bill Gates）和斯蒂芬·霍金（Stephen Hawking）。霍金最近表示：“完全人工智能的发展可能毁灭人类。”而埃隆·马斯克（Elon Musk）也说：“发展人工智能技术，实际上是在召唤魔鬼。”

泰格马克组织私人会议的目的是描绘这个“魔鬼”的样子，以便研究人员能够像科幻领域那样严肃地认识到人工智能给人们带来的担忧。布伦乔尔森和其他经济学家称，随着机器逐步适应各个领域的工作，很多工作岗位会被渐渐淘汰，而设计和投资机器的人则会发家致富。这样一来，我们面临的经济失调风险也逐步提升。学界和业界的研究人员详细地说明了机器的大脑究竟是如何渐渐聪明起来的。现在，人工智能已经可以理解和形成类似于“信念”这样概念的东西。法学界则表示，给负责识别轰炸目标或者提供导航路线的电脑设定法律责任是一件困难的事情。

在1月4日晚上名为“人工智能大爆炸”的会议上，研究人员探讨了机器可能迅速地远远超过人类能力的可能性。这个假设由牛津大学哲学家尼克·博斯特伦（Nick Bostrom）提出。人工智能公司DeepMind研发了一个算法，从而使得电脑可以玩经典的打砖块游戏。这个游戏要求参与者用小球击打砖块并尽可能获得多的得分。最初，人工智能程序并不了解球或者球拍的概念，也不知道如何才能获得得分。两个小时之内，它就能灵活的掌握游戏。而四个小时内，程序就弄清楚了如何才能获胜（让小球通过通道穿越砖块，这样就可以在相对封闭区域里击打更多砖块）。这让我们看到了一点未来的样子，既令人着迷又令人恐惧。对于那些担心人工智能的人而言，机器每变聪明一次，他们就会提出一次如何控制机器的问题。

资本领域有这样一个好的经验法则：如果亿万富翁开始发出警告，表示你现在从事的事情存在伦理内涵隐患，那么这证明你手头的工作是意义重大的。马斯克很快会未来生活研究所投资1000万美元，从而资助人工智能的研究和超过1000名顶尖人工智能实践人员的工作。参加这次会议的研究人员将签署一份由泰格马克起草的宣言，保证自己会确保智能机器对社会有益。当被问及为何人工智能的安全性突然成为一个急迫的问题时，泰格马克说：“人工智能发展很快，即将走出实验室进入社会了。”机器早就能很好地了解周围的世界并完成各类工作：无人驾驶汽车已经成为现实，全自动厨房（机器可以自己摆盘）也将于2017年问世。在帮助机器增加社会属性这个领域，我们取得了不小的进步。现在机器已经达到了“接近人类”的水平， 而我们也可以教育机器理解人类面部表情之后隐藏的情感从而将我们的经历模型化。

参会的研究人员中有一些是人工智能领域的实践创业者，他们每天都在处理解决机器的缺点。在他们看来，人工智能的发展是一个机会而不是一个威胁。因此，他们觉得有些人的“警告”有点“夸张”了。俄勒冈州立大学教授、人工智能进步协会主席汤姆·迪克里奇（Tom Dietterich）表示：“算法并不是像博斯特伦假设的那样工作的。人们总是询问机器和人类之间的关系。在我看来答案很明显：机器是我们的奴隶。”不过迪克里奇还是签署了泰格马克的宣言。几周之内他组织召开了人工智能进步协会年会，花了很长时间重点讨论机器人伦理学问题。

其实，所有的担忧都可以被归结成一个问题——机器已经完全社会化了。人们之所以对这个问题关注度提升，原因是IBM公司研发总部的一个小团队历经数十年努力终于开发出了一台名为Watson的智能机器。

IBM工程师最初着手打造人工智能的目的是为了让机器参加智力游戏节目 《Jeopardy！》，战胜所有人类选手。为此人工智能必须对语言精通，包括微妙的韵律变化、引喻和双关。Watson在2011年的胜利是人机对抗比赛的里程碑，但自那以后它就在不断进化。Watson的想法越来越富有创造力，设计更加贴切，因此它可以更好地满足人们的需求。

目前工程师在训练Watson关于分子生物学和财务金融领域的知识，还教它写食谱。另外，Watson还参与了石油勘探方面的工作实践，并能帮助我们解决犯罪问题。Wired网站预测，Watson将很快成为世界上最完美的医学诊断专家。IBM介绍称，Watson可以与我们的世界无缝衔接，已经在17个国家的75个产业中发挥了作用。目前，成千上万的人正在自己的工作中使用与Watson有关的应用程序。这样一来，Watson就成了我们探索人类与智能机器关系的早期试验品。在与它的工作过程里，我们要解决这样的问题：我们需要智能机器为我们做什么？它们能填补什么空白？它们又会带来什么恐惧？

偶然的灵光一闪才是解决哲学问题最诚实可靠的途径。Watson的创造者中有很多人从这个项目启动之初就加入了进来，他们对这台人工智能机器的看法与泰格马克截然不同。他们看到了Watson的成长历程，看到了它一点点学会新的技能，在失败中得到经验教训。有些人甚至认为与Watson的工作经历给他们带来了私人感情，好像自己是父母而这台机器是自己的孩子一般。去年十月，IBM将这个项目迁移到了一个环境更好的新办公区，这让Watson经历了与人类差不多的发展历程：在郊外度过了具有家庭氛围的早期研发阶段，接着接受各种教育以便自己能够适应更为复杂的外界世界，最后为了赚钱而搬进曼哈顿东村的办公室并努力寻找工作。