人工智能与人类的未来：魔鬼，还是天使

我们进入最后一个问题，我知道大多数人比较乐观而且推动人工智能做一个有用的事，但是我们做一个魔鬼测试，我请你们想象一下最可怕最高高的事情，人工智能会导致发生这种事情，我们来讨论一下我们怎么来防御这个事情。

洪小文：我觉得大家讲到的这些讨论，人类天性是好的，但是人类对于其他物种是坏的，我们现在把这个AI植入到人类里头，我们想保护我们的基因我们的后代，我们希望来播种来传宗接代。但是机器不是用这样的目标发明的。我们说热情，热情它也会带来一些贪婪的后果。比如说对于资源的滥用有很多的环境的问题，整个地球生态遭到破坏，之前它的诞生也不是原来有这样的预想。但是我们想到把人机进行交互，我又回到最早这个点上，讲到机器的有用性，我们需要能够去控制它。我觉得灾难有可能发生的，所有的科幻片里大家肯定看过骇客帝国系列电影，技术发展到一定的程度最有可能造成的危害，我觉得如果我们不去控制它的话，这样的一种现实是有可能出现的。

Yossi：我觉得最差最糟糕的情况是我们有一个非常超智能的机器，它不仅行为像人，由于有对人的拟态，所以它还能拟态其他活的生物，这个机器可能会非常的聪明，比人类聪明，需要想起来自己做革命，然后去阻碍这个胚胎的形成，这个是有点像科学的情节。如果我们能把价值观，意识、情感都植入这个机器的话，我们就会有非常现实的风险和威胁。我们看到在发达国家一个15岁的很聪明的小孩，他为了显示材质作为黑客进入某个国家的系统，如果这个机器最后被黑客攻入的话这个事想起来是最恐怖的。最糟糕的情形，认识历史上都有考虑我们最糟糕的情况。比如说一些先进的武器先进的医药，我们当时在小孩的只有听到了这样的一些发明，我们都在想它糟糕的情况，有一些大病毒可能会抹掉整个人类，我觉得它很多是作物一个科幻影片的题材，我们可以长生不老，我们可以复制自我和意识，我们可以科隆，我们可以在人类关系还有物联网我们不用再跟人打交道，所有技术都可以帮助我们实现。我想打断一下，大家可能记得巴非特说过，最大破坏力量是来自于金融产品，主要指的是衍生产品。我们没有在股票或者是其他的这一块投。

余凯：我有两个评论，第一我不相信我们可以做一个超体一样的机器，机器还是机器，它会受到物理法则限制的。举个例子我们做一个机器模拟人类的情感和行为，但是人的行为也是随着时间推移变化的，所以你没办法静态捕捉它，而且是有时间这个维度的。另外从基础的层面上来看也是有新对论还有物理学这方面的一些限制的，还有它的电池寿命也会影响它，也会制约它。所以我们并不知道哪一个物理的自然法则来限制它。第一个是物理法则的限制，第二个无线这一块是人类有无限的潜力。

赵勇：技术的发展并不是使得强国更强，而是使弱国更强。他指的是什么呢？当一些小国可以受益于全世界各地的发展，他可以用很小的努力做出很大的危害。比如说恐怖主义，我们知道科技越来越发达，它增强了每一个人的能力。比如说前两天空难有一个飞行员有一些想法，他拥有这个能力杀掉150个人，如果未来恐怖分子或者一个厌世的人很轻易获得AI的能力他会做更糟糕的例子。我们举一个例子，无人驾驶飞机飞到白宫去的，前两天说无人驾驶飞机飞到监狱里给他朋友送毒品和武器。如果这个技术发展使得一个人轻易获得能力的话我觉得是蛮可怕的事情。你们怎么想的？

Ben GOERTZEL：几年之前我写过论文发表到杂志上，我们的题目是我们需要一个人工智能的保姆，比如说我们决定我们不搞人工智能了，因为我觉得它太吓人了，如果这样的话也许15岁的少年在SOBI自己就搞一个这样的人工智能，因为你知道有一些来自于爱好，在自己车库就建了。比如说合成的生命科学或者是生物科学，还有很多这方面的例子，除了这个人工智能之外，有这样的说法。第一阻止这些恐怖分子使用这样的技术，就是搞一个善良的人工智能来帮助我们掌控这样的局面。当然这是一个非常复杂的问题，不可能几秒钟说完。所有的技术都是互相关联的，不能鼓励看人工智能，当然拍电影用人工智能是不错的，我们要考虑人工智能跟其他技术的关联，找到综合的解决方案，而不惜孤立的来看这个问题。

洪小文：我觉得这不是一个技术的问题，人能在轴亦能覆舟，所以是技术是双面的。比如说核能技术，它是摧毁性的武器但是我们用积极方面利用它。全面人工智能、机器人等等，但是我是非常乐观的，因为我们有几千年的历史。虽然我们搞一些比我们聪明的东西，归根到底这个是我们自己搞的，是我们的孩子，我们真的有一天搞出这样的机器人的话，我们有几千年的历史，我们知道怎么掌控它，因为这个是我们的孩子，所以我非常充满乐观的。

Ben GOERTZEL：对我们的孩子我都不知道怎么跟它打交道。

赵勇：有时候我觉得聪明不见得是一个好事，当我是一个孩子的时候我是比较聪明，学习成绩非常好，但是我觉得大家都不太喜欢我。我成绩故意考的坏一点，大家对我好一点。可能变得更聪明没有那么重要，我觉得变得更有用或者是更让别人喜欢是更有意义的事。我们试图用AI做一些帮助人们每天生活的事。

今天论坛的讨论问题就问完了。想问一下观众席有没有其他的问题？

问：感谢主持人。我想请教台上嘉宾的问题是，这个空间是不是就是三维的？因为今天探讨的智能人工智能与人类的未来，思考本原是什么？人类由什么构成的？人类仅仅是肉体吗？仅仅是人类眼睛看到的肉类或者是科学仪器检测出来的肉体吗？不是这个。人工智能发展多一定的层面以后它可能是我们的硬件或者是软件加上算法，当量变到质变的时候，可能来自于其他空间理解的灵魂与灵力，这个是人类控制不了的。

Ben GOERTZEL：我的理解是回到意识或者是灵魂，人工智能是否有灵魂，从科学角度来说来探索人的意识我们叫做探索。我搞一个实验是有灵魂的。比如说五年以后有一个智能，我有意识我可以通过科学判断他说的对不对。

Yossi：但是自动驾驶汽车即使是做驾驶的，它要选择，它总会发生事故。

Ben GOERTZEL：这个问题变得更加复杂了，意识是一方面，对价值判断更加复杂。我们都有意识。我个人的观点不见得是科学的观点，人工智能会像人一样有这样的一种意识。可能用不同的方式获得这样的意识，当然这可能是一种个人的信仰或者是哲学上的推托，讲到道德的问题个人来说，人不见得是有道德水准的生物，因为我没了解情况，所以一个人工智能的东西可能也会比我们的人有更好道德判断的能力，但是这也是一个推测，我没有足够的证据。所以搞出越来越聪明的AI，能够帮助我们解决意识的问题、道德的问题。

赵勇：其实我也正在想这个问题，我也希望听听大家的意见。去年30万人死于交通事故。如果用机器人驾驶的汽车来替代人的驾驶，这样的话就把死亡的人数降到三万。但是问题是不同的驾驶员撞死了30万的人，现在人工智能的机器人杀死三万人，怎么解释这个问题？

Ben GOERTZEL：两个车说由人工智能来判断，他面对两个人，这个人可能比那个人更加重要一些，所以他撞另外一个人。我觉得不是科学家解决的问题，应该是公证学解决的问题。

洪小文：回顾历史有一个创建人的上帝，这个是我们的假设，如果是这样的话我觉得这个会产生很多的问题。如果说人工智能是我们不能控制的，我们希望帮助我们，但是一方面我们又能控制，到现在为止还是不错，还有另外一个选择我们的孩子我们的后代，因为是我们自己繁殖了我们的孩子，我们的孩子比我们更聪明，但是他跟我们有不同的想法，但是不管怎么样他是我们的孩子，我们知道怎么跟他打交道，到现在还有困难，当然困难不错。

Ken：我们回顾一下历史，过去是怎么做的，以后做的更好。

洪小文：我孩子至少是比我聪明一倍，不会是聪明很多倍。

责编：贾雯帆