资讯 > 正文
资讯 > 正文
问：您在做产品开发的时候有没有很具体的风险完全不碰？也就是说你们有一些事情在开发你们产品的时候哪些是禁忌，有的话举一些例子？
赵勇：比如说我们在开发自动驾驶汽车的技术我们很担心这个问题，我们救过9个人的命但是不小心杀了1个人我们怎么承担这个责任？在大众给我这个答案之前我们还是不敢碰。不要自动驾驶，帮助司机开的更安全，他犯了错误提醒他踩一脚刹车，这个是我们敢做的事情。对于每个人来说我们尽量不去碰它，在目前这进事情上。
余凯：我觉得我们一直在我们工作中帮助人，我想给你一个具体的例子，有的时候技术背后的人其实很糟糕，我们搞过一个研究的项目，一个面部辨认或者是辨识的人类识别技术。这样的话机关枪就可以辨识人脸，而且自己可以开火，这个是非常可怕的。我觉得要避免做这样的事情，不能让机器来采取这些涉及到人命的事情，我觉得这个是一个非常关键的考虑。
Ken：我觉得我们在分散一些非常糟糕的看法，特别可怕的想法。不是说讲什么禁忌，我们做的工作可以找多一个符合大家综合利益的，符合雇员、股东，所有人利益的事情，这应该成为我们一个指导的原则。
Ben GOERTZEL：军事技术我不做，我也不想做，刚才我同事也讲到这一番表态，我刚才讲到一般性人工智能的研究主要是想让我们的机器人工智能研究更加的开元，就像我们在电脑领域一样。有好有穷，当然跟任何的发明都一样，人类本来就是非常复杂的，没有这种十完全黑白的好坏，最后好会再生坏的，永远是这样。对于我本人来说我是同意我同事的意见，不想做一些杀人机器人人，或者是这种生化武器，我可能想做一些能够做家政的机器人，能够来治愈疾病的机器人。你提供一个技术，技术被人拿去做坏事怎么办？我觉得是有可能的。我觉得你非常努力推动技术往好的方向发展，去归置那些想要做坏事的人，最好应对的方式在人跟人之间实现互联，全球实现互联。因为技术通过像手机、互联网，这些技术让我们能够更加地进行沟通，还有颠覆性的机器现在也在帮助我们。
洪小文：不同人道德标准不一样，在我们行业里实际上有非常高的道德标准，我给大家举一个不是那么明显的例子，人脸识别的例子，刚才有人提到我们避免机枪里头用人脸技术，我们现在的技术主要是用民用，像微软、百度、Google 都没有很多去推。为什么呢？因为它有隐私的问题。人脸识别技术推广任何的画面出来都会被人家识别出来是谁，所以它有应用的考虑。即使在科学界对于人脸识别没有一个标准。我们现在有人脸识别技术把人脸识别技术做系统的登录不做其他的用途，这是一个例子，不是我们做不到是没有人去做。
问：我想问一个把用户驱动的智能和社交媒体相连接的问题。十亿的人现在至少在用社交软件，到2020年会有30亿，现在我们已经能够从每个人身上由于他社交媒体的使用来采集很多的信息和数据。很多公司能做的是来检测人的活动，从个人来搜集数据，进行分析之后给个人给出个性化的服务。新的边界在哪里？新的前沿在哪里？挑战在哪里？是去做预测吗？对未来会做什么样的预测吗？我并不关心。我们想要知道的是我们明天、后天会做什么我们知道的话是很好的，因为我可以卖产品。所以我们需要有这样的预知性卖产品服务，能够对人做出一些影响。我们怎么来用人工智能应对这样的挑战呢？它是一个非常好积极解决 方案，比如说零向去度假，做度假的计划，它可能可以帮助我做抉择，我想问一下对于这种人工智能它的一个用途？在预知和改变人心理方面的用途。
余凯：这一点我可以谈一谈，因为我是来自于互联网行业，人工智能预知这一块在过去15年里取得长足的进步取得很大的价值。大家可以看一下互联网三大应用领域，搜索引擎、广告、电商或者是产品的推介，我们有很多的算法是在这个背后作为依托的，来研究用户的偏好，你的一些目的性，你喜欢和不喜欢的。这个是互联网行业的一个常态。刚刚讲到的这些体系，这样的一个算法会更加的复杂更加的智能。不知道我这样回答有没有回答你的问题？
洪小文：我刚才改到个人助手已经帮我做这个，有一些公司非常主动来帮你，他帮你是有目的性的，知道你下一步要做什么。像我们个人助手帮你多了就知道想要做什么。当然人们需要对于这样的一个帮助感到非常的自在，我要帮你的话我要知道你很多信息我才能提供帮助，你要信任我，如果你不信任我的话你把这个信息给我，你要来信任不管是个人助手还是软件还是提供服务的公司，这是你的一个权衡一个取舍，是有人帮你还是你自己做，我们提供给客户选择，最后有标准出来。当然这一块方便性跟隐私权总是有一个消长的关系，很多人会有自己的意见选哪一块。
问：我是来自北京的，刚才我觉得特别谢谢各位speaking和科学家给我们展示人工智能在未来不管是好还是注意的。我的问题特别简单，这个是特别热的话题，最近我听到概念上的问题，最近有弱人工智能、强人工智能的说法，有这个概念吗？
赵勇：对，我最近也听到这个概念，坦率地说我知道这个概念关于什么的，但是我不是专家，我们这里谁更有意愿解释一下这个问题，人们是弱人工智能什么是强人工智能？
Ben GOERTZEL：刚才讲到强的AI就是比较强的应用，比如说一些算法这一类的。我讲到ATI就是一般性的AI，通用的AI它的概念是能够从一个领域跳跃到另外一个领域，从一个问题移植到另外一个问题上能够帮助到人类，同时让人对于自己更自制，让人了解到自己跟世界的关系。同时也可以在体验基础上进一步的改进。我们的智能刚刚够明白我们自己有多愚蠢，所以我觉得有可能让这个系统做的更加的通用，更加通用智能。刚才讲的通用AI需要有一些狭义AI不同的一些想法，一些特点，你可以用狭义的AI做一些具体化的东西，在这个基础说你可以发展出通用的AI。我的一个信念我们在这两块之间是有区分的。专业化跟通用这一块可能需要不同架构的依托这个是我们目前领域里的前提，也是我研究的前提。
余凯：这个结论已经被放弃了，我们每天都要做选择题，每一个多选你都可以搜集数据，最后我们可以通过算法了解它的优势它的弱势，人类这一块比我们创造出来的机器还要聪明的很多，一般通用的AI不是做多选，你在给他们AI的时候，你可以出来一些新的假想，新的一些猜测。即使有限的时间你可能也没办法。如果你没有很多数据的时候你可能进行猜。大家看一下30年前这个概念，如果人们想要做这种通用的AI的话，需要用小数据作为基础，不要用大数据。所以这也是为什么我们离现在这个现实还是非常的远，没有人讨论小数据的问题。但是在以小数据为工作基础的这些人眼里他们是很难想象的一个问题。我直接回答这个问题，强AI是把AI打造成向人一样的系统。弱的AI我们想做一些东西，不一定做到人那么强大，但是像人有一些拟态，帮助我们做一些事情，有价值。你想做飞机是弱人工智能，你想造一只鸟是强人工智能。
赵勇：最后很快总结一下人工智能是一门很古老的学科，我们这两面之所以有这么热烈的讨论是我感觉我们到一个阶段开始发挥越来越大的作用，因为各种各样的原因，计算越来越强，传感器越来越好。在今天大多数非常乐观的，事实上在科学发展当中我们还在一个非常原始阶段，弱智能也好强智能也好，我们他用邓小平这个话，黑猫白猫能抓老鼠就是好猫，弱智强智只要为人们服务就是好智。谢谢大家。
（结束）
责编：贾雯帆
