在争论和怀疑中不断进步

无论威胁还是机遇，我们始终要去追求，由此才能不断推动人工智能的发展。在这一过程中，将会发现许多美好的、奇异的东西。

冯嘉礼：从历史来看，每一次新生事物的诞生，某些人都会感觉有威胁。比如水轮机的出现，纺织工人就感觉要失业了。现在机器人来了，很多工厂流水线上的工人就感觉要下岗了。历史上从来没有一样新生事物会受到全部人的欢迎，总有一部分人会感受到威胁。问题是我们怎样面对威胁?人类不能因为有一部分人受到威胁，或者有反对的声音，就不前进了。

任何事物都有两面性，科学也是一把双刃剑。科学新发现、新发明在推动社会向前发展，并对一部分人造成威胁的同时，也创造出很多发展机遇，只要掌握新知识，掌握新技术，就会找到广阔的发展空间。如果能直面威胁，积极应对，顺势而为，勇于创新，更有可能屹立潮头，成为新时代的骄子。

钱学森对发展人工智能曾提出过很多高瞻远瞩的想法和观点，比如他倡导开展思维科学研究，提出思维科学是智能计算机的理论基础。问题是：我们能不能把他想法蕴含的实质内涵挖掘出来，并整理成一个人工智能的基础理论和方法。

王行愚：上世纪，我们在读控制专业研究生时追求的目标，是用人工智能来解决问题。几十年过去，今天再来谈这个题目，仍然具有新意。人工智能本身是一个永恒的课题，至少我们这几十年的经历来看，我们是在各种争论和怀疑中不断进步的。

第二个观点，我觉得无论威胁也好，机遇也好，我们始终要去追求。我把它看成是在追求一个很美好的愿景，也许就像追逐天边的彩虹，我们可能永远追不上它，但在追逐的过程中，将会发现许多美好的、奇异的东西,这就是我们研究的意义。我们未必能达到最高境界——最终能做出和人一样能思维、有感情的机器人，但在追逐中不断前进，才能推动人工智能不断发展。

如何让机器人真正达到人的智能境界?最近10年我在做的一件事是研究脑控系统,这是一种基于脑机接口的人机融合控制系统。它的研究初衷缘于医疗康复领域的需求,有一些残疾人手脚不能动了，但是脑子挺好，这时就可以借助意念或思维来指挥机器人,帮助他做事。这些工作从人工智能角度看有两点启示。

第一，思维或意念是可以实现控制的。这也是我们追求的境界，能不能“心想事成”，怎么实现?这在以前是不敢想象的，但是研究表明是可以做到的。它实际上是把人脑某些思维活动中与之对应的一些脑电信号的模式提取出来，把思维的虚拟想象通过实在的、物理的脑电信号“表征”出來,从而实现对外的控制。这项研究尽管还处于实验和演示阶段，但对于控制和智能研究是一个突破。

第二,在脑控系统中,脑和机紧密结合,这种结合体现了生物智能和人工智能的结合,脑控系统可以成为研究这两种智能的平台。抓住这个比较好的研究平台深入探讨，也许会有助于对这两种智能的研究,取得某些突破。

最近我们做了一些脑控系统，发现它存在一个很大的问题，就是它的指令比较单一，效率不高,将人工智能与脑控技术结合之后，就有了很大的改进,有可能为残疾人提供更好的服务。现在脑电信号无线传输已经实现，有的戴在眼镜上就能做，它未来发展的前景很大。

在这个平台上，除了生物智能和人工智能，还有一个新课题是研究人机融合系统的描述、建模和控制，这是一个全新的、有人融合进去的系统。这一类共生系统怎么研究，值得关注。

李德毅：我同意王教授的观点，即人的思维和意识是能够控制的。我认识一个在美国科学院从事生理学研究的脑科学家，我说我想做一个机器驾驶脑，你给我画一个人脑的功能结构图吧。他的回答让我很沮丧，他说脑组织的结构图随时可以画，脑功能的结构图100年也出不来。虽然沮丧，但我觉得他的这番话值得我们思考。

严伟：模拟脑做得最好的还是CPU。IBM有个科学家做了一个模拟神经元芯片，能模仿从电路到脑的过程。如果脑的功能100年都画不出来，电路怎么实现?电路要有明确的实现方式，神经元就是一个互相串联的系统。它也有内在的脑结构，如果要模拟人脑，我们希望有大脑的一些功能出来，这样做电路的就可以有一个方向了。

李德毅：刚才严伟教授提到，如果人脑功能结构图100年出不来，机器脑怎么出得来?我前面说过，虽然我们不可能把人脑所有认知能力都做出来，但如果特定情境和局部环境下的认知能力，如驾驶脑、运算脑、下棋脑、情感脑等可以逐步做出来的话，那么由人工智能技术构建的千千万万特定认知机器的脑，通过移动互联网、云计算和大数据，是否可以逼近人造脑呢?

自我学习能力是人工智能面临的大挑战

让机器人实施某种单一功能，比如开车、扫地，目前已经能做到，但是，机器人(或人工智能)要能具备自我学习的能力，这在目前仍是一个很大的挑战。从这一点上看，机器人要超越人目前还难以实现。

张轮：否认人工智能的威胁是不现实的，它对人类肯定有威胁，但是威胁在什么地方，我们又该如何看待这个威胁?从微观、局部地去看一些职业的或者环境的改变，肯定是有威胁的，但对人这个物种丝毫不构成威胁。机器人其实早就出现了，我们现在所理解的机器人是20世纪下半叶出现的可编程机器人，可编程机器人可以把一些算法模型融入，这样人类就有可能把自己的思想融入到机器中去。

人类目前对自己的智能并没有完全了解，在并不完全了解的情况下把人的意图传达给机器人，就存在很多的不确定性和可能性。我们的思维主要是基于生物启发，所以就出现了下棋的机器人，机器人很多地方比人强，它的计算能力比人强，它能记很多东西。但智能的一个核心问题是它不可测，我们大脑处在什么水平不可测，甚至你我之间谁更聪明，这些都不可比。

机器人的进化有两个方面，即能力和功能的拓展。让机器人实施一个功能，比如开车、扫地或者唱歌，已经都能做到。但是能力的培养，即机器人要能自我学习，这在目前的人工智能研究中是一个很大的挑战。从这一点上看，机器人想超越人，目前还难以实现。

对于人来说，“能力”的培养相当复杂，涉及到环境等外部因素以及生物大脑的发达程度和训练强度等多种内部因素，甚至涉及到遗传、血型、性格、情绪等等，伴随着人成长导致的时间和空间变化，以及由此而带来的经验、知识、推理等多种元素的积累，以及这些积累的因素的结构化合成，很难进行量化和形式化。所以，让机器人具备人的“功能”不难，而能够达到和人同样的“能力”，尤其是学习的能力，并非易事。

现在很多研究都是想让机器人聪明，譬如能具备行为能力、博弈能力，但这样的东西怎么习得?人与人之间的博弈不仅仅看输赢，很多时候是基于人的意识情感，如何让机器人有这些东西?

张卫东：我觉得要讨论人工智能是威胁还是机遇，有两个关键问题要搞清楚：什么是我们定义的人工智能，什么是我们认为的威胁。当霍金提到人工智能将给人类带来威胁时，我理解，他所指的威胁是指具备自学习能力，有智能进化功能的人工智能，可能会导致人类的消亡。现在我们使用的所谓智能设备如机器人，还不具备思考理解和情感表达的能力，只能执行程序指令完成特定的工作。这是不是我们指的人工智能?会不会导致人类的消亡?

我们现在的讨论实际上是基于人类已有的知识和经验来判断未来机器的智能是否会超越人类的智能。机器的智能也许会在某个方面，如记忆能力或逻辑推理能力方面超越人类的智能，但很难想象将来机器的智能会全面超越人类的智能。举个例子，很多人看赵本山小品时会哈哈大笑，但机器看到会笑吗?如果会，也应是在执行程序指令，而不是理解了笑话。因此，对人工智能是威胁还是机遇这个问题，我的观点是，人工智能更多地是机遇而不是威胁，人类既然有能力创造机器智能，那么在发展过程中也会创造出控制机器智能的技术。

受邀专家

李德毅 中国人工智能学会理事长，中国工程院院士

王行愚 华东理工大学教授，上海市人工智能学会副理事长

岳继光 同济大学教授，上海市人工智能学会副理事长

冯嘉礼 上海市思维科学研究会理事长，教授

何云峰 上海师范大学教授，上海市思维科学研究会副理事长

严 伟 北京大学软件与微电子学院教授,中国人工智能学会自然计算专委会委员

苏剑波 上海交通大学自动化系教授，上海市人工智能学会理事

张卫东 上海交通大学教授，上海市人工智能学会理事

程武山 上海工程机械大学自动化学院院长，教授，上海市人工智能学会理事

张 轮 同济大学交通控制专业教授，上海市人工智能学会理事

汪 镭 同济大学教授、上海市人工智能学会秘书长