今年的达沃斯世界经济论坛发布了2015年度十大新兴技术，其中“具备自学习功能的人工智能”榜上有名。

长期以来，科幻小说中的人工智能往往是一场乌托邦式的噩梦。人工智能显然是伴有风险的，其中最为突出的风险是，超级智能机器或许有一天会反制人类、奴役人类。尽管这一风险在未来几十年内不会成真，但一些专家已对此表达了严肃关切，呼吁妥善引导人工智能发展，避免未来可能出现的隐患。

我国目前的人工智能研究已经发展到了哪一步?它带来的更多是威胁还是机遇?本期《科汇观点》在上海市人工智能学会的支持下，邀请京沪一批相关领域的专家学者，就此话题各抒己见，让我们对人工智能有一个更明确的了解。

年度新兴技术榜单由世界经济论坛的新兴技术跨界理事会选出，均为最有潜力解决全球长期挑战的技术成果，旨在促使人们关注新兴技术的潜力及隐藏的风险，每年发布一次。

今年榜单中的自学习人工智能技术伴随着自动化技术、智能机器人技术、脑机集成等技术和学科的发展，正逐渐从朦胧中走出，成为离我们越来越近的新科技主角。一些专家看好这一技术将引领下一波科学技术的发展，但围绕这一技术可能带来威胁的忧虑也从未消停。

对人工智能不要轻看

一个机器人比一个人，或者一群人聪明，是完全可以做到的，但机器人要超过我们人类的整体智能，目前仍为时尚早。

李德毅：中国工程院现在正在做一个课题：怎样看待机器人时代的到来?我认为智能机器人是集新材料、新工艺、新能源、全球定位导航，移动互联网、云计算、大数据、自动化等多种学科和技术的产物，是人类社会走向智慧生活的重要伴侣。所以我主张有条件的大学要成立机器人学院。机器人学院不是一般的学科和专业的集合，而是多个交叉学科的综合，因为今天已经到了机器人时代了。

机器人的革命是世界性、时代性的，有人担心机器人到来，很多人就没有事干了。不会的，一些人会转行去创新制造新机器人，一些人会转行成为懂得维修、管理机器人的专业人才。

最近推出的苹果手表有一项功能是能监测帕金森病，从手表携带者24小时的4项指标变化，可以判断帕金森病人的病情变化。这仅仅是这款手表五分之一的医疗功能。这也提醒我们，手机、手表可能成为医疗的工具，也可能成为慢性病管理的视频互动平台，它既可以是医疗互联网的一部分，也能为某种流行病的社会调查提供新的途径和工具，或为病友提供社交网络平台，甚至会颠覆传统的看病模式，包括传统的医学研究方法，这个想象空间非常大。

目前我正在做的一个课题是“机器驾驶脑”，即会驾驶车辆的机器脑。这种驾驶脑至少两个好处，第一，它没有情绪，交通事故很大程度是因为驾车人的情绪、疲劳等导致的。第二，它守规矩，始终专注。人本身是不守规矩的，因为人要创新，会叛逆。机器人不会有情绪，不会不守规矩。

我们这个驾驶脑是跟上汽集团合作的，这个项目最终要产出一台真的会在现实路况下开车的装置。目前这个驾驶脑已完成了从北京开到天津的试验，接下来要再做从郑州开到开封的试验。既然用机器下棋脑可以胜过人类的象棋冠军，做一个超过某个特定飙车手的驾驶脑，理论上也应该是可能的。

从这个意义上讲，一个机器人比一个人，或者一群人聪明是完全可以做到的，对人工智能不要轻看。它能成为飙车手，成为棋王，但机器人要想超过我们人类的整体智能，目前仍为时尚早。

何云峰：有人担心人工智能可能会摆脱人类控制，反过来控制人类。这样理解的威胁属于消极的威胁。还有从进化角度理解的积极的威胁。大家都用机器人干活了，将来我们手的功能是否会退化?人们天天坐在电脑旁，将来的人类会不会大脑越来越大，腿越来越短?当然，进化的历程是漫长的，真有可能的话也要几万年以后。

我认为，对于人工智能这种新事物，应该在积极的意义上，也就是在促进变革的意义上去理解其对人类可能的挑战。如果这样积极地去理解其威胁的话，那就要主动迎接其挑战。积极的威胁表现之一是，人工智能的大量使用，会对我们现有的生存方式、思维方式、社会结构造成冲击，会迫使人类自我改变。

威胁之二是对人的生存和存在意义上的那种影响。宇宙是进化的，人类没有理由把自己的智能宣布为是宇宙中最高的智能。会不会有更高级的宇宙智能取代人工智能?我认为至少目前还不能否定这种可能性。当然，这种威胁对人类本身是不利的，但对宇宙的进化却是有益的。

总之，我觉得人工智能对人类的威胁和机遇是同时并存的。但对于威胁不能片面地仅仅从消极层面加以理解，还要从过程和进化的角度去理解，人工智能的挑战也可能有积极的意义。

岳继光：人工智能肯定是一个机遇，德国的工业4.0推到我们国家之后，在同济大学嘉定校区建了一个工业4.0的实验室，但这个实验室里中国的元素很少。国内的生产线上国产机器人占有率相当低，所以从必须跟上工业4.0的角度来讲，发展人工智能肯定是一个机遇。

其次，科学地看待科技变革。科技变革带来的效应有良性的，也有恶性的。良性主观是好的，恶性主观是不好的，这取决于科技变革的主导者和产品的设计者。

工业4.0最突出的一点，是通过网络化生产出个性化的产品，譬如个性化面包。工业4.0之后，每个人都可以吃到最适合自己口味、最有利于健康的面包。生产线上的机器人会从互联网上知道我们每个人的身体体征，如果再进一步用智能方法，会得到我们个体患糖尿病几年了、高血压几年了等情报，会根据你的生理指标来制作面包。假如这个做面包的机器人的某个程序出了问题，或者被攻击了，就有可能对我们的健康产生威胁，但这种威胁是良性的。

恶性的就是设计者仇视社会，这个体现于设计者设计的机器人可能会产生危害社会的行为。恶性的思维传递给机器人，再加上3D打印，可能对人类的威胁更大。

所以我要引出第三个观点：制定准则，对机器人及其研制者要制定道德准则。首先对通过鉴定的机器人要打上标签，知道这个机器人能做什么样的事情。其次对机器人的设计者实行注册制，机器人设计者要有一个实名制身份，人们可以根据他的行为、他以往的经历包括现在的状态，对其作规范和约束。这样就达到了把风险降到较低、又抓住机遇的目的。

我想表达的就是对人工智能要抢抓机遇，科学地看待威胁，制定社会准则，规避风险。