近日，日本政府宣布将于2020年允许无人驾驶的乘用车在部分地区上路。自2017年起，在人口过疏地区和郊外的公路上启动行驶试验。到2020年，在部分地区将允许民营企业提供无人出租车等服务。人工智能会造福人类还是威胁人类的讨论，也由此再度引发关注。

       此前，韩国棋手李世石与谷歌智能阿尔法狗的人机大战，将人工智能推到了全球舆论的风口浪尖：有人惊叹科技发展速度如此之快，也有人发出警告，需要对人工智能进行严肃的人文思考。可以看出，人机大战虽然已经结束，但由此引发的对人工智能的各种讨论并没有结束，而是刚刚开始。

       5月23日，上海市社会科学界联合会举办了以“人工智能与社会变革”为主题的“东方讲坛·科技与人文的对话”。同济大学电子与信息学院教授汪镭、上海交通大学科学史与科学文化研究院原院长江晓原、复旦大学社会发展与公共政策学院教授于海等围炉畅谈，就人工智能的未来展开深入对话。

       人工智能会否出现人类情感

       《福布斯》杂志近期刊文称，随着人工智能技术的发展，基于人工智能的设备不仅可以完成逻辑思考，还将出现类似人类的情感。这一说法，让本就炙手可热的人工智能讨论再添了一把火。

       那么，什么是人工智能呢？汪镭表示，人工智能是用于模拟开发和研究智能的各种技术和应用系统的新型的技术科学。人工智能不是人的本体智能，但是它能够像人那样去思考，也可能超越人的智能。国内现在流行的人工智能研究领域，包含机器人、无人车、数据挖掘、专家系统、智能控制、博弈论，等等。具体理论工作包含自动程序设计、语言处理、知识表现、智能搜索、机器学习、调度等，基础则是各种各样的智能算法。国际上，现在强调智能学科的各种交叉，同时关注智能的认知科学，并引入了创造学、情感、神经科学、感知、生物等，智能教育学、智能家居、智能游戏等也是他们关注的对象。汪镭表示，自然之美是人工智能的模拟对象，人工智能科学家想的就是能否从自然之启发始，回归自然。所以，人工智能包含物质层次，如物理、化学等，包含生命层次，包含生命系统、生物群体、生态系统借鉴，还有一个层次就是社会、文化、情感方面的借鉴。

       机器人出现人类情感有着巨大的想象空间，这似乎也正是人工智能科学家的梦想，但于海认为，智能技术进入人类情感很可能只是科学主义的一厢情愿。于海认为，科学探索是无止境的，但模拟人心本质上已经不是科学了，或者应该说是科学的越界。科学研究的是现象世界的因果关系，而模拟人心并非是现象世界的因果关系。于海说，类似的意思，哲学家康德曾经表达过。康德对科学向来是乐观的，或者向来认为科学是没有止境的。但康德又说了另外一句话，即我要限制知识，以便为信仰留出地方。对于一些脑科学家，包括经济学领域想引用行为科学关系到经济学研究中，“我一直认为，这是一条走不通的路。这是因为，这条路还是用科学的办法去解决价值问题、解决人心问题”。在现在的脑神经科学中，观察一个好人与一个坏人的脑部神经反应可以发现，在大脑神经脑电波放电的图上，遇到让他们感到快乐的事情时，图形是差不多的。但是，让好人脑电波放电的事可能是助人为乐，让坏人脑电波放电的事可能是杀人放火，而目前的科学对此是不能辨别的。形成这两种行为的道路也完全是社会的，那是人类的经验，是没办法还原为那些脑电波的构造或者是过程的。“科学想进入到情感领域、文化领域、心灵领域、情感领域，我想说的是此路不通，人工智能也应当如此。”

       人工智能会导致大量失业吗

       对于人工智能可能蕴藏的巨大能量，人们表现出了不同的态度。活动现场，有听众表示担心，无人驾驶汽车会不会抢了职业司机的饭碗？电影《骇客帝国》中出现的场景会不会成为不久后的社会现实？人工智能技术的发展对人类社会将会产生怎样的影响？

       汪镭认为，关于人工智能的未来，一个需要考虑的关键问题是，人机关系究竟会发展到什么地步？在这个未来里面，起作用的不只是人工智能会做什么，机器人会做什么，还要看人类正在干什么。智能是一个形容词，如果不和名词、动词合理进行结合是没有意义的。同理，研究人工智能技术的同时，必须讨论它的人文及社会含义。例如，原子弹武器是可以消灭大量人类的，但若使用得当，也会造福人类。因此，怎么样研究智能的使用以及使用范围，才是需要重点讨论的。汪镭认为，从技术特征来看，人工智能“是更难被不符合人类进步趋势的小利益集团所全部掌控”的一种技术，因而也可能会更加安全。他表示，智能二字是具有平台特征的，正因为它涉及的技术范围更广，技术指向更加精美，技术实现更加困难，理论研究的范围更加宽广，人工智能研究这种具有普遍意义的劳动工具也应该更容易被更广泛的人群所接受和理解。同时进一步发展，人工智能技术将更容易满足更广泛的集团需求，然后也更容易激发更广泛的人类集团的研究兴趣和应用。相应地，其技术封锁的可能性，利益集团捆绑的可能性，借助它进行隐性或者显性剥削的可能性也会越来越小。就中国人工智能发展而言，必须先分清符合当前中国实际的学科发展的合理方向，从而在人工智能发展中间加以合理的借鉴，我们人工智能研究不能脱离国家和民族的利益进行无原则的拓展。

       江晓原则认为，人工智能的好处大家已经都知道了，现在恰恰要讲的是人工智能的危险部分。他把发展人工智能比作是“人类在玩火”：现在人类玩的最危险的两把火，一把是生物技术，一把就是人工智能。生物技术带来了很多伦理问题，但是那把火的危险性还没有人工智能大，人工智能与所有科学技术都不一样，也因此，人工智能这把火最危险。江晓原认为，人工智能威胁可以分为三个层次看，近期威胁、中期威胁以及最远期的终极威胁。对于人工智能可能带来的社会影响，不能只看人工智能会否让工厂的工人失业，更要分析人工智能造成失业后可能带来怎样的社会后果。譬如，今天如果有少数人没有工作，多数人有工作，是没问题的。这是因为，这样的社会是现有的社会制度和伦理道德结构能够承受的。但如果颠倒过来，社会中有相当大的比例，如超过50%甚至90%以上的工作都会被人工智能取代，社会会变成什么样？肯定会非常不稳定。再比如，将来人工智能不只是代替人类从事苦活、累活，而是所有的事情都由人工智能替人干了。那人活着干嘛呢？人很快就会变成一条寄生虫，人类这个群体就会在智能、体能上急剧衰落，像虫子一样在一个舒适的环境里活着，甚至自愿进入到骇客帝国的状态里去了。这样的人工智将最终消除人类生存的意义。

       在江晓原的眼中，反思人工智能的过程，也是反思人类自身的过程。以前一直说科学没有禁区，但现在看来科学仍然是有不可逾越的红线。更准确地说，在每一个特定的时期里，科学都应该有它的禁区。这个禁区可以在不同的时间里有所改变。比如，某些事情当人类社会已经准备好了，能够有伦理或者法律的东西规范它的时候，我们也许可以开放这个区域。但是没准备好的事情，现在是应当把它设为禁区的。这个禁区不只是指科学的善恶维度，也包括科学的高低维度，高到一定程度的时候就变成禁区了，不应该再追求上去了。也正是在此意义上说，不应该无限制地发展人工智能。

       人工智能如何造福人类

       对于如何让人工智能得到合理使用，造福人类而非威胁人类安全，专家表示，首先需要人类社会自己做好准备。

       江晓原表示，首先要对科学技术可能的危险有充分的认识，其次，要警惕科学与资本的共谋。他指出，不能说科技总是要向前发展的，就得出可以不做任何限制地发展人工智能的结论。以前曾经有科学的纯真年代，那个时候可以说科学是自然而然产生的，但是今天科学早就告别了纯真年代，今天的科学是跟资本密切结合在一块的。所有的这些活动，包括研发人工智能，背后可能都是巨大的商业驱动。谈到科学和资本结合在一起，要提醒大家重温马克思的名言，资本来到世间每个毛孔都滴着浓血和肮脏的东西。和资本密切结合在一起的科学肯定不是自然而然产生的。有时我们为了不受欺负，不得不搞某些科技，但是我们要知道这个东西可能是危险的，就像认识到原子弹是危险的一样，而认识到和没认识到是不一样的。面对今天的人工智能，应该由各大国谈判订立国际条约来严格约束研发。

       于海开出的“药方”是，规训人工智能、使其造福人类，关键是堵住可能产生的制度漏洞。他说，技术问题会引出文化和社会问题。比如，我们创造出什么样的机器人，是技术问题。我们应该不应该拥有核武器，谁该拥有核武器，是法律问题、社会问题。因此，在人工智能领域，人们怎么理解其可能产生的社会问题和文化问题，其实就蕴含着问题的答案。例如，大家都看过电影《手机》，为什么有了手机以后容易犯规？道理很简单，就是人们发现有了手机以后社会制约在某些环节上是会失控的。比如，原来打座机，可以知道对方是不是在办公室，但现在打手机，对方说在办公室，你是没办法判断真假的。这就对技术提出了一个要求，即道德跟智力要大体匹配，社会制约要和技术发展大体匹配。如果人们掌握了超常智力，但发现现有的道德能力和道德习惯不足以来支持掌握这样一种巨大的技术能力，就会出现问题。反过来说，面对人工智能技术的日益强大，人类社会必须要提升自己的道德能力和社会制约能力，才能更好地驾驭人工智能。在这个过程中，哲学家、政策制定者都是重要人群。哲学家需要发出批判的超前的设想，要告诉大家，技术在帮助人类的时候也在给我们找麻烦。只有这种“危言耸听”的话不断地响起，才会推动政治家、行政管理者包括技术专家们最终意识到问题的严重性，才可能会有一系列的集体应对决定和决策。

       汪镭则认为，应以人文之工开辟人工智能研究的下一个春天，借鉴人文及社会学科中间的精美方法和成果，为人工智能长远发展和宏观性方向提供指针。当前，人工智能研究应该突破的是可能陷入的局部性、历史性的问题研究的限制。借助人文社会学科的人工智能，如果使用得当，将成为人类飞跃式发展的平台工具，而不是人机棋类对抗之类相对简单的娱乐方法研究。此外，国外人工智能研究领域的许多做法也值得国内学习。例如，目前国外一些国家已经对人工智能的道德及社会伦理学问题加以系统性的讨论，并且在讨论它的哲学含义，讨论各类网络智能的语义特征、社交特征等等。这些看似纷繁复杂的讨论其实会引发人们的重视，从而成为共同行动的起点。

       本次对话由市社科联主办，东方讲坛和上海市社会科学普及研究会承办，是第15届上海市社科普及活动周的系列重要活动之一。市社联自2014年发起创办“东方讲坛·科技与人文的对话”以来，已围绕重大社会问题组织著名专家学者开展了四次对话讨论，为自然科学与社会科学两界搭建了交流平台，在社会进步中发挥积极作用。
 

（来源：上海观察  作者：李小佳  时间：2016年5月25日）

相关链接：http://web.shobserver.com/wx/detail.do?id=18499&time=1464140234379&from=singlemessage&isappinstalled=0