防止智能机器人失控 人类需未雨绸缪
在《终结者》系列电影中，计算机防御体系“天网”获得了自我意识，它认定人类会威胁到自身的存在，于是开始实施灭绝人类的行动。这样的场景在现实中并未出现，但有科学家认为，这一危险确实存在——人造智能技术越发达，就越像“潘多拉的盒子”，一旦打开了，就会危害人类。英国剑桥大学近日宣布要组织专家成立一个“生存风险研究中心”，又称“终结者研究中心”，将致力于研究如何应对人工智能产物可能给人类造成的威胁。
人类文明会被摧毁？
古希腊哲学家普罗泰戈拉在《论真理》中说“人是万物的尺度”。人类也向来自诩为万物之灵，认为自己是世界的主宰。然而，从机器人出现的那天起，就有人预言这种人工智能的产物会统治地球，甚至整个宇宙。电影《2001太空漫游》里的一句台词，展现了人类与机器人之间的矛盾——“他们（人类）把我们造得太聪明，太完美，而到了最后，剩下的只会是我们”。
电影《终结者》中毁灭人类的机器人
“机器人”（Robot）这个词最早出现在捷克著名剧作家、科幻文学家、童话寓言家卡雷尔·恰佩克1921年创作的戏剧《罗素姆万能机器人》中。在捷克语中，“机器人”一词的意思是“奴隶”。
我们对于机器人的认识，是从科幻小说与影片当中开始的。如今，机器人早已不再是迷人的幻想。近些年来，智能机器人的研发，已被广泛应用到水下探测、空间探测、医学、军事等领域，而且还越来越有“飞入寻常百姓家”的趋势——从婴幼儿照顾到老年人看护，小巧可爱的智能保姆机器人也很受欢迎。
机器人越来越聪明，种类和数量也越来越多，随之而来的一个大问题就是，机器人会超越人类，最终统治人类，甚至摧毁人类的文明吗？尽管科幻小说家艾萨克·阿西莫夫在他的小说中对机器人的行为进行了限制，提出了“机器人三大定律”——第一，机器人不得伤害人，也不得见人受到伤害而袖手旁观；第二，机器人应服从人的一切命令，但不得违反第一定律；第三，机器人应保护自身的安全，但不得违反第一、第二定律。但人们依然十分担心，机器人至少在理论上有可能会凌驾于创造了它们的人类之上。
在首届山东省机器人展上，可爱的机器人吸引了人们的注意
有科学家认为人类最大的风险之一就是自掘坟墓——人类亲手创造了机器人，但这种人工智能的产物却有可能会毁灭创造了自己的人类。这种担心在几十年前也许会被嗤笑为杞人忧天，但现在，英国剑桥大学的一些科学家、哲学家和工程师宣布将成立生存风险研究中心，专门研究对人类可能造成“灭顶之灾”的人工智能技术。
这个将于明年上半年开放的研究中心由剑桥大学著名哲学系教授休·普雷斯、宇宙学教授马丁·里斯勋爵和斯盖普公司的创始人扬·塔里安联手创办。这个中心将主要探讨如何更好地控制智能机器人。专家们还将为人们详细分析当下不断发展的人工智能中可能潜伏着的威胁。
人工智能可能失控？
普雷斯、里斯和塔里安三人均认为“人类技术进步可能很快会对人类物种构成毁灭的风险”。他们想把哲学、天文学、生物学、机器人学、神经学和经济学等不同学科的学者聚集起来，研究如何应对这些威胁。普雷斯说：“目前机器在很多方面都比人类做得好，例如国际象棋、飞行、驾驶、金融交易等。我们担心人类可能会把对地球的控制权拱手让给人工智能机器。”
对此，剑桥大学的学者们决定严阵以待，以便确保人类不至于被自己制造的“恶魔”机器人毁灭。这个“终结者研究中心”的主要任务是研制如何抗衡可能导致人类灭绝的四大恶魔——人工智能、气候变化、核战争和邪恶的生物技术。剑桥大学的学者们担心气候变化、核战争和邪恶的生物技术会导致人类的灭亡，但最担心的还是智能机器对人类的叛变。
他们认为，像“终结者”这样的智能机器人，未来各个国家都会批量生产，并投入到实际应用中，一旦某种“超智能机器人”逃离了人们的控制，潜在威胁不可小觑。因此，人类必须在人工智能科技成熟前，找到控制智能机器人的好办法。
在美国，一些人认为，人工智能将推动人类进步。未来学家雷·库日韦尔预测说，到2040年左右，人类将建造出一个可解决所有疾病的强大智能系统。但是，剑桥大学生存风险研究中心的专家们则悲观得多。
里斯勋爵说：“公众没有完全认识到这些风险的严重性。”他在2003年出版的《我们最后的世纪》一书里警告说：人类的破坏性及表现出来的各种自残、自毁行为，最终可能导致2100年人类彻底灭绝。
普雷斯教授曾经提醒人们，“超级智能机器”，或称人工综合智能，确实涉及人类存亡。他说：“超级人工智能有可能是‘潘多拉的盒子’，一旦盒盖打开了，灾难也许会飞洒人世。我们对此务必重视，错过这个关键时刻，就可能陷入灭顶之灾。”
当然，普雷斯教授承认现在谁都无法准确预计超级人工智能会带来哪些灾难，但这也正说明很有必要立项研究科技发展的“灾难性的一面”。他表示，剑桥大学已经存在了800年，为了后人能够庆祝它建校1000周年，现在就应该提前打造抗击“人类终结者机器人”的利剑。
普雷斯教授说，按照当下的技术条件，很有可能在人们还没有意识到人工智能技术所带来的危害时，明年的某个时候，它也许就会摆脱生理学的禁锢。他表示，由于当下人们对这一领域的潜在威胁信息掌握的极少，所以很有必要建立这样一个学术机构来专门研究这一问题。
人类需未雨绸缪
机器人有可能接管人类，这一直是科幻电影的中心主题。其中，最著名的就是“天网防火墙”——这是《终结者》电影中描述的一种流氓计算机系统。它获得了自我意识，并且在被开发出来之后，就对人类进行了攻击。
今天，有研究人员宣称，在未来的某一时刻，机器人和计算机将比人类更聪明。他们称，人类需要谨慎关注机器人比自己聪明的状况。“这些风险的严重性是难以评估的，但究竟存在什么风险，这本身就是需要我们关心的问题。”
普雷斯教授说：“这似乎是一个合理的预言，在这个世纪或下个世纪的某一时刻，人工智能将会逃避开生物学的限制。我们正在尝试把这一研究推向值得尊敬的科学团体。”
毫无疑问，机器人将成为人类文明的重要组成部分，电脑无处不在，未来，它还会被植入家具、衣服以及人体内，还可以将现实世界阻隔在外，让人们进入一个完全的虚拟世界。尽管这并不是一场以取代人类为目标的外星人入侵，但是我们难免会出现失误或漏洞，这就会给机器人反客为主、控制人类的机会。
机器人是人类创造的科技产物，但是有很多人担心驾驭不了自己创造的这种力量。早在20世纪初就有人预言人类将被机器人毁灭。《黑客帝国》的故事发生在22世纪，其中电脑取代人类，成为地球主宰的情形，令相当一部分人不寒而栗。美国普林斯顿大学的萨帕尼可夫曾预言：人类将被机器人所代替，人将成为机器人的玩物，保存在动物园里。电影《终结者》和《黑客帝国》中，人类被机器人统治的场面，会在将来出现吗？22世纪会是机器人的天下吗？
无论怎么样，随着机器人技术的发展与应用日臻成熟，机器人与人类的关系也日益密切，机器人的道德伦理问题也被越来越多的人关注，世界各国科学家呼吁出台机器人伦理道德和法律规范的声音也越来越大。当机器人越来越接近每一个人的时候，我们需要做好长远考虑。
来源：光明日报