论文部分内容阅读
肩题：现实远超乎想象
导语：
现在是否还有人记得，在80年代，我们还在大学的树荫下唱着“再过二十年，我们来相会”歌儿的时候，从美国传来一本1980年出版的新书“第三次浪潮”。作者阿尔文-托夫勒（AlvinToffler：The Third Wave，1980 ）在书中提出人类社会发展三个浪潮的理论。
左：当地时间2016年2月28日，美国洛杉矶，第88届奥斯卡金像奖后台。《星球大战》机器人PK奥斯卡小金人。
按照托夫勒的学说，第一浪潮起因于从原始狩猎社会向农业社会的转变，第二个浪潮代表农业社会向工业社会的迈进。有意思的是，作者这样描述工业社会：“第二浪潮的社会是工业化社会，以大批量生产、运输、消费，普及教育，大众媒体，大众娱乐，和大规模杀伤武器为特征。你将这些特征结合在一起，集中、凝聚和等时化起来，就形成称之为官僚的机构”。第三次浪潮标志着后工业时代的到来。作者认为，事实上，很多国家从本世纪50年代开始已经慢慢进入后工业时代。这是一个信息时代，这个时代的起始标志，应是大型计算机的研发和使用。
在80年代，我们阅读“第三次浪潮”这本书时，与其说是能够恰如其分地憧憬未来信息革命为人们带来的那些五花十门的变化，还不如说是更多地回味过去数千年来人类社会所经历的种种变迁，并为之感慨。我们那时根本难以真正想像三十多年来风起云涌的全球信息革命是如此深刻地影响着当今社会和个人生活的方方面面。记得在80年代末90年代初，我初到美国留学时，打一通到中国的越洋电话，20分钟话费高达30美元，在当时对我们穷学生来说真是天文数字，所以我们都舍不得给家人打电话。如今，新一代的留学生们手里拿着智能手机，走到哪里都能随时与家人通过音频说话或视频见面。而在某一个被世人遗忘的角落里，如若有奇奇怪怪的事情发生，见证者随手一个抓拍数秒之内即可传遍世界，所以种种好事坏事都如同纸包不住火，甚至你在公众场合的一举一动都有可能在某个智能系统的监控之下。电脑时代和信息革命对人类生活的冲击，的确是我们三十年多前始料不及的。
而当我们还在对电脑时代的奇迹啧啧称奇时，一个新的时代似乎已经悄悄来临：智能机器人和超智能系统时代。
美国南卡罗来纳州.20岁的男子Dakota Privette是一名脑瘫患者.他出生时因缺氧患上脑瘫.加之脊柱侧凸导致他的脊椎呈S状弯曲.Dakota一生下来就被剥夺了行走能力，他从小的愿望就是能独立行走，如今在REX仿生机器人公司的帮助下.Dakota装上了机器人腿.终于国了他的梦。
何谓人工智能？
从数年前“西丽”（SIRI）个人智能助手开始在苹果手机的运用，到目前自动驾驶汽车的上市，人工智能机器已经快步走来。尽管在科学幻想小说里，人工智能往往被描述成具有人类特质或外形的所谓机器人，今天的人工智能实际上包括了像谷歌的网络浏览器，到IBM的瓦特森（Watson）探测器，到各种自动检测系统，甚至自动武器。
今天的人工智能被称为狭义（或单功能）智能机器人，主要用来操作简单工作任务，比如拖地，洗车，或自动开车。但是，目前工业界很多研究者的胃口比这远远要大，他们的长远目标是发明所谓综合智能机器人（AGI）。今天的单功能人工智能“机器人”或系统只能在某个单项工作中超过人类。而未来，不管你觉得有趣也好，可怕也好，综合智能机器人将会在几乎所有的综合工作任务中超过人类。那时，人们可能买个机器人回家做保姆，甚至不娶真人为妻，不嫁真人为夫，找个机器人做女伴或男伴，或者养几个机器人孩子。如果你苦于没有知心朋友可以倾诉衷情，可以找几个对你理解体贴、关怀备至的机器人朋友。至于机器人给职场的冲击也可想而知：沃尔玛商场将再不需要雇佣大批收款员，让机器人包下来就行; 大批门卫可以由人工智能机器人取代，在公共场合维持秩序的，可能只要一两个真人警察带上一群机器人就行了。除了个别特别需要个人经验和智慧的行业和工种，很多工作都可能被智能机器人取代。当然，高智商的不法分子也可能利用智能机器人实施犯罪行为。由此带来的社会问题，我们人类究竟准备好了吗？
为何专家要研究人工智能的安全性？
就目前而言，让机器人服务人类是人工智能研究的动力。对人工智能的确切功能，安全和控制的研究涵盖了经济、法律和技术等领域。对人工智能安全的关注可以从小处的问题诸如计算机坏掉、资料被偷，到更大的问题，比如整个人工智能系统控制了你的整个衣食住行，从行车、乘机、计步器，自动股票贸易体系，甚至电网。我们能够从容地应对这样的变化？另外人们关心的另一个大问题是，如何控制有人利用人工智能进行杀伤性武器的竞赛，如何控制恐怖分子利用人工智能系统进行反人类的活动。
就长远而言，一个重要的问题是，如果人工智能体系在所有需要智能认知的行为中超过人类，那么这样的体系有可能能够通过自我改进，导致所谓智商爆炸，从而把人类的智能远远抛到后面。对人工智能乐观其成的专家学者和社会活动家认为，通过发明革命性的新技术，这样的超智能系统也许能够帮助人类根除战争、病害和贫困，因此创造出强有力的人工智能系统可能是人类历史上最重大的事件。但另一方面，有些专家担心，创造出超强的人工智能系统之时，也是人类自己的末日，除非我们能够在人工智能系统获得超智慧之前，把人工智能系統的行为目标与人类自己的生存目标达成一致。 另外，对于人工智能能够成功，专家们仍然看法不一，有人怀疑超强的人工智能系统很难真正达到某些设想那样的水平，但也有人认为肯定可以，而且对社会是有益的。美国“人类未来生活研究所”（Future of Life Institute）认为，两种可能性都是存在的。重要的是，必须充分意识到人工智能系统有益或无意地造成公害的潜在可能。他们认为，有效的研究可以帮助人类在享受人工智能系统带来的利益的同时，准备对付和预防其可能带来的负面结果。
近来，很多社会名人研究人员，包括科学家史提芬霍金（Stephen Hawking），商界名人兼发明家爱龙莫思克（Elon Musk），苹果公司创始人之一史提夫沃兹耐克（Steve Wozniak），和微软前总裁比尔盖茨（Bill Gates）等，纷纷对人工智能可能带来的风险表达了深度的关注。
有关人工智能的成功，数个世纪来早已存在于科幻小说中。但是，近年很多技术的突破才使专家们认真正视“超智能”体系在我们当今当世走向前台的可能性。虽说很多专家仍然认为具备人类智能的人工智能系统将会在若干世纪之后才能出现，很多出席2015年在波多黎各召开的“人工智能的未来：机会和挑战”国际会议的专家认为，大规模的人工智能时代，2060年就会开始。大家认为，剩下的时间很有限，对人工智能安全问题的研究必须立即开始。
倘若人工智能系统果然变得比人类还聪明，我们对这些系统的行为将没有有效的办法加以预测，因为人类在此之前从来没有创造出任何比人类更加聪明的东西。这样连人类本身演化都会备受挑战：今天我们人类能够控制这个星球，不是我们最有力，最快或最大，而是我们最聪明。如果我们不再是最聪明的动物，我们还能假定我们可以保持对世界的控制吗？
神话和事实
在有关高级人工智能系统的未来和它们对人类的影响的讨论中，世界知名的专家各有认知，他们的观点可能大庭相抗。这些问题包括，人工智能对雇佣市场的影响，具有人类认知能力的人工智能系统会不会被开发出来，如开发，会不会导致所谓智能爆炸，我们对这个可能趋势是否要欢迎或是害怕，等等。
但是，在我们回答这些问题之前，对一些有关人工智能潜力的神话和现实，首先有必要加以澄清。
（此部分建議稍微设计一下）
神话之一，超智能体系在2100年之前是不可避免的，或是不可能的。事实是，这可能在几十年间发生，或者永远不会发生。所有的专家对此看法不一。
神话之二，只有那些反机器生产反自动化人士才担心超智能系统的研发。其实不然，很多顶级研究者都有所顾虑。
神话之三，超智能体系变成魔鬼一样邪恶，或者有了像人类一样的知觉。事实是，人工智能系统可能会变成人类的竞争者，具有与我们不同的目标。
神话之四，机器人是一个令人疑虑、担心的问题。事实是，可能令人担忧的问题不只是机器人。任何与人类发展目标不一致的智能系统都可能是一种麻烦，不需要有一个实实在在的“身体”，这些系统，只要有万维网连接就行。
神话之五，人工智能不能控制人类。事实是，控制力来自智商。比如说，我们人类能够控制老虎，那只是因为我们比老虎聪明。
神话之六，机器是没有目标的。事实是，比如像热导导弹这样的机器，也能有自己的目标。超智慧的智能系统，有可能产生自身的行为目的，而且与它们的创造者的目标不一致。
神话之七，超智能体系在数年里就会出现。事实是，至少需要几十年。但是，我们应该直到，要研究出使这样的超智能体系安全的措施，也需要这样的时间尺度。
对人类的影响
目前，通过人工智能系统操作的软件机器人正在悄悄地出现。这样的系统能够与计算机的用户终端相交汇，比如对类似SAP的大型会计数据系统进行操作。
科学家们的研究揭示，RPA系统与其他的技术革新一样，能够造成全球劳力市场产能和效率的大规模改进。牛津大学的有关研究人员认为，这样的改进在2035年将使35% 的工作完全可以做到自动化。
专家认为，类似RPA 的所谓“数字劳力”不仅有可能把服务行业的成本降低，也可能提供服务质量，或者使服务做到更加个性化。
哈佛商业报（Harvard Business Review）指出，大部分开始使用RPA系统的业主对他们的员工承诺，自动化不会导致解雇，而是让员工可以干更有趣的工作。一个学术系统的研究也指出，有知识的员工并不感受到自动化有什么威胁。他们欢迎这个过程，并把机器人看作是“工作伙伴”。这个研究指出，自动化不会导致减员，而是通过新技术的使用达到在相当员工人数的情况下改进工作效率、提高产能的目的。
美国的Meqabot ll是美国机器人公司Meqabots研发的一台战斗机器人，靠履带移动.配备了两把巨大的模块化空气大炮作为武器.可以120英里J、时的速度发射出3磅重的喷漆炮弹。
不过，也有研究认为，RPA 将会造成对某些工业，比如外包商业服务工业的威胁。对于大众而言，也许我们会关心，工作效率的改善毕竟对依靠劳力的劳动者会是一个冲击。而且，就算是雇主仍使用一样的雇员人数，只是改善效率和提高产能，那么多余的产量对社会会不会又造成别样的冲击？当他们受到同业者的挑战，必需在提高效率的同时又削减开支时，他们还能“让员工干对他们来说更有兴趣的事情”吗？
当世界进入后信息时代，人工智能的开发似乎难以避免。人类到底该不该开发能够在智能上超过人类的人工智能系统，能不能让这些系统与人类总体的发展目标达成一致，显然是一个值得社会各界共同关注的问题。在人类发展的过程中，有很多所谓“异化”的现象，也就是出自良好本意的发展，回头来却给人类自身带来危害，比如工业革命带来的环境破坏。那么，我们会不会研制出智商比人类还要高的机器人，或人工智能系统，到头来却对人类造成难以估量的损害？
后信息时代，着实是一个变化万端的时代。也许，对应未来技术发展的挑战，更需要紧密的国际合作，需要一大批有知识有技能有良知的社会科学家、自然科学家、工程技术人员，和政治家的参与和协作，需要国际立法，更多的协调和协商。
导语：
现在是否还有人记得，在80年代，我们还在大学的树荫下唱着“再过二十年，我们来相会”歌儿的时候，从美国传来一本1980年出版的新书“第三次浪潮”。作者阿尔文-托夫勒（AlvinToffler：The Third Wave，1980 ）在书中提出人类社会发展三个浪潮的理论。
按照托夫勒的学说，第一浪潮起因于从原始狩猎社会向农业社会的转变，第二个浪潮代表农业社会向工业社会的迈进。有意思的是，作者这样描述工业社会：“第二浪潮的社会是工业化社会，以大批量生产、运输、消费，普及教育，大众媒体，大众娱乐，和大规模杀伤武器为特征。你将这些特征结合在一起，集中、凝聚和等时化起来，就形成称之为官僚的机构”。第三次浪潮标志着后工业时代的到来。作者认为，事实上，很多国家从本世纪50年代开始已经慢慢进入后工业时代。这是一个信息时代，这个时代的起始标志，应是大型计算机的研发和使用。
在80年代，我们阅读“第三次浪潮”这本书时，与其说是能够恰如其分地憧憬未来信息革命为人们带来的那些五花十门的变化，还不如说是更多地回味过去数千年来人类社会所经历的种种变迁，并为之感慨。我们那时根本难以真正想像三十多年来风起云涌的全球信息革命是如此深刻地影响着当今社会和个人生活的方方面面。记得在80年代末90年代初，我初到美国留学时，打一通到中国的越洋电话，20分钟话费高达30美元，在当时对我们穷学生来说真是天文数字，所以我们都舍不得给家人打电话。如今，新一代的留学生们手里拿着智能手机，走到哪里都能随时与家人通过音频说话或视频见面。而在某一个被世人遗忘的角落里，如若有奇奇怪怪的事情发生，见证者随手一个抓拍数秒之内即可传遍世界，所以种种好事坏事都如同纸包不住火，甚至你在公众场合的一举一动都有可能在某个智能系统的监控之下。电脑时代和信息革命对人类生活的冲击，的确是我们三十年多前始料不及的。
而当我们还在对电脑时代的奇迹啧啧称奇时，一个新的时代似乎已经悄悄来临：智能机器人和超智能系统时代。
何谓人工智能？
从数年前“西丽”（SIRI）个人智能助手开始在苹果手机的运用，到目前自动驾驶汽车的上市，人工智能机器已经快步走来。尽管在科学幻想小说里，人工智能往往被描述成具有人类特质或外形的所谓机器人，今天的人工智能实际上包括了像谷歌的网络浏览器，到IBM的瓦特森（Watson）探测器，到各种自动检测系统，甚至自动武器。
今天的人工智能被称为狭义（或单功能）智能机器人，主要用来操作简单工作任务，比如拖地，洗车，或自动开车。但是，目前工业界很多研究者的胃口比这远远要大，他们的长远目标是发明所谓综合智能机器人（AGI）。今天的单功能人工智能“机器人”或系统只能在某个单项工作中超过人类。而未来，不管你觉得有趣也好，可怕也好，综合智能机器人将会在几乎所有的综合工作任务中超过人类。那时，人们可能买个机器人回家做保姆，甚至不娶真人为妻，不嫁真人为夫，找个机器人做女伴或男伴，或者养几个机器人孩子。如果你苦于没有知心朋友可以倾诉衷情，可以找几个对你理解体贴、关怀备至的机器人朋友。至于机器人给职场的冲击也可想而知：沃尔玛商场将再不需要雇佣大批收款员，让机器人包下来就行; 大批门卫可以由人工智能机器人取代，在公共场合维持秩序的，可能只要一两个真人警察带上一群机器人就行了。除了个别特别需要个人经验和智慧的行业和工种，很多工作都可能被智能机器人取代。当然，高智商的不法分子也可能利用智能机器人实施犯罪行为。由此带来的社会问题，我们人类究竟准备好了吗？
为何专家要研究人工智能的安全性？
就目前而言，让机器人服务人类是人工智能研究的动力。对人工智能的确切功能，安全和控制的研究涵盖了经济、法律和技术等领域。对人工智能安全的关注可以从小处的问题诸如计算机坏掉、资料被偷，到更大的问题，比如整个人工智能系统控制了你的整个衣食住行，从行车、乘机、计步器，自动股票贸易体系，甚至电网。我们能够从容地应对这样的变化？另外人们关心的另一个大问题是，如何控制有人利用人工智能进行杀伤性武器的竞赛，如何控制恐怖分子利用人工智能系统进行反人类的活动。
就长远而言，一个重要的问题是，如果人工智能体系在所有需要智能认知的行为中超过人类，那么这样的体系有可能能够通过自我改进，导致所谓智商爆炸，从而把人类的智能远远抛到后面。对人工智能乐观其成的专家学者和社会活动家认为，通过发明革命性的新技术，这样的超智能系统也许能够帮助人类根除战争、病害和贫困，因此创造出强有力的人工智能系统可能是人类历史上最重大的事件。但另一方面，有些专家担心，创造出超强的人工智能系统之时，也是人类自己的末日，除非我们能够在人工智能系统获得超智慧之前，把人工智能系統的行为目标与人类自己的生存目标达成一致。 另外，对于人工智能能够成功，专家们仍然看法不一，有人怀疑超强的人工智能系统很难真正达到某些设想那样的水平，但也有人认为肯定可以，而且对社会是有益的。美国“人类未来生活研究所”（Future of Life Institute）认为，两种可能性都是存在的。重要的是，必须充分意识到人工智能系统有益或无意地造成公害的潜在可能。他们认为，有效的研究可以帮助人类在享受人工智能系统带来的利益的同时，准备对付和预防其可能带来的负面结果。
近来，很多社会名人研究人员，包括科学家史提芬霍金（Stephen Hawking），商界名人兼发明家爱龙莫思克（Elon Musk），苹果公司创始人之一史提夫沃兹耐克（Steve Wozniak），和微软前总裁比尔盖茨（Bill Gates）等，纷纷对人工智能可能带来的风险表达了深度的关注。
有关人工智能的成功，数个世纪来早已存在于科幻小说中。但是，近年很多技术的突破才使专家们认真正视“超智能”体系在我们当今当世走向前台的可能性。虽说很多专家仍然认为具备人类智能的人工智能系统将会在若干世纪之后才能出现，很多出席2015年在波多黎各召开的“人工智能的未来：机会和挑战”国际会议的专家认为，大规模的人工智能时代，2060年就会开始。大家认为，剩下的时间很有限，对人工智能安全问题的研究必须立即开始。
倘若人工智能系统果然变得比人类还聪明，我们对这些系统的行为将没有有效的办法加以预测，因为人类在此之前从来没有创造出任何比人类更加聪明的东西。这样连人类本身演化都会备受挑战：今天我们人类能够控制这个星球，不是我们最有力，最快或最大，而是我们最聪明。如果我们不再是最聪明的动物，我们还能假定我们可以保持对世界的控制吗？
神话和事实
在有关高级人工智能系统的未来和它们对人类的影响的讨论中，世界知名的专家各有认知，他们的观点可能大庭相抗。这些问题包括，人工智能对雇佣市场的影响，具有人类认知能力的人工智能系统会不会被开发出来，如开发，会不会导致所谓智能爆炸，我们对这个可能趋势是否要欢迎或是害怕，等等。
但是，在我们回答这些问题之前，对一些有关人工智能潜力的神话和现实，首先有必要加以澄清。
（此部分建議稍微设计一下）
神话之一，超智能体系在2100年之前是不可避免的，或是不可能的。事实是，这可能在几十年间发生，或者永远不会发生。所有的专家对此看法不一。
神话之二，只有那些反机器生产反自动化人士才担心超智能系统的研发。其实不然，很多顶级研究者都有所顾虑。
神话之三，超智能体系变成魔鬼一样邪恶，或者有了像人类一样的知觉。事实是，人工智能系统可能会变成人类的竞争者，具有与我们不同的目标。
神话之四，机器人是一个令人疑虑、担心的问题。事实是，可能令人担忧的问题不只是机器人。任何与人类发展目标不一致的智能系统都可能是一种麻烦，不需要有一个实实在在的“身体”，这些系统，只要有万维网连接就行。
神话之五，人工智能不能控制人类。事实是，控制力来自智商。比如说，我们人类能够控制老虎，那只是因为我们比老虎聪明。
神话之六，机器是没有目标的。事实是，比如像热导导弹这样的机器，也能有自己的目标。超智慧的智能系统，有可能产生自身的行为目的，而且与它们的创造者的目标不一致。
神话之七，超智能体系在数年里就会出现。事实是，至少需要几十年。但是，我们应该直到，要研究出使这样的超智能体系安全的措施，也需要这样的时间尺度。
对人类的影响
目前，通过人工智能系统操作的软件机器人正在悄悄地出现。这样的系统能够与计算机的用户终端相交汇，比如对类似SAP的大型会计数据系统进行操作。
科学家们的研究揭示，RPA系统与其他的技术革新一样，能够造成全球劳力市场产能和效率的大规模改进。牛津大学的有关研究人员认为，这样的改进在2035年将使35% 的工作完全可以做到自动化。
专家认为，类似RPA 的所谓“数字劳力”不仅有可能把服务行业的成本降低，也可能提供服务质量，或者使服务做到更加个性化。
哈佛商业报（Harvard Business Review）指出，大部分开始使用RPA系统的业主对他们的员工承诺，自动化不会导致解雇，而是让员工可以干更有趣的工作。一个学术系统的研究也指出，有知识的员工并不感受到自动化有什么威胁。他们欢迎这个过程，并把机器人看作是“工作伙伴”。这个研究指出，自动化不会导致减员，而是通过新技术的使用达到在相当员工人数的情况下改进工作效率、提高产能的目的。
不过，也有研究认为，RPA 将会造成对某些工业，比如外包商业服务工业的威胁。对于大众而言，也许我们会关心，工作效率的改善毕竟对依靠劳力的劳动者会是一个冲击。而且，就算是雇主仍使用一样的雇员人数，只是改善效率和提高产能，那么多余的产量对社会会不会又造成别样的冲击？当他们受到同业者的挑战，必需在提高效率的同时又削减开支时，他们还能“让员工干对他们来说更有兴趣的事情”吗？
当世界进入后信息时代，人工智能的开发似乎难以避免。人类到底该不该开发能够在智能上超过人类的人工智能系统，能不能让这些系统与人类总体的发展目标达成一致，显然是一个值得社会各界共同关注的问题。在人类发展的过程中，有很多所谓“异化”的现象，也就是出自良好本意的发展，回头来却给人类自身带来危害，比如工业革命带来的环境破坏。那么，我们会不会研制出智商比人类还要高的机器人，或人工智能系统，到头来却对人类造成难以估量的损害？
后信息时代，着实是一个变化万端的时代。也许，对应未来技术发展的挑战，更需要紧密的国际合作，需要一大批有知识有技能有良知的社会科学家、自然科学家、工程技术人员，和政治家的参与和协作，需要国际立法，更多的协调和协商。