论文部分内容阅读
我们知道，以往在设计机器智能系统的时候，技术人员总是会试图让它们模拟和还原人类的行为。于是我们看到，机器在复制人类的过程中，学会了如何看、如何下棋，甚至还会像人一样控制肢体来上一段花式体操。看起来，似乎机器的能力已经突飞猛进了，但为什么小说和电影里那么多牛气冲天的机器人，生活中却一个也没有呢？这就是因为机器人的自我意识缺失。它只能完成人类告诉它的事情，并且还十分费劲。至于强智能系统需要的自我模拟、自我建模，更是遥远的天方夜谭。但现在，仿生群体粒子机器人的出现，似乎让这个问题有了新的答案。
和人们想象中拥有机械身体、超智慧大脑的人形智能机器人不同，Hod Lipson所说的机器意识，很可能最先从粒子机器人集群中诞生。
2019年3月，hod lipson团队发明的新兴粒子机器人登上了《自然》杂志封面，让“机器的自我意识”出现了松动，这一发现也在学界引起了轩然大波。其创新性主要来自两个方面：一是这些由“粒子”（即圆盘状单元）组成的机械系统，不需要人类的强集中控制，也能依靠自主性伸缩和随机运动完成复杂的任务；二是这种系统很可能产生觉知，通过思考“我为什么在这里”进而做出自我模拟、自我复制，从而可以在设备故障、特殊作业环境中顺利完成任务。
我们知道，人工智能研究是建立在人脑如何工作的基础之上的，而意识则是其中十分高级的一环。粒子机器人集群的进步，说明机器人学来到了哪个阶段呢？
首先，在担忧机器威胁人类社会之前，我们会率先品尝到技术进步带来的甜蜜时刻。之所以这么说，是因为前面的发现，正在将机器能够模拟的心智能力推向更高维度。根据目前的科学研究，人类的心智主要包括四大能力，其中视觉感知和推理能力，已经被神经网络模型复制到了现实世界，计算机视觉、AI大脑正在成为新的生产力引擎。而情感和社会关系，比如不同文化圈的人类能够感受到爱恨悲喜等相通的感情，能够根据合作、竞争、友谊、家人等不同的社会关系来产生动机并预测行为。
后面两种能力才是机器人和科研人员苦求而不得的高级智能。机器如果拥有它们，会发生什么呢？至少目光所能及的未来很值得心动。
以粒子机器人为例，这种非常初级的“极可能拥有意识”的机器系统，能够带来的社会价值都是巨大的。
一方面，机器人如果能够模拟其它的人类和机器人，那也就会启动机器人之间的社会行为，进而可以认知环境、预测未来并主动采取行动。
如果机器某个零件坏了，它就可以自己修复，这使得机器的利用效率和适用范围大大提升。比如工厂里的机器、家里的吸尘器等，一些部件坏掉就会让整个机器无法运作。未来由这些纳米级机器人组成的机器，就能够不断循环，单个足见坏掉之后依然可以使用，帮助使用者不断节省成本。
另一方面，能够为未来科技打开新的想象空间与可能性。比如太空科技，生物医药等，随着粒子机器人技术向毫米、纳米级演进，未来应用到人类的血管中帮助处理病灶，亦或是在月球上机器人可以根据任务的需求改变自身的形态。任何自动化智能系统，包括在技术瓶颈中苦寻出路的无人驾驶等，一旦它们能够有自我意识，从毁坏中恢复，就能够更快地改进，这都是并不遥远得机器智能未来。
接下来，我们再来聊聊第二个问题——如果机器有意识，“他”会是善还是恶？
在回答这个问题之前，我们不妨先聊聊计算机的进步。众所周知，今天的计算机已经比上个世纪更加聪明且强大，但类似《2001太空漫游》等科幻电影中大型主机反叛人类的担忧，却越来越少了。今天，我们也许会担心网络漏洞所引发的混乱或是人为恶意制造的病毒，却很少会想象出现什么电脑杀手或秘密组织。
人类为什么对智能机器人这么紧张呢？除了在智力、能力、体力上对人类个体的碾压之外，恐怕一個很大的恐惧来自于未知与不确定性：一旦机器拥有独立的人格和认知，会不会伤害人类呢？
问题来了，为什么机器人想要这么做呢？为了更多的服务器资源，还是伤害流水线工人会使其得到快感？在没有足够“奖励”的前提下机器会自己变坏吗？显然还要问人类自己。
很多人认为，机器人觉醒会像《西部世界》中女主角德洛瑞丝一样，意识到自己是被人类奴役和玩弄的，进而开始复仇。即使这一天真的会到来，我想以目前人类与机器人之间的关系，也不至于会变得剑拔弩张吧。
哪个“变态科学家”会甘愿冒天下之大不韪，丢给智能机器这样“反人类”的数据集，而不担心先被机器虐的是自己呢？
再进一步，如果出现了这样的人类“恐怖分子”，比如利用AI行骗、犯罪，将机器人改造成爆炸装置之类的，在技术上能否及时发现并遏制呢？
对于这一点，智能科学正在向网络安全界学习，引入一些成熟的防范机制，比如人工智能开发中的红色团队、人工智能系统中的正式验证，以及负责任地披露人工智能漏洞等等。
2019年，由OpenAI、牛津大学、剑桥大学等14家机构和高校共同发布的《人工智能恶意使用》报告中，也进一步号召人工智能领域形成规范和道德框架。在这样道德、技术、法律等多方面的做功下，机器人的自主意识还会对人类带来危险吗？严谨如Hod Lipson也只是回答——没那么简单。
“应该说任何这样的问题都没有一个简单的答案，但是我们必须走上这样一个历程，并且一步一步的往前走，我们现在要公开讨论它应该可以做些什么，不可以做些什么，要不断地进行研究。”
对技术的担忧，就如同初次触摸火种的惊惧，永恒地悬在人类心头。今天绝大多数人提到AI，已经没有了初见深蓝和阿尔法狗的恐惧，开始重点关注其如何为经济释放能量。
从这个角度看，智能机器人的“黄金时代”还没能到来，它正如所有“前辈们”一样，经历着幻想、质疑、混沌。所以，在这个技术尚且十分初级的阶段，来探讨其觉醒后是善是恶，似乎是一件很形而上的事情，但关乎我们每个人的未来，也孕育在这样与技术进步相勾连的思索与拷问之间。
（编辑/高纬时）
和人们想象中拥有机械身体、超智慧大脑的人形智能机器人不同，Hod Lipson所说的机器意识，很可能最先从粒子机器人集群中诞生。
2019年3月，hod lipson团队发明的新兴粒子机器人登上了《自然》杂志封面，让“机器的自我意识”出现了松动，这一发现也在学界引起了轩然大波。其创新性主要来自两个方面：一是这些由“粒子”（即圆盘状单元）组成的机械系统，不需要人类的强集中控制，也能依靠自主性伸缩和随机运动完成复杂的任务；二是这种系统很可能产生觉知，通过思考“我为什么在这里”进而做出自我模拟、自我复制，从而可以在设备故障、特殊作业环境中顺利完成任务。
模拟人类心智的一小步，机器人的一大步
我们知道，人工智能研究是建立在人脑如何工作的基础之上的，而意识则是其中十分高级的一环。粒子机器人集群的进步，说明机器人学来到了哪个阶段呢？
首先，在担忧机器威胁人类社会之前，我们会率先品尝到技术进步带来的甜蜜时刻。之所以这么说，是因为前面的发现，正在将机器能够模拟的心智能力推向更高维度。根据目前的科学研究，人类的心智主要包括四大能力，其中视觉感知和推理能力，已经被神经网络模型复制到了现实世界，计算机视觉、AI大脑正在成为新的生产力引擎。而情感和社会关系，比如不同文化圈的人类能够感受到爱恨悲喜等相通的感情，能够根据合作、竞争、友谊、家人等不同的社会关系来产生动机并预测行为。
后面两种能力才是机器人和科研人员苦求而不得的高级智能。机器如果拥有它们，会发生什么呢？至少目光所能及的未来很值得心动。
以粒子机器人为例，这种非常初级的“极可能拥有意识”的机器系统，能够带来的社会价值都是巨大的。
一方面，机器人如果能够模拟其它的人类和机器人，那也就会启动机器人之间的社会行为，进而可以认知环境、预测未来并主动采取行动。
如果机器某个零件坏了，它就可以自己修复，这使得机器的利用效率和适用范围大大提升。比如工厂里的机器、家里的吸尘器等，一些部件坏掉就会让整个机器无法运作。未来由这些纳米级机器人组成的机器，就能够不断循环，单个足见坏掉之后依然可以使用，帮助使用者不断节省成本。
另一方面，能够为未来科技打开新的想象空间与可能性。比如太空科技，生物医药等，随着粒子机器人技术向毫米、纳米级演进，未来应用到人类的血管中帮助处理病灶，亦或是在月球上机器人可以根据任务的需求改变自身的形态。任何自动化智能系统，包括在技术瓶颈中苦寻出路的无人驾驶等，一旦它们能够有自我意识，从毁坏中恢复，就能够更快地改进，这都是并不遥远得机器智能未来。
机器的善恶谁说了算？
接下来，我们再来聊聊第二个问题——如果机器有意识，“他”会是善还是恶？
在回答这个问题之前，我们不妨先聊聊计算机的进步。众所周知，今天的计算机已经比上个世纪更加聪明且强大，但类似《2001太空漫游》等科幻电影中大型主机反叛人类的担忧，却越来越少了。今天，我们也许会担心网络漏洞所引发的混乱或是人为恶意制造的病毒，却很少会想象出现什么电脑杀手或秘密组织。
人类为什么对智能机器人这么紧张呢？除了在智力、能力、体力上对人类个体的碾压之外，恐怕一個很大的恐惧来自于未知与不确定性：一旦机器拥有独立的人格和认知，会不会伤害人类呢？
问题来了，为什么机器人想要这么做呢？为了更多的服务器资源，还是伤害流水线工人会使其得到快感？在没有足够“奖励”的前提下机器会自己变坏吗？显然还要问人类自己。
很多人认为，机器人觉醒会像《西部世界》中女主角德洛瑞丝一样，意识到自己是被人类奴役和玩弄的，进而开始复仇。即使这一天真的会到来，我想以目前人类与机器人之间的关系，也不至于会变得剑拔弩张吧。
哪个“变态科学家”会甘愿冒天下之大不韪，丢给智能机器这样“反人类”的数据集，而不担心先被机器虐的是自己呢？
再进一步，如果出现了这样的人类“恐怖分子”，比如利用AI行骗、犯罪，将机器人改造成爆炸装置之类的，在技术上能否及时发现并遏制呢？
对于这一点，智能科学正在向网络安全界学习，引入一些成熟的防范机制，比如人工智能开发中的红色团队、人工智能系统中的正式验证，以及负责任地披露人工智能漏洞等等。
2019年，由OpenAI、牛津大学、剑桥大学等14家机构和高校共同发布的《人工智能恶意使用》报告中，也进一步号召人工智能领域形成规范和道德框架。在这样道德、技术、法律等多方面的做功下，机器人的自主意识还会对人类带来危险吗？严谨如Hod Lipson也只是回答——没那么简单。
“应该说任何这样的问题都没有一个简单的答案，但是我们必须走上这样一个历程，并且一步一步的往前走，我们现在要公开讨论它应该可以做些什么，不可以做些什么，要不断地进行研究。”
对技术的担忧，就如同初次触摸火种的惊惧，永恒地悬在人类心头。今天绝大多数人提到AI，已经没有了初见深蓝和阿尔法狗的恐惧，开始重点关注其如何为经济释放能量。
从这个角度看，智能机器人的“黄金时代”还没能到来，它正如所有“前辈们”一样，经历着幻想、质疑、混沌。所以，在这个技术尚且十分初级的阶段，来探讨其觉醒后是善是恶，似乎是一件很形而上的事情，但关乎我们每个人的未来，也孕育在这样与技术进步相勾连的思索与拷问之间。
（编辑/高纬时）