【社论】“机器人觉醒”？并非专属科幻议题

所谓“全国首例机器人伤人事件”是一场乌龙，但这并不妨碍探讨背后的严肃意义。

事情发生在深圳举办的第十八届中国国际高新技术成果交易会上。最初有媒体报道称，一台名为小胖的机器人“在没有指令的前提下”突然自行打砸展台玻璃，最终导致部分展台破坏，还砸伤了一名现场观众。

一时间网络上出现大量有关“机器人觉醒”、“机器人反抗人类暴政”的段子。人们也自然地联想到《西部世界》，这是一部探讨机器人获得自主意识的美剧。然而事实证明，人类又想多了。

高交会官方对该事故做出了澄清，事故原因为人为操作失当，误将“前进键”当成“后退键”。这回的主角机器人“小胖”与《西部世界》里的host还不可同日而语。

这件事和去年德国发生的所谓“机器人杀人”事件一样，吃瓜群众脑补了太多的剧情。事故本身其实更接近传统的安全事故范畴，没有太多的科幻情节。但也不能怪人们多想，“机器人”这个称呼本身就有强烈的暗示意味。

真正意义上的“机器人觉醒”或者“机器人失控”可能还在未来，但已出现的机器人事故是有益的提醒。比如，一个操作失误就发生伤人事件，说明厂家的安全设计不及格，至少没有达到“机器人”应该达到的水平。而安全无疑是任何智能层次的机器人都必须过的头道关。要说明的是，“小胖”本来就是一台儿童伴侣机器人，安全必须是底线。

人工智能近年的突飞猛进，将以前只属于科幻领域的问题抛到了人类面前。比尔•盖茨、特斯拉汽车总裁马斯克等人不断对人工智能发表悲观言论，并非无稽之谈。

两个月前，英国标准协会发布了一套机器人伦理指南。这份指南给出了一些原则，比如：人类是负责任的主体，而不是机器人；要确保找出某个机器人的行为负责人的可能性。同时机器人欺骗、令人成瘾、具有超越现有能力范围的自学能力，都被列为危害因素。这些原则都已经有了现实针对性。

也许，机器人会“原力觉醒”。不是说机器人必然会获得与人类一样的自主意识，毕竟人类连自身意识的产生和运作还搞不太清楚，而是说，随着计算机自主学习能力越来越强，机器人做出一项行为的真实“动机”终将超出普通人乃至专家的理解范围。

人类必须在机器人的“幼年”阶段，给它们立好“规矩”。这个议题的确有必要开始严肃探讨了。