360集团董事长周鸿祎：人工智能本身就存在安全问题

无人汽车、无人飞机、无人高铁……随着人工智能技术发展，人类的双手正在最大限度获得解放。不过，这些无人值守系统真的足够智能与安全吗？5月16日，第二届世界智能大会在天津召开，360集团董事长兼CEO周鸿祎在发言中表示，人工智能本身就存在安全问题，必须审慎以待。

周鸿祎称，随着人工智能技术的应用越来越广，人类生活越来越先进，背后的系统越来越也复杂。这也意味着，网络安全挑战并没有伴随着技术进步而减少，而是越来越大。

“大家都在热烈讨论无人驾驶车的时候，我们最担心的是这些汽车目前都是可以被劫持的。你开着汽车、吃着火锅、唱着歌，坐着无人驾驶车行驶在街道上，一旦被劫持，就可能出现人身安全隐患。”周鸿祎说。

他强调，按照国家规划，到2020年，智能汽车新车占比达到50%，自动驾驶阶段3以上的占到10%。尽管自己很期待自动驾驶时代，但还是要泼冷水，没有安全就不可能有智能汽车时代真正的到来。

周鸿祎认为，这个世界上没有攻不破的网络。哪怕是先进的人工智能系统，只要是新技术系统，不管是人工智能，还是物联网、大数据、云计算，它都是软件，只要是软件就是人写的，人写的就会犯错误。每一千行代码就有4-6个错误，这些有意无意留在系统里的漏洞一旦被人利用，整个系统就变得如入无人之境。

他同时表示，目前的无人值守系统存在安全漏洞风险。比如过去的武器主要控制在战士手里，由人来判断和扣动扳机。一旦在军事上越来越多引入人工智能技术，智能机枪可以自己发现目标和自动射击。这样的系统如果哪天不小心被黑客控制，后果非常可怕。

再比如人工智能所依赖的传感器、训练数据和使用的开源软件等都可能存在安全隐患。 360安全团队就曾在测试中利用超声波干扰技术成功实现对特斯拉的欺骗，让它相信前方障碍物并不存在。

“现在的人工智能，只是一种拼命用大量数据训练出来的概率判断系统，远远称不上完善。”在周鸿祎看来，人工智能也许可以有99.99%的概率保证识别是正确的，但是对于安全来讲，只要出现一次识别错误，就可能造成严重问题。

比如前段时间，Uber公司改装后的自动驾驶测试车在美国撞死了一位女士，这也表明今天的人工智能技术并不是一个完备体系。Uber的那辆汽车当时处于光线很暗的环境中，那位女士穿了件黑色衣服，在很复杂情况下，汽车的人工智能没有做出任何判断，甚至没有减速，最终酿成了悲剧。

因此周鸿祎认为，今天的人工智能领域有两个非常大的命题。一是人工智能系统如何为智能制造、智能经济保驾护航，如何解决人工智能系统里存在的安全漏洞和潜在问题。二是 “大安全”时代下，如何利用人工智能技术让我们的世界更安全。