您当前的位置:首页 > 国内资讯 > 天津新闻 > 周鸿给无人驾驶汽车泼冷水:担心会被黑客劫持

周鸿给无人驾驶汽车泼冷水:担心会被黑客劫持

时间:2018-05-18 16:20:00  来源:北京时间  作者:浏览:  评论:  条  加入收藏

第二届世界智能大会

  天津北方网讯:5月16日,第二届世界智能大会在天津开幕,在当天的主论坛上,科大讯飞股份有限公司董事长刘庆峰演讲时“爆料”,360集团董事长兼CEO周鸿总经理在15日的欢迎晚宴上吃了11个狗不理包子。而周鸿则在演讲时开玩笑说,自己热爱一个地方首先热爱它的食物,而且昨晚就预见到了今天讲话时间安排在午饭前大家都饿了,引发哄堂大笑。

  周鸿发表了题为《建立“安全大脑”保卫智能时代》的主题演讲。周鸿在演讲中指出,网络攻击已经开始威胁智能经济的健康发展,无论是智能经济还是人工智能,如果想健康、想可持续发展,就必须要重视安全问题。

  

  周鸿说,无论是“智能+”,还是“互联网+”,最近几年整个社会都运转在互联网的基础上。过去,大家吃包子、骑自行车跟网络没关系。今天,干什么可能都要摸出手机,它都是建立在软件和互联网的基础之上。当网络受到攻击的时候,你不能订餐、不能购物、不能出门,出门打不到车、机场买不到票,像去年勒索病毒的流行,有的医院做不了手术、机动车上不了牌照,网络受到攻击整个社会非常脆弱,影响整个社会的稳定和安全。

  周鸿说,在这个“大安全”时代,网络攻击带来了很多新的威胁和巨大的挑战。比如,川普、希拉里和俄罗斯黑客对美国大选之争,网络攻击已经可以威胁国家政治安全。网络战已经成为各国军队首要的目标,网络战每天都在发生,全球已经有112个国家成立了网络战军队,美国已经把网战司令部从二级司令部升级为一级司令部。现在网络战威胁着国家的国防安全。最近几年,美国所有的网络演习都是针对美国的交通、能源基础设施受到攻击之后如何应对。我们不说当年伊朗的核工厂如何被震网病毒干掉。最近两年,美国黑客在乌克兰用黑客攻击的方法攻击变电站,造成大面积的停电。全世界每天都在发生的网络战,今天已经变成对全世界最大的威胁。这次Wannacry病毒的流行给全世界的恐怖分子一个启发,潘多拉盒子可能被打开。中东的ISIS已经雇佣了一帮人成立了网络哈里发机构,在美国发生的鼓浪式的驾车袭人事件。一旦恐怖分子利用网络攻击网络基础设施,后果将不堪设想。

  周鸿指出,这些新的威胁带来了巨大的挑战。最主要的有几点挑战:一是,我们得出了一个比较悲观的结论,哪怕是先进的人工智能系统,只要你是新技术的系统,不管是人工智能,还是物联网、大数据、云计算,它都是软件,只要是软件就是人写的,人写的就会犯错误。每一千行代码就有4-6个错误。可以想象一下今天这些复杂的系统背后有多少行代码呢?这些有意无意的留在系统里的漏洞一旦被人利用,整个系统就变得让人如入无人之境,会不设防。我们跟美国人都得出一个结论这个世界上没有攻不破的网络。二是,人是最薄弱的环节。希拉里违背美国的安全规定,导致她的邮件丢失。刚刚刘庆峰展示的虚拟配音、虚拟视频的手法很容易用在钓鱼攻击。我们可以伪造出你亲友的声音和视频,通过微信发给你,跟你说我昨天晚上被公安抓起来,请速给我打钱。这么逼真的视频和声音可能会带来针对人的攻击。前一段时间的中兴事件再次暴露出不能否认的现实,在信息领域核心技术受制于人。大家都知道英特尔的AMT的CPU有一些漏洞,导致运算性能的下降。大家没有关注到的是CPU里还可以隐藏系统,这个隐藏的系统是独立于电脑之外的,基本是超级权限,可以干任何事情。这些问题不解决,即使有再强大的人工智能系统,在关键的时候,人家一个指令,CPU不工作了,你的人工智能系统也就歇菜了。

  周鸿举了最近一个案例,Uber的无人驾驶车撞死一位过马路的行人。据当时的情况来看,晚上没有路灯,光线很暗,这个女士穿着黑衣服,推着自行车横穿马路。Uber的传感器和摄像头都感知到了这个女士,就是在这样特别输入的情况下,它的概率系统并没有判断成一个人,可能判断成了一个落叶,判断成了路上不重要的杂物,汽车判断连停都没有停,直接撞上去。我们在人工智能方面,所有基于深度学习的系统,在识别猫的时候,一张图片识别不对不会带来巨大的问题,但用在智能制造、无人驾驶方面,这个问题就很多。这是所有做人工智能的人吹嘘人工智能好处的时候很少避免谈论的。人工智能是拼命用大量数据训练出来的概率系统,并不是证明完备的系统。它可能有99%的识别率是正确的,但对安全专家来讲,只要有一次的识别错误就会造成严重的后果。今天所有的无人驾驶汽车都是通过大量的图像、视频识别路况的训练。只要在某一种情况下这个路况是没有训练过的,产生了误判,可能就会带来严重的结果。

  周鸿认为,人工智能系统自身存在的几个问题。很多地方会变成无人值守系统。无人值守系统最大的问题倒不是说机器自己产生了意识,自己会杀人,我倒是不同意埃隆马斯克和霍金的想法。很多无人值守系统一旦被黑客攻击和劫持,这个班机就会控制在黑客手里,带来的危险比较大。前一段时间韩国有个大学要搞无人武器,遭到了很多国家的抗议。如果一个武器可以利用人工智能辅助人类做出判断,最后按扳机的权力还应该保留在人的手里。一旦机器可以自主判断,自主发起进攻,机器被劫持的可能性非常大。

  “大家都在热烈的讨论无人驾驶车和自动驾驶车的时候,我们最担心的是这些汽车目前都是可以被劫持的。一旦你开着汽车、吃着火锅、唱着歌,坐着无人驾驶车行驶在街道上的时候,一旦被劫持,就可能出现人身安全隐患。”周鸿说。

  周鸿说360公司的研究团队,特斯拉每次出一款车,理论上都可以以最快的速度进行劫持。我们三次入选特斯拉的模拟名人堂。我们做防守的人要先研究矛,要研究什么样的矛可以打磨出什么样的盾。《速度和激情8》幻想的情节在2、3年以后会成为现实。街上大量的无人驾驶车一旦被恐怖分子和黑客控制,满大街的暴走,这会带来巨大的问题。无论是特斯拉,还是别的智能汽车,都是可以用手机进行控制的,要跟车厂的服务器保持连接,定期更新软件保证汽车的驾驶模式。既然汽车可以联网,用手机可以远程的打开车门和空调,一定可以被劫持。

  最后,周鸿指出,网络安全进入“大安全”时代。随着智能时代的到来,经济社会生产生活越来越多地运行在网络之上,越来越多地依赖于大数据、移动计算、物联网、云计算、人工智能。物理世界和虚拟世界通过万物互联已经打通,线上线下的边界正在消失,所有过去在网络空间里对信息的攻击都会穿透虚拟空间直接映射到网络世界的安全。网络安全的危害已经不仅仅是从网络空间蔓延,它已经扩展到国家安全、国防安全、基础设施安全、社会安全、家庭安全以至于人身安全。因此,我们有一个感觉,随着人工智能技术的应用越来越广,我们的生活越来越先进,我们背后的系统越来越复杂。越来越复杂的这些系统,在安全上带来的挑战反而并没有伴随着技术的先进而减少,而是挑战会越来越大。所以我们说网络安全已经从信息安全时代进入到“大安全”时代。

  周鸿表示,中国已经是网络大国,只有让我们变得非常安全,我们才能变成网络强国。网络安全不是事后弥补,而是跟信息化发展同等重视、同等谋划、同样重视。(津云新闻编辑曲璐琳)

关键词:
    一4龄童小区内被车压死 肇事者系隔壁邻居
  • 一4龄童小区内被车压死 肇事者系隔壁邻居

    5月24日傍晚17:40分左右,铜川路上一小区内发生悲剧:1名4岁男童遭遇车辆碾压经抢救无效死亡,而肇事的是隔壁邻居驾驶车辆所致,而在事发时,两名男孩正在小区内玩耍...

      关键词:小区
最近更新
推荐资讯