AI 世界生存指南

2018-09-28 22:02

吃瓜群众善于想象未来。

虽然大多数时候我们能猜到开头,却猜不到结局。

可以确定的是:不出五年,世界上的人工智能设备肯定会像原子弹爆炸一样地增长。

但这样的未来世界,会好吗?

从前我们想象,未来世界有无数《星战》中那样的 3PO 和 R2-D2,他们天真善良忠诚,像狗子一样是人类的好盆友。

后来我们才发现,世界或许应该更像《机械公敌》里讲的那样,机器人在成为每个家庭贴心管家的同时,会顺便酝酿一场翻天覆地的叛变。

(据说这是2035年的芝加哥,情况可以说是急转直下。。。)

从前我们想象,未来世界的叛变机器人,或许会像《银翼杀手》里的瑞秋那样迷人和难以割舍。

后来我们才发现,未来世界的机器人叛乱,更可能像亚瑟·克拉克和库布里克在《2001漫游太空》里描述的 HAL9000 那样冷酷坚硬。

从前我们想象,人工智能叛乱的领导者会是来自于邪恶的计算机“母体” Matrix。

后来我们才发现,迫在眉睫的人工智能的叛乱很可能会像《速8》里描述的那样,根本就是被充满野心的人类黑客挑起。

中哥能文思如尿崩地想到上面这些镜头,是因为对面坐着一位能“预言未来”的科学家——韦韬

韦韬是谁?

韦韬曾经在北大学习和任教二十多年。他是中国第一批研究网络安全的科学家,可以说见证了安全行业的变迁。见到他中哥敲开心。

而他现在的身份是:百度首席安全科学家,掌管着全百度最前沿的安全研究方向

有关韦韬的传奇经历,一万字都说不完,中哥专门写了另一篇文章:《百度首席安全科学家韦韬:从内存战争到黑产战争》介绍。绝对值得你点开一看。

未来世界会比现在更安全吗?(答:并不会)

上干货。

恕中哥直言,现在的世界很操蛋。电信诈骗、骚扰电话蛇鼠横行,赛博世界盗匪猖獗。

那未来世界会好一点吗?

韦韬说:如果我们袖手旁观,有人工智能的未来要比现在糟糕一百倍。。。

为了更清楚,他给我推演了三个场景

1、智能家居成为“叛军”。

在五年后,你的生活可能会很不一样:

智能电视、智能音箱等等“智能设备”会逐渐代替手机在家里的功能。

你可以直接对中控音箱说,我想看《创造1000001》;你也可以直接在电视屏幕上下单,购买蜡烛皮鞭丁字裤等日用品。

这些电视音箱,和手机一样有“眼睛”有“耳朵”,又天天坐在你家卧室客厅,用脚趾头想也会明白:它们的安全水平,怎么说都得达到(甚至超过)你手机的安全水平吧。。。

然鹅,正好相反。

以现在黑产(黑色产业链的简称,后同)的水平,干掉市面上绝大多数智能音箱和智能电视都不成问题。

他们可以随时监听监视你家里的情况,他们可以看到你家里有什么人,有什么陈设,发生了什么故事,甚至能偷听你明天要去哪里出差,孩子在哪个小学上学。

用这种“有图有真相”的精确信息,配上从黑色产业链里搞到的你的身份信息、银行卡信息。骗子可以趁你出差时,伪装成交警给你打电话,告诉你孩子在上学路上出了事故,然后再伪装成医院说刻不容缓马上要做手术,需要押金,从姓名到地点甚至到孩子的装束都说得丝毫不差,你觉得诈骗成功率会有多高?

当然,如果你不小心在家里的电视、音箱附近表演了激情戏,那犯罪分子就又多了一条赚钱的路子。你从 Github 红人到 Pornhub 红人,也许只需要一晚上。

没错,对于坏人来说,你家的智能家居很“得力”。

此乃隐私安全!

2、智能汽车成为“移动的武器”

五年后,汽车会在室外继承现在手机的一些功能。

按照技术推演,未来五年内大量跑在道路上的车都是无人车。到时候《速8》里那种黑客控制一堆汽车左冲右突的场景就会成为可能。

不过,真实世界中更可能出现的,却是另外一幕:

你乘坐自己的自动驾驶汽车在高速路上行驶,突然屏幕上弹出一条询问:不好意思打扰一哈,我是个黑客,现在我控制了你的汽车,让你的汽车全速沿着高速前进。半小时之内,如果你不给我转两个比特币,我可能会不开心的。。。决定权在你,我可没有逼你哟~~

此乃人身安全!

3、区块链成为“黑客的取款机”。

在人工智能普及的年代,现在用电脑手机把钱转来转去的银行体系会发生巨大的变化。区块链很可能成为支付的重要途径。

区块链炒鸡便捷,但同时也有一个小问题。用韦韬的话说就是“防御没有纵深”。

现在的银行,都是多重对账系统并行,如果你让黑客从工行系统直接把钱偷出来, 他估计得选择狗带。

但是,在区块链系统里,如果黑客发现一个漏洞,是直接可以把区块链当成提款机,任何人都没办法通过其他渠道来校验的。。。

此乃财产安全!

这三个场景,代表了未来世界的“七寸”。

韦韬觉得,历史是会重演的。智能时代的安全问题,在手机普及的这十年中早就发生过一遍了

2010 年,手机数量爆炸式增长,但整个系统的安全防护却没跟上,导致现在个人信息数以十亿计地泄露。这也是十几年间电信诈骗猖獗到无法收场的重要原因。

如果智能系统普及的过程中,我们还是不认真对待它们的安全防护,那么未来世界的诈骗和勒索,会比今天严重得多。

神眼中的未来智能世界居然是这个样子的。。。

肿么办???

没事,韦韬老湿可不是那种装完X就跑的人。他信奉一句话:“人生一切难题,技术给你答案。”

过去的三年间,他一直在带领兄弟们“闭关修炼”。为这个人工智能世界暗淡的未来准备了一整套技术方案。

最近,他刚刚把这拯救世界的“武林秘籍”公诸于世。

拯救智能世界的“五字诀”

这拯救未来世界的“武林秘籍”其实只有五个字:

“斗”“阵”“临”“兵”“皆”

韦韬告诉我,它们取自道家的九字真言。

听到这里,中哥心中不禁纳尼。。。我到底采访了一位科学家还是道长?

韦韬告诉我,他取了这些字,有两个原因:

1、每个字真的像一个“符咒”,可以封印住未来世界的一个安全裂缝。

2、其实这样皮一下,能让复杂的安全技术被大家更容易地接受,很开心。

为了科普,果然是不遗余力啊。。。听中哥一句,遇到这样的大神,不妨嫁了。

下面进入长姿势环节:

“斗”

道家对“斗”的解释是:勇猛果敢。翻译成普通话就是:

科普一下:

很多人第一次看到智能音箱,都会天然地觉得,整个人工智能的运算系统都运行在这个音箱里面。

其实不然,音箱相当于一个人的四肢,而它通过互联网联通的云端系统才是它的大脑。

当讨论智能硬件的时候,应该知道我们说的包括两部分:端+云

所以,一个智能硬件被黑客干掉,也有两种可能的原因。

第一个原因在于:这些硬件本身“身轻体柔易推倒”。

韦韬解释说:

按照惯例,要想让一个系统保持安全,必须在它的“服役期”内总有专人为它研究补丁,然后盯着这些设备升级。

这就大概像个妈,每天叮嘱你穿秋裤带保温杯。

问题来了。

各个品牌型号的音箱电视摄像头,基本每款都对应一个量身定制的系统,有的用 Android,有的用 Linux,有的用 FreeRTOS。。。版本繁多,系统的“碎片化”特别严重。看得人密集恐惧症都要犯了。

这样的话,某型号的智能音箱可能总共就卖了1000台,那专门为它研究安全方案的“妈”(也就是安全研究员)天天就为这一个系统服务,估计每月能分到的工资超不过500块,肯定不会有人去做。。。那么,这台硬件的安全水准,就停留在了出厂状态,任人宰割。。。

然鹅,从黑客的角度来看却是另一番景象:不用多,只要有一台设备不安全,就是天赐良机,恨不得从他的主人身上诈骗出来百万千万。

这就好像:

一个牧羊人要看住一百群性格迥异的羊;

而狼叼走任何一个羊群中的任何一只羊就够一个月的伙食。。。

这个矛盾貌似不可调和啊。

不过,韦韬有一个绝妙的解决方案,那就是:

不不不,错了,重来,那就是:

你可能会问:不是刚说了么,每种系统只能开发定制化补丁,怎么又说能用同一种方法给多种系统打补丁?

中哥给你举个栗子吧:

每一个围墙代表一个系统,他们破损的位置相近,但具体形状不尽相同。这种情况下,原来的办法就是,找到水泥把每一个洞都分别堵好。

韦韬和团队想到的办法是:洞不用补,我们做个机器人站在洞旁边,只要有人过来,不管好坏,一棒子打晕。。。。

这样一来,适配的压力就没那么大了。市场上的几十万种系统,只需要几十种“机器人”就能适配搞定了。当然,艺高人胆大,这种玩法背后是要靠开挂级的技术支撑的。

这种技术就被称为“KARMA 热修复”。

其实,中哥第一次见到韦韬是在 2016 年的 BlackHat 上, 当时他就给我讲了这种热修复技术。浅友可以点击中哥 2016 年的文章《Android 系统的安全性有救了?》,里面有详细的技术解释。

事情还没结束。

刚才说了,未来的智能硬件都会连接云端服务器。就像四肢都通过神经联通大脑一样。除了四肢被攻击,大脑也可能被攻击。

于是,智能家居被攻击的第二个原因就是:云端的防护不够骚。

所谓:“端上的漏洞靠修补,云上的进攻靠 WAF”。“云WAF” 是安全研究员专门用来保护云安全的一套系统。

不过,传统的 WAF 最近几年黑客凶猛的攻势下显得有点力不从心,一些脚本小子都可以上网找到一些工具绕过 WAF。于是韦韬带领团队研究了一个新的防护模型 OpenRASP。

举个栗子解释一下:

WAF 就像一个“云计算大厦”的保安,看到形迹可疑的人就拦下来。但是,假如坏人乔装改扮,就可能骗过保安混进去。

OpenRASP 就像“云计算大厦”每个房间里面的保镖。你形迹再可疑我都不管你,但你胆敢动我的抽屉柜子桌子椅子,分分钟抽死你。

有关 OpenRASP 的具体原理,中哥也写过一篇文章详细介绍,各位浅友可以打开《百度安全的 OpenRASP 是什么?》复习一哈。

有了 KARMA 热修复+OpenRASP 的“KO兄弟”组合,就基本可以掐死很大一部分黑产的进攻套路。

此为“斗”。

-----------------

-----------------

“阵”

对付人工智能世界黑客的第二招叫做“阵”

道家对“阵”的解释是:洞察要害。翻译成普通话就是:

你可能听过神医扁鹊和他老哥的故事。

扁鹊善于医治 ICU 里的患者。每次治病都大动干戈,刀枪剑戟斧钺钩叉都往病人身上招呼,还时常能治好,所以成了千古名医。不过他却说,我家大哥的医术,比我高到不知哪里去。但因为他能在人刚得病还活蹦乱跳的时候,就用简单的艹药治好,所以在乡亲们看来,这一点都不厉害。。。

但不得不说,扁鹊大哥是“早已看穿一切”的那个人。

同样的道理啊:刚才我们说了半天,又是派出“机器人”,又是给漏洞做“热修复”,大动干戈。但是,如果有一种方法,让系统本身就不会产生高危的漏洞,这不就一劳永逸了吗??

这种方法是有的。

无论是 Android 还是 Linux,现在主流的硬件系统都是用 C语言写成的。这个计算机语言可谓是功勋卓著。但韦韬还是准备吐槽一下它。

作为诞生在上世纪八十年代的“80后”语言,C语言有一个天生的缺陷,那就是“内存不安全”。

啥叫内存不安全呢?

传统 C 语言编出来的系统,就像一个没有交警的城市。人们觉得很自由很方便,但是因为有人不遵守交通规则,经常出现抢道、闯红灯、追尾等等交通事故。

每出现一次交通事故,就意味着一个漏洞产生。

所以,研究员们就用内存安全的语言 Rust 和 Go 重写了很多重要的系统和协议。

这些内存安全的系统,就像是一个有交警的城市。人们虽然受到约束,但是秩序井然,也不会出现交通事故。

有句话叫:苍蝇不叮无缝的蛋。

黑客攻击的本质,是揪住你的微小破绽,然后撕开一道口子干掉你。如果系统本身运行得井井有条,不会出现事故,那么再牛X的黑客,都只能望洋兴叹。

这就是抓住事情本质的效果。

最近,研究员们已经写出了基于内存安全语言的 MesaLock Linux(这个系统中哥之前详细讲过,可以点击《用在黑匣子里的系统是什么样的?》;

他们还写出了基于内存安全语言的网络传输协议栈 Mesalink(这个技术中哥之前也讲过,可以点击《一把锁的传奇——从 OpenSSL 到 MesaLink》。

此为“阵”。

-----------------

-----------------

“临”

道家对“临”的解释是“根基稳定”。

再跟随中哥想一个问题:

一个著名画家把自己的画作放到发廊里展览,他怎么保证发廊不会把这幅画弄丢弄坏,或者根本就是发廊老板用一个赝品偷梁换柱呢?

同样的道理:

在未来世界里,“汽车厂商”就是那个画家,“汽车的云端服务系统”就是那幅画,车厂需要把服务系统部署在云计算里,“云计算厂商”就是画廊。

要知道,在《速8》里,黑客就是通过入侵了汽车云端控制系统,修改了服务器的代码,才拿到了总控权,控制那些“僵尸车”的。这件事情在真实世界很可能发生。

好的,这个问题就变成了:车厂怎么保证跑在云计算上的系统代码不被篡改呢?

答案是:加上一道锁。

具体的操作是这样的:

在云端服务系统外面加把锁,也就是加密,解密的钥匙捏在车厂自己手里。

但仅仅这样粗暴又是不行的。。。加密的代码是连负责运行它的 CPU 都不认识,这肿么办?

我们就把自己的钥匙给 CPU 一份,只有它可以碰到系统的真实代码。

这下,无论是云计算厂商还是攻进云计算厂商的黑客,只要他们攻不破 CPU,那就别想篡改老子的代码。

在韦韬看来,无论世界套路多么深,只要把解密的钥匙攥在自己手里,就是抓住了根基,稳的一比。

百度安全实验室为这套技术开发了一套名为 Rust SGX 的工具,中哥也曾经写过文章介绍,可以打开《未来是个大型隐私交换现场,你需要一个“隐私红娘”

此为“临”。

---------------------------

---------------------------

“兵”

道家对“兵”的解释是“行动循章”。

人有两个弱点:1、不可靠。2、笨。

无论多么靠谱的人,总是免不了神坑队友。浅友们还记得不,前几天广大人民喜闻乐见的“开房信息泄露”事件,就是因为一位程序猿不小心把登录的密码公布在了 GitHub 社区里引起的。

不论多么聪明的人,也总免不了挂一漏万。柯南老湿练了一辈子从诸多资料里发现蛛丝马迹的能力,人工智能数据分析可能分分钟就能比他做得更好。

所以,韦韬觉得:“复杂的世界里,能靠代码和制度解决的问题,就要尽量脱离人。

就好像在三四线的城市里,人们需要层层托关系,效率比较低;而在一线城市里,人们更多按照制度办事,效率就会大大提高。

所以,韦韬设计了一套安全的计算架构 MesaTEE,让所有的环节都自动衔接,这样就把需要信任的人减到最少。

在这个基础上,再利用人工智能和大数据的方法来分析漏网的安全问题,就基本可以达到万无一失了。(当然,人工智能本身的安全性研究也归为此列,有空中哥专门开贴讲讲。)

此为“兵”

------------------------------

------------------------------

“皆”

道家对“皆”的解释是:善统人心。韦韬把它理解为:团结就是力量。

刚才说的无数种应对未来智能世界风险的技术。百度安全的团队把它们统称为 BASS(百度 AI 下一代技术栈)。

通过最近两年的实验,BASS 在技术上已经得到了验证。

接下来,百度安全决定把这一整套技术在“朋友圈”开源,让人工智能设备制造商们都可以免费使用 BASS 技术,并且贡献自己的力量改进它。

为此,百度安全发起了一个名为 OASES 的联盟,联盟内的企业都可以共享开源技术。

此为“皆”。

------------------------------

五字诀说完了,本期最硬的科普部分已经过去~高能警报解除~~

(由于这是一整套对未来智能世界的回应,信息量实在太大,所以中哥把很多细节技术用链接的形式插在了文章里。)

人工智能世界将有一场”代码保卫战“

说句题外话。我之所以这么喜欢和大牛聊天,是因为可以亲耳听到他们描绘未来世界的模样,然后用最风骚的姿势迎接它的到来。

所以前两天,我不顾老妈反对,“强制”给她装了一个智能音箱。

我也知道现在的智能音箱还有点“智障”,但它却无疑是通往未来世界的一个入口,我不希望我的亲人错失它。

包括韦韬在内的诸多大牛,描绘的场景大概是这样:

经过半个世纪的等待,人工智能终于降临我们的生活。它们会栖息在你的音箱里、电视中、所有能联网的家居设备上;它们同样栖息在你的车里、沿途的信号灯上、所有穿梭的飞行器中。

它们也许没有人的形态,但却有让人赞叹的智慧。

它们个个身怀绝技,却又像初生的婴儿一样脆弱。

人工智能硬件体内,都存储着一段段代码组成的“基因”。我们所做的一切努力,本质上都是在保卫这些基因。

代码本身要安全;

代码运行环境要安全;

代码出问题之后要紧急修复;

未来世界的每一组代码基因都相互联结,任何人都不能独善其身。

这些,是韦韬看到的未来,也是他给出的答案。

这个智能世界像一片崭新的大陆,我们的船已经迫近了它的岸边,甚至都无法掉头离开。这片大陆上,有富饶的田野,也有横行的鬼魅。

《枪炮病菌和钢铁》中的故事,也许正在重演。

在靠岸之前,我们还有最后的时间,为这个世界做好准备。与其说这是一场赛跑,毋宁说这是一场战争。

比起铭记,我们更善于忘记。比起团结,我们更善于撕逼。

所以有人说,学了那么多道理,却还是过不好这一生。但愿我们不要“看了那么多科幻电影,却无法留给孩子更美好的未来。”

(本文首发于微信公号“浅黑科技”,作者浅黑科技创始人史中)

 

「版权声明:多维客是一个汇聚各方言论的平台,所述观点不代表本网立场。如有侵权文章或者图片,请立即联系我们。」

眼界

着眼IT、数码、创业、AI及软件应用等众多领域,为您展现全球最先进、最前沿的科学技术和先进文明成果。

评论

【声明】评论应与内容相关,如含有侮辱、淫秽等词语的字句,将不予发表。

推荐阅读

  • 民粹泛起是因为现代民主正在失效

    在过去的一段时期,人们用发达国家和发展中国家来区别一片屋檐下的两个世界,一边是繁荣与和平,一边是贫穷与动乱。现在这种对立依然存在,但它在国家之间的界限模糊了,而逐渐在社会内部产生了...

    2018-12-11 05:14
  • 一脚互联网一脚娱乐圈 阿里高管杨伟东的滑落

    近年来,"劣迹艺人"在中国的规模正以前所未有的速度不断壮大。事发之后,他们常常将原因归咎于娱乐圈的诱惑实在太多,抑或是压力太大。言下之意,他们不过是一时鬼迷心窍,犯了天下人都会犯的...

    2018-12-11 05:03
  • 论扫黑除恶与黑社会性质高利贷的伟大斗争

    扫黑除恶专项斗争纵观所有黑社会开庭,他们几乎都是放高利贷谋利的,确切的说,支撑他们的经济来源就是放高利贷,所以说,一个不放高利贷的黑社会就不是一个合格的黑社会,所以说,扫黑除恶专项...

    2018-12-11 04:39
  • 孟晚舟被捕 台独又“嗨”了!

    在G20峰会中美元首就贸易战达成某种政治和贸易协议情况下。中国大陆华为技术公司任正非的女儿,华为财务长孟晚舟却在遭控违反美国对伊朗制裁措施,在加拿大转机时被捕。加拿大司法部表示,孟...

    2018-12-11 04:24
  • 台湾面包加了“统一”酵母 宝春伤了谁的心?

    台湾知名面包师傅吴宝春与新加坡西点集团BreadTalk(面包新语)合资的大陆首家“吴宝春麦方店”门市18日将在上海新天地开幕,近日试营运期间,由于过去疑似...

    2018-12-11 04:17