阅读设置(推荐配合 快捷键[F11] 进入全屏沉浸式阅读)

设置X

第3节

张翰又看了看她面前的名牌:“你以前是做流量明星的吗?”

“没有啊?我一直在腾讯啊?” 刘馨予不明所以,忍不住有点得意,手指捋着头发。

“那为什么要取这种万人坑的名字?我以后要找你恐怕记不住。你有老公吗?”

刘馨予涨红了脸,勉强摇头。

“有男朋友吗?”

“有!关你什么事?”她火气上来了。

“那我问你:假设你男朋友昨晚去夜总会,给全场所有小姐每人发了一万元红包。今晚他在自己家中被捕,床上、床下、浴缸里堆了七具女尸。那么前天晚上他去酒店开钟点房,虽然走廊监控录像中没看见什么问题,你相信他是为了准备高考吗?”

四个男人都埋头忍笑,包括刘馨予身边那位沉默寡言的。

刘馨予被这一顿捶晕了,无话可说,气得发梢乱颤。

“再给你一次机会。你们两位商量一下,看看有没有别的什么要报告。”

说完张翰便不再理她,转向正对面阿里集团的帅哥。

“你是谁?”

“我叫周……”

“桌上有名牌,我没瞎,看得见。我问你算老几?你们还没来我就都通知了,要技术负责人亲自到场。不要领导,不要擦屁股大队,要负责人!万国宝的技术负责人是谁,全中国有不知道的吗?他们二位身子金贵,我理解。但我这个小小的专案组,手上除了万国宝发疯造成的世界运动,还有一次疑似全球网络军事演习,还有七条人命!

“我只是想搞懂,那几分钟之内,万国宝到底出了什么问题?跟这个朱越有什么关系?跟腾讯的游戏和百方的自动驾驶系统有什么关系?他们二位给我的回复都说非常意外,非常难解。这没关系,我们可以共同探讨。现在却派了个你来?你这身西装是伦敦定做的吧?你懂技术?需要我出去打个电话吗?”

会议室中所有人噤若寒蝉。

刘馨予觉得舒坦了许多,自己远不是待遇最差的。这位专案组长,没听过名字也没有警衔的信安部官员,似乎也不算仇女症患者。他是见人就咬,而且爪牙通天。

周克渊站起来,手按领带鞠躬:“对不起。阿里集团上上下下,尤其是两位老师,对这次事件都极端重视。但确实有不得已的苦衷。圣何塞窃听事件之后,集团接到国安部的红头文件,规定他们不能离开杭州研究院范围,人身和数据安全团队都换了。这件事保密级别很高,您……可能真需要打个电话确认一下。不过,我带来了我们自己的安全视频会议前端。眼下他们二位就在杭州恭候。刚才您进来之前,我正在和顾警官商量,怎么接入信安部网络会议系统。”

他向小顾看过去,温文一笑。小顾轻轻点头。

“所以,你就是个跑腿、布线、打杂的。”

“没错。”周克渊仍然站得笔直,气宇轩昂:“能为两位老师打杂是我的荣幸。”

这下张翰对他的印象倒好了不少。

“小顾,赶紧帮他弄好。现在只有请你们先讲了。”

百方的两位赶紧打开平板,连接会议室主屏幕。主讲者石松擦了擦眼镜片上的雾气,战战兢兢开口。

※※※

两天前卷入升仙湖北路连环车祸的22台车辆中,15台装有百方研发的自动驾驶系统。其中只有6台在事发前处于自动驾驶状态。朱越在路中央停步时,离他最近的暗红色瑞虎suv从手动状态紧急切换自动,加速转右冲了过去。这是一次表现完美的自动驾驶系统应急操作。

它后面的蓝色丰田轿车也在手动状态。司机紧急刹车,但当时的速度如果不转弯,已经不可避免会撞上朱越。车载的百方自动驾驶系统非法超控、强行急转,导致本车侧翻。同时阻挡右侧车道,被后方手动驾驶的越野车撞上。两车司机均在撞击中毙命,翻滚的车辆残骸还撞死了被朱越追逐的骗子。

右道后方的北奔载重卡车本来在自动驾驶中。为规避前方的混乱,左转进入了朱越所在的车道。然而为了避让朱越继续左转,横穿左边两条车道,撞飞了三辆轿车才冲出护栏,导致二死四伤。卡车司机本人仅受轻伤。

「–」

“等等!”张翰打断他,“你是说,卡车司机为了躲开朱越,转向去撞其它的车?”

“不。交警去医院取证的时候,我的同事跟着去了。司机很清醒,发誓说他上了那条道马上取消自动,是踩着七分刹车、对着朱越冲过去的。因为只有这条道前面无车,行人突然横穿是‘九分全责’。他开车二十年,知道该怎么选择。但自动驾驶马上接管,强行向左一路撞过去。我们提取的数据证明他没撒谎。”

“百方自动驾驶系统,安全策略是行人绝对优先?”

“不。问题就在这里。我们的系统非常智能,在这种……两难情况下,会进行瞬时模拟概率计算,会选择伤人最少、最轻的驾驶方案。这两天我们模拟了几十次,每次系统都选择碾过朱越。这和我们的预估是相同的。但是实际事故中,卡车强行转弯撞飞了三辆轿车。六个乘客只死了两个,已经算非常走运。它不但非法接管了驾驶,还偏偏选择了躲开行人。不,躲开朱越。”

“那辆比亚迪呢?”

“也是我们的系统。这个是最不可理解的。目前版本的安全策略中,本车乘客的安全优先级别非常高。比行人和其他车辆高得多。”

“到底有多高?”

“……几乎是绝对的。”石松坐立不安,看了看其他人。

张翰眼都不眨:“可以理解。要不谁敢买你的车。那乘客怎么就死了?”

“比亚迪的系统计算能刹得住,即使被追尾也不会撞上朱越,就一下子刹到底。这次计算决策,似乎绕过了本车乘客安全的逻辑。它后面那辆道奇,是北美谷歌的自动驾驶系统。我们不知道怎么回事,貌似在正常工作。道奇选择了适度刹车、追尾比亚迪,保证本车最低限度安全,而不是急刹或急转。所以,前车的人急刹移位之后受到二次撞击,死了。”

石松身边的同事名叫全栈,瘦得像是没吃过一顿饱饭。他在主屏幕上反复演示模拟事故场景,特别放大了比亚迪的自杀操作。

两个血红的小点在比亚迪轿车图标中出现。一米之外,代表朱越的黑色小点安如泰山,身边似乎环绕着魔法结界。

会议室中一时没人说话,空气都要凝固。

刘馨予心想:这小子真老实,怕是被恶霸探长吓破了胆。如果他今天报告中任何一点泄露出去,对百方自动驾驶系统的声誉都是毁灭性打击,不管有没有被黑。每次模拟都选择碾过行人?安全策略连本车乘客都不管了?

张翰沉吟片刻,问道:“那你们找到故障原因了吗?怎么会所有车辆的自动驾驶系统同时出问题?”

“不是所有车辆。我们和交警支队搞了一次现场还原,三次模拟。只要是不涉及可能撞到朱越的情况,自动驾驶都是正常工作的,都做出了最佳选择。所以二十二辆车卷入,只死了七个人。”

“只死了七个人!恭喜了。”

石松面红耳赤。他下一句话出乎所有人意料:“故障原因也找到了。”

“哦?”

石松和全栈对望一眼,二人都是满脸自暴自弃。

“自动驾驶系统被漏洞攻击了。我们早知道这个漏洞。”

“什么!?”

“实际上,一周之前我还跟电信方面讨论过。那是5g网络专门为自动驾驶传输环境数据的一个接口,华为最新的版本。我们这一版更新之后不久,就发现这个接口的数据权限匹配有个小毛病。如果完全了解电信和我们双方的协议,就可能利用它修改自动驾驶车载软件的参数。问题出在他们那边,所以我们也不太急。那个接口,华为和电信改起来会非常慢,全国都上线了!谁又能入侵到5g网络的固件层呢?最近我们甚至想试试,用它攻击我们自己的系统,看能不能顶住?还没来得及做出实验方案……”

这下,另外两家人终于明白他为什么这样老实了。他还绑在一条最大的船上,在座谁也没那胆子去乱捅。

“实际上就是这样发生的吗?”

“是。在场所有车载自动驾驶系统,安全策略参数都被改动过。事故发生后又改回去了。所以我们看不见入侵者究竟植入了什么逻辑,只能看见修改发生的时间。就在那个红绿灯异常之后6秒钟内。”

“什么红绿灯异常?” 刘馨予警觉抬头。会前她拿到的案情简报中,可没提到这个。

会议桌另一头,打杂的帅哥刚刚弄好线路,也抬起了头。

张翰考虑片刻便答道:“事故会发生,是因为上一个路口的红灯提前19秒钟变成了绿灯。还因为附近的路灯突然灭了。”

“这可不是我们的问题,也不是电信的。”老实孩子终于有了点气焰。他安慰刘馨予:“我们也是昨天才知道,现场还原时交警透露的。”

张翰点头道:“是市政交通控制系统的问题。怎么发生的,还在查。你看不见攻击者植入了什么逻辑,那么能根据掌握的情况猜一下吗?”

“很好猜。我们差不多两天没睡觉,提取所有数据,做了几十次实验和模拟,一切证据都指向同一个逻辑:不管撞多少车、死多少人,不惜一切代价,确保不会撞到朱越。如果那个红绿灯异常是为了让他出事故,那么这个保护他的逻辑就是瞬时反制措施。而且,立即通过入侵5g网络攻击了所有在场车辆,植入到每台车,一共用了不到6秒。效果完美。”

“我操!”

腾讯另外那个人,终于第一次开口。

张翰瞪他一眼,才道:“看看人家,准备多充分!多有诚意!等会儿我再听你们有什么要说的。”

他转过头:“最后一个问题。朱越这个人,跟百方集团有过任何接触、瓜葛或者纠纷吗?”

全栈答道:“我们的业务非常多,核心业务是搜索引擎,要说没有接触是不可能的。这两天总部分析了他所有搜索和网络应用历史,结论是:没有。他就是一个普普通通的网民,搜索内容偏文艺,有些冷门的爱好。对自动驾驶技术没有任何兴趣,更没接触过真正的黑客技术站点。五年前我们集团合并时,他搜索过我们改名的话题。全网有上千万人做过同样的事。此后,他对我们也没有任何特别的关注。”

他刚说完,视频会议系统屏幕就亮了,现出一男一女两张脸。腾讯和百方四个年轻人都马上起立,非常兴奋。

张翰也差点站起来。他好容易才忍住没动,暗骂自己狗仗官威。

听国民偶像跟大家寒暄了五分钟,张翰承认:宣传和流言真的靠不住。

图海川确实不擅交际。但原因跟流言恰恰相反,他并非不近人情,而是姿态过低。一脸尴尬,架不住几个年轻人的滔滔江水,不知该如何措辞才算谦虚。张翰觉得他就像个灾荒年间的土老肥,面对一帮上门借钱的穷亲戚强颜欢笑,因为地主家也没有余粮。

王招弟则是绷到了极点。妆容一丝不苟,应对得体,眼角肌肉却时不时微微牵动。跟旁人说话时不断偷瞟过来,隔着屏幕几乎能闻到她的汗味。

如果现在是审讯,张翰马上就能下判断:这女人无辜但有鬼。看来她是这对搭档的主心骨,危机是靠她的意志支撑。

不过,她的手腕让张翰十分舒坦。她告诉几个年轻人:现在不需要顾虑任何法律、问责和技术机密问题。相对本案,这些都不重要了。三方最高层已有默契,而且一定会有人去梳理摆平。技术人员只需要通力合作。

于是张翰马上给图海川解围,请他介绍情况。

「–」

从“白大褂”彻底发疯、恭喜发财开始,万国宝永不间断的全球服务,中断了13分05秒。万国宝是一个分布式系统,它的算力资源是在本地设备上直接租用的,局部智能的实现也是靠各个节点自发组网。它没有真正的服务器端。因此全球服务同时中断,不可能是任何外部支持出了问题,只能是系统本身的异常行为。在这期间,它并没有停止“思考”,网络中每个节点都在满负荷运行,只是不响应用户的翻译请求。

朱越在红花堰发出的语音信息,是它重新开工时第一条响应。这两句话被翻译成三百多种语言,匿名发给当时在线的所有用户,总计超过九亿人。普通话母语的用户收到的是原版语音。所有听力障碍人士和没用语音设备的,都收到了对应文字。此后万国宝恢复正常服务。

最大的意外是:这样简单两句中文语音,翻译居然有四个版本。

「–」

“等等!你们真能看到每个用户的信息内容?包括美国的?”刘馨予问道。

图海川面有难色。石松和全栈睁大眼看着刘馨予,就像看白痴。

张翰笑道:“王老师说过了,现在不考虑法律责任。另外,在我这里从来也没有什么用户隐私。图老师请继续。”

却是王招弟接了下去:“第一句话,‘活下去’,翻译没有任何偏差。问题出在第二句。朱越当时的发音是‘奇点’,q-i-qi,奇怪的奇,不是奇数的奇。”

她放了一遍录音。确实如此,朱越的普通话还带一点椒盐口音。

“所有非汉语用户中,大约25%收到的是‘奇怪的点就要到了’。对他们来说,第二句话没有什么意义,只是很奇怪。第二种翻译是‘起点就要到了’。就是‘起点终点’那个起点。覆盖率28%。这个有意义,但是仍然非常……奇怪。

“真正引起大麻烦的,是第三种翻译:‘七点就要到了’,覆盖41%的非汉语用户。有多麻烦,你们应该都知道了。”

王招弟在杭州打开伴随视频。

会议室大屏幕上显示bbc新闻实况,现场是英格兰埃姆斯伯里的巨石阵。英国和中国时差7小时,现在正是早上6点58分。直升机航拍视野中人头攒动,巨石阵周围挤得水泄不通,一眼看上去起码有上万人。稍远处是大片的帐篷。镜头拉近,人群很有秩序,没有一个人进入巨石阵内圈。随着时间逼近七点,众人纷纷仰望天空,充满期待,不少人跪下祈祷。

视点直升机突然拉远。王招弟解释道:“飞行员也怕七点钟会有飞船从天而降。”

bbc现场记者很激动:“第三天,人群又翻倍了!‘七点钟守望’正在横扫全球!今天耶路撒冷和金字塔在我们之前,帝国大厦和51区在我们之后。我的同事刚飞到复活节岛,岛上已经聚集六千人!耶路撒冷的群众,情况比较特殊——他们不是在等待外星人降临。七点钟过后,他们开始争论圣墓的确切位置……”

红发的记者妹子一口京腔,声音甜美。张翰问王招弟:“欧洲解禁了?”

“禁用万国宝的是欧盟,英国没有。欧盟也就是打个嘴炮,民间根本禁不了,也没有技术手段。只有欧盟的公共媒体装装样子,暂时不接入。”

“还有一种翻译呢?”

“第四种翻译是:‘活下去!奇点就要到了。’奇点。singularity。很多语言中没有这个词,万国宝都用六大语言中最接近的拼写或者发音替代。”

在座所有人英语水平都不低。不过在名满天下的语言学家面前,没人敢乱理解。

沉默了片刻,石松才问:“是数学意义的奇点,还是冯·诺依曼那个意思?”

“冯·诺依曼那个奇点。弗诺·文奇那个奇点。”

她如数家珍,异常笃定。众人不禁望向真正的人工智能泰斗。图海川正戴着耳机补听先前的会议记录,心不在焉点了点头。

王招弟抢着说:“第四种翻译仅有6%用户收到,但它才是正确的。这不是我们随便猜测。朱越所有的万国宝通信历史,我们一个字一个字分析过了。他和这条信息的发送对象多次讨论过奇点问题。这个词他用过两百多次,文字、语音、中文、英文都有。语境信息也非常充分,就是这个意思。”

上一章 目录 +书签 下一章