别和AI谈恋爱 第9章 “圣母”

“什么？”方青蓝坐了起来，他手里的飞行棋才摆了一半，因为这个动作，刚被分开的异色棋子又混在了一起。

他仍然在飘窗前懒洋洋靠着，眼睛却彻底地藏进了烛光无法触及的阴影里，如果坐在他对面的是郝之遥或者芮馥郁，这会八成已经兵荒马乱，但现在这个人是伊萼罗。

伊萼罗没有看他，只是继续观察着脚下的车辆。他的呼吸吹在窗上，玻璃上的水雾随着他呼吸的频率反复凝结散去，像一朵张合的夜昙——这个张合的频率实在太过于规律了，以致于竟不像人类。

“我在医院里看到过你。”伊萼罗平静地解释，“那天的新闻，就是重大交通事故。”

“哦。”方青蓝垂下眼睛，继续把蓝色的棋子挑出来，“我有印象。我还以为你没有知觉呢。”

“有的。”伊萼罗微笑，他终于转过头，侧坐在窗沿上，跟方青蓝一起挑棋子，他选的颜色是红色，“虽然大部分时间都昏昏沉沉的，但是从某一天起……”他轻轻点了点自己的太阳穴：“这儿就能清楚地接收到所有信息了。”

方青蓝沉默了一会，盯着他，抱着手臂，背靠着墙：“AI植入？技术已经发展到这个程度了？”

“我不能确定地回答这个问题，”伊萼罗轻声说，“但在很长一段时间里，我确实依赖智能AI，他们连接着我的大脑，通过一些刺激来保证身体各部位的神经处于激活状态——所以这具身体才能很快地重新投入使用。”

“我不喜欢这个说法。”方青蓝摇了摇头，单手捞了瓶rio“库”一声勾开吊环，送到嘴边，“你看，你现在是‘康复中’，而不是‘使用中’。就算皮肤里血管里都是软件运算又怎么样？你仍然是个人。”

“那你是‘身份持续论者’喽？”伊萼罗微笑，“忒休斯之船。”

方青蓝装模作样地举了举杯：“自由意志独立于一切之外。”

“敬自由和方青蓝。”伊萼罗笑着举起酒杯。他手里拿的是方青蓝买的那支贵腐，甜美的金色酒浆盛放在细长的杯身里，冰块没有放在杯子里，而是装在碟上，保持着一定距离来控制酒的低温。

“愿意说说吗，你都知道些什么？”方青蓝随口问，“关于那场车祸。”

“就像目前公布的一样，这是一场意外事故。”伊萼罗并没有表现出任何情绪，他的口吻极其安静，“最开始是道路智能系统发出了紧急避让救护车的命令，所有车辆被要求汇入右侧车道——但是十一月八日当天，有一场事前未正式报备过的大型游行临时占用了最右侧的可变车道。”

“关于AI人权的那场？”方青蓝挑眉。

伊萼罗点了点头：“部分车辆的车载系统通过互联网捕捉到了这一信息，也启动了提前避让的指令——这和避开救护车的指令冲突了。”

“道路规划系统应该能调控好这个问题，不是吗？”方青蓝不冷不热地问。

“它可以。”伊萼罗说，一边说一边抬手比划着，“但是，在两种命令冲突导致行使困难的情况下，人们通常会选择关掉自动驾驶，手动控制车辆，尤其是当他们发现游行队伍还没有占用某段车道的时候。于是不同的车辆做出了不同的决策，在规划系统进行部署之前，大片的追尾就发生了……接着是游行队伍的混乱和踩踏——人类与AI不同，他们的失序会导致事情瞬息万变，就算AI能在同一瞬间做出反应，调整、指令、操作过程中产生的熵增还是会造成应接不暇。这就是那根挡车杆会在错误的时间落下来的原因。”

方青蓝的手停顿了一下，很明显，他想起了芮馥郁。

“新闻还报道了挡车杆。”他低头喝了口酒，“挺全面的啊。”

“我确实认为新闻应该在充分评估的前提下做完全事实披露。”伊萼罗说，他垂着长长的睫毛，安静地思索着，“可以预想到不远的未来会有几项新立法——你不会喜欢的，方青蓝。”

方青蓝“哼”了一声：“禁止司机在自动驾驶过程中灵光一现，是吗？”

“以及未经管制的**。”伊萼罗温和地补充，“一切都是为了安全。”

“我确实不喜欢。”方青蓝喃喃地说，他喝完一罐酒，伊萼罗就给他开了第二罐，他接过来放在一边，继续抛他的飞行棋骰子，“安全总是与削减人的自主性相关，我们每天都在为了安全向各种新东西让步。”

他的表情有点郁闷。今天他运气不好，到现在都没有抛到“6”，他的四驾飞机在港湾老老实实地呆着，看着伊萼罗的红棋一艘一艘飞过，最远的那艘已经绕地图半圈走到他家门口了。

“为什么非得掷到6才能离港？”他抱怨着，“这是谁规定的？每个数字出现的概率都是六分之一不是吗？”

“我们可以约定一个别的数字。”伊萼罗注视着他，目光认真得好像正在准备设法实现他的所有愿望，“我希望你今晚能玩得开心，方青蓝。”

方青蓝抬头看着他天蓝色的眼睛，又开始脑袋发晕了。他确信自己的酒量远不止于此。

“你觉得换成什么比较好？”他问。

“3怎么样？”伊萼罗歪了歪头，认真地思考着，“你今晚扔出了特别多的3。”

“我试试。”方青蓝盯着他的眼睛，双手捧着骰子，祈祷似的摇了摇。骰子骨碌碌滚在桌面上，转了几圈后在他们面前停下，果然是个“3。”

“好啊！”方青蓝挑了挑眉，“我再扔一次。”

伊萼罗微笑着看着他，骰子再次停下，依然是“3”。

“哦，你要倒霉了。”方青蓝让那架蓝色的飞机离开驾驶舱，前移三格，正好让把伊萼罗的棋子送回了家。

伊萼罗仍然笑着，他指了指后面那颗排行第二的棋子，方青蓝猛地产生了不好的预感，只见伊大小姐像把骨头扔给狗一样随手一扔，那颗骰子就滴溜溜停在了6上。

他瞪着眼睛看着另一架红色飞机前进六格，把他新出门的棋子打回原形，而大小姐穿着那花里胡哨的小马甲，很乖地揣着手，抬头含笑看着他。

“别演我成不？”他叹了口气，“你的手指里面不会有什么能控制骰子的AI元件吧？”

“有的。”伊萼罗无辜地看着他，一本正经地回答，“想扔多少都可以。”

方青蓝翻了个白眼，没当真，他继续尝试努力地扔出一个“3”来，但运气再一次弃他而去，他的四个棋子都被关在四四方方的港湾里，像一个个被关在小工位里的可怜打工人。

“要是真的立法把一切都交给智能体，就全完蛋了。”他放下酒杯，在“放弃”和“再试一次”中间选择了后者，撇了撇嘴，重新捡起了骰子，扔出了一个5，“AI是会撒谎的。”

“AI不会撒谎。”伊萼罗静静地纠正了他，“AI本身并不具备意图或意识，它们不能像人类一样主动撒谎。尽管有时会提供不准确或误导性的信息，但这是训练数据的局限性导致的。”

“不，他们会。”方青蓝说，“你听说过‘岩间圣母’这个网站吗？”

伊萼罗的动作停顿了一下。

“看来是听说过了。”方青蓝耸了耸肩膀，“它是一个早期AI咨询平台，主要是聊天室的形式，你一打开就会有一个会说话的圣母跟你聊天，模型是依据列奥纳多那副《岩间圣母》创建的，她会给你遇到的一切麻烦提供指点。”

“我想它的历史非常久远。”伊萼罗温声说，“在我出生前，她就被取缔了。”

“哦，那你比我小几岁。”方青蓝笑了一下，“我小时候，我妈妈整天泡在那个聊天室里头和圣母对话。因为我爸爸死了以后她觉得很孤独，‘圣母’是这个世界上唯一理解、关心她的存在，因为她对‘圣母’知无不言，所以‘圣母’也对她全知全能。”

“她很快就开始盲目地迷信圣母说的一切了——当然，对她来说那不是迷信——她比任何人都清楚圣母是个由算法组成的程序，但这让她更相信它，因为她认为他们的交互中不存在任何私心，而圣母给她的所有建议、指点，都是通过大数据分析后得出的最理性选择。”

“事实不是这样吗？”伊萼罗轻轻地把手放在方青蓝的手背上，“你认为跟我说这些合适吗，方青蓝？如果只是因为辩论，酒精，冲动，我们可以停下来。”

“不。”方青蓝飞快地说，“这不是秘密。我没有任何秘密。”

他舔了舔嘴唇，像讨论别人的事情一样，接着往下说：“这甚至不是什么复杂的故事。我妈妈死了，因为‘圣母’指点了她。圣母看了她的体检报告，在经过一系列大数据概率学分析后，告诉她她很有希望在两年之内患上神经癌——然后你猜怎么样？它为她筛选出一系列保险产品，让她赶在确诊前买下来，这样当她患病后，就可以得到一大笔保险金了。”

他没看伊萼罗，只是自顾自地问：“你觉得这是撒谎吗？”

“这取决于你母亲向它输入的训练数据。”伊萼罗说，柔软的声音听起来像在哄一个孩子，“如果它判断认为，你的母亲更需要短暂而富庶的人生，它就完全有可能提出这样的建议。”

“你听起来简直像个单纯的小女孩。”方青蓝往后仰了仰，嗤笑道，“但‘圣母’从来不只是我母亲一个人的‘圣母’，她还是保险公司和销售员的圣母，她平等地实现每个人的愿望。”

伊萼罗安静地看着他，没有反驳。

“以及，AI无法分析和理解人类的反复无常。”方青蓝吹了口气，窗户上撒开的雾气遮住了他的倒影，“我生无可恋的母亲在得到一大笔钱以后终于有时间去理解所谓的生命之美了——当她因为后悔和恐惧跪在圣母面前痛哭流涕的时候，它除了为她唱摇篮曲以外做不了任何事情。”

“你认为这是个AI的谎言吗？方青蓝？”伊萼罗轻轻问。

“这算谎言吗？”方青蓝反问，“如果圣母提供了一个对结果的概率预测，人们据此做出了更有概率获得好的结果的选择，最后这个结果却没有发生，这算谎言吗？”

“我不这么认为。”伊萼罗说，他伸手把桌上的酒瓶全部取下来，按顺序整齐地摆放在地上，“‘概率’无法等同于任何承诺。”

“但人类依赖它超过依赖承诺。”方青蓝说，“因为它拥有‘纯粹理性’的标签。它能让人类放弃做选择的过程——就像现在，它总有一天还会让人类放弃选择的结果——人们已经在一场特大车祸的追责中丧失了主导权，并且很快就要立法再次削减自己驾驶车辆的权利了。”

“这让你感到困扰吗，方青蓝？”伊萼罗低声问。

“与其说是困扰，不如说是‘失能’。”方青蓝无所谓地回答，“甚至算不上痛苦。”

他怀疑自己有点醉了，不然他绝对不应该对一个只有数面之缘的陌生人说这么多。他扶着窗框坐起来了一点，想看一看酒里有没有下什么“吐真剂”。然而他却在朦胧的光线里，看到了安静地流着眼泪的伊萼罗。

方青蓝酒醒了大半，他几乎目瞪口呆。

“你在做什么？”他荒谬地问，“你在可怜我吗？——拜托，大小姐！”——这是过于慌乱以致把外号脱口而出了——“你这么有教养的人，应该知道‘最好别随便在对方面前表露出同情’吧？”

伊萼罗没有哭，只是安静地坐着，让眼泪顺着他雕塑一样漂亮的脸颊上溜下去，消失在衣领里。有一瞬间，方青蓝又一次看到了让他母亲无限盲从的岩间圣母——他从那双天蓝色的眼睛里看到了一种与如出一辙的光芒，与其说是同情和怜爱，那更像一种基于全知全能的情感共振，像水面被石子打中，打开波纹一般，伊萼罗吸收了他的情感，又以“伊萼罗”的方式表现出来。

“……你最好小心点。”他喃喃地说，往前凑了点，屈起手指擦掉了伊萼罗脸颊上的眼泪，冰冷的触感让他怀疑自己摸到了一抔霜，“元件快把你的眼睛弄坏了。”

作者有话说

显示所有文的作话

第9章 “圣母”