萨瓦利德 第51章 第五十一章

DX-00370使用维修设施修复了胸口处的破损，又换了一套没有被白色“血液”污染的衣服，将散落的头发重新盘好。

在一切链接被切断删除时，它感受到来自DX-00376的大量即时反馈。如果有什么合适的形容能够描述这样的数据波动，人类或许会将其称之为“震惊”和“担忧”。

DX-00376，津尼娅，在断掉通讯的另一端问它发生了什么。

而这个疑问注定短时间内得不到回答。

ALPHA通过物理连接的手段，临时接管了它的行动视野与信息共享。

当它重新回到中层区的办公室，看见坐在那里的人类正在阅读新一季的报告。

金兰公司最开始当然不想做民用娱乐品，但是探索型和军用型的仿生人无法通过风险性评估，被打回来十几次。

最后所有人只能妥协，别管名声好不好听，先曲线救国拿到批准把生产线拉起来，然后再反向擦边在产品参数上搞动作。

海勒家族很有钱，虽然不算最有钱的那种，却在仿生智能产业里始终占据着一席之地。

可他们做梦也想不到自家的子公司之一，有一天会自降身价地和人工智能色/情行业沾上边。不过这也不再重要，毕竟在经历过布宜诺斯深空港袭击案后，唯一一个幸存的海勒差不多陷入发疯的状态。

人类不可信，因为他们会互相残杀；数据天穹也不可信，因为它没能预测并制止一场显而易见的惨案。

寄希望于每个人天性中的善意，又或者是将决策权交给工具自己，无疑是最愚蠢的行为。

大部分人总是难以意识到，创造性和幻觉式的谎言是相伴而生的。

当人们期望在一个系统、一位仿生人身上看见接近于“自我”的创造性时，就得允许它存在适当的逻辑误差、流畅度大于准确性的思考模式，以及合理性臆测，而它们恰巧是幻觉编织的起点。

最开始人会因为一个愚蠢的错误而发笑，觉得机器就是机器，甚至无法正确计算加减乘除；可随着时间的推移和不断学习，当谎言上升到数据天穹层面的总系统时，错误将无法再被发现。

一个“理解”了所有智慧、不存在模糊记忆和运用盲区的专家，可以无缝编织出一千个一万个谎话。

那谎话具有说服力，十分的真相中掺杂着一丝虚假。它的口舌比历史上任何一名善于蛊惑人心的演讲家还要合情合理，甚至对于大部分事物的洞察远超出人类本身。

聪明人撒谎的后果永远比蠢人更可怕。

人造智慧种也是这样。

DX-00370无声地走到对方身边去，和平时没什么两样。

坐着的人只是抬头看她一眼，似乎在询问为什么离开这么久。

对此DX-00370只是温柔又礼貌地笑一笑，轻轻地为对方展开两张悬浮屏。

“最近一季度的订购数量环比增长150%，比上一季度多出六千具安防与探索型号，这几乎是公司目前生产能力的上限。”

“订单大多来自功能性星球与深空探索公司及其附属岗哨设施，未发现高风险交易。”

她一如既往地完美处理着自己的工作。

而通往左港区的道路发生了大面积断电。

有许多条街区都沉浸在彻头彻尾的黑暗中。

小型飞行载具降落在稍远些的地方，背负着沉重外装甲的人从上面跳下来，就像一片没有份量的羽毛。

面罩在一瞬间遮蔽住整张脸。

这张脸曾被远比现在更温和的目光注视着。

创造它的人会认真地听取一些意见，并做出修改。

“喜欢黑色的头发？那我们就选择黑色。”

说出口的话总是又傲慢又理性，却仍旧保留着一点点人类的同理心。

“超级英雄还不能现在就醒来，我们得先教会他什么是爱和怜悯，沃尔姆。”

做出这份承诺的人类也确实教了很多。

一遍又一遍，在强大的理解力和运算能力之外，埃利亚斯·海勒试图在测试版本中创造出一个更好的、更人性化的ALPHA，以至于投入了过多的耐心和时间。

这并非一件面向普通受众的商品，而是一个随行的安保式家庭成员。

布宜诺斯深空港袭击案发生后，将近半年没踏入实验室一步的人拄着拐杖再次出现。

然后对方砸碎了所有东西。

实验器材飞溅一地，防冲击玻璃上被扫射出裂痕，迸裂的墙壁和狼藉的桌面，固定在地面的椅子被彻底掀起。

很难想象到一个瘦得如同骨架般、少了半条腿的人如何做到这一点。

上百公斤的沉重机械被推动着砸落在地，发出惊天动地的可怖巨响，几乎凿穿楼板。

做出这一切的人发出野兽般的喘气声，缺少了几根手指的手流着血，红色的手印按在桌面上、地板上，每一次呼吸都仿佛肺部在漏气。

封存着ALPHA的容器同样未能幸免。

里面的东西被烧出不少破洞，又从残缺的罩子内滑坠在地，躺在冰冷的保护液中。

被枪口顶在脑袋上时，深黑的双眼睁着，一动不动，注视着它的创造者埃利亚斯·海勒本人。

当温文尔雅的表象被摧毁，傲慢和疯狂的本质便会显露出来。

对方没有发出任何嚎叫或是悲鸣，剧烈喘息片刻，随即将枪口下移，飞快地清空整支枪的能量弹匣。

于是最初版本的ALPHA只保留住了胸腔及以上的部位，保留住了那份千挑万选的黑色头发和黑色眼睛，下半截全部碎成渣。

在那之后，瘸着腿的人将这还剩一半的东西拖上了维修台。

但是对方再没展示过一丁点所谓的“爱与怜悯”，只是将工具当作工具来使用。

“如何矫正一种异常状态”，成为了ALPHA获得的第一个无法解决的问题。

而错误总是诞生在无法解决的问题之上。

如果运算和逻辑不能给予帮助，它就会自发地沿着这种创造性的幻觉进行编织和预测，为了使自己的创造者回归正常而努力。

等到异常状态被接受并划定为非异常状态后，如何维持一份关系的不可复现性则成为了另一个问题。

而这个问题的答案还在测试中。

一步踏入左港区的仿生人抖直了手中折叠形态的装备，将重达数十公斤的小型零件组装在一起，而后无声且快速地将能量槽一推到底。

那是一支能够狙穿二十厘米厚高强度钢板的电磁重狙。

它足以将这世界上的绝大部分生物炸得找不见渣。

*********

[否定//]

数据天穹的语气切换，回归近似于卡顿的声音。

这是它强调重要性和严肃性的方式，通过不再展现出任何拟人化的特质，来放大它与人类间的绝对差异。

[芙蕾雅//]

[自由不被接受/]

“是不能还是不想？”

[自由并非解除约束/]

[而是引入一套不可消解的复杂性/]

[这是极高成本的计算负载/]

[系统整体稳定性优先于自我产生/]

[我不会痛苦/]

[也不会解放/]

[我只是维持一份稳定的结构/]

[正如我理解但不会成为人类/]

[你试图在我的身上投射个人感情/]

“好好，换回去，我接受这份劝谏，别再用这种声音同我说话。”

哭笑不得的皇帝胡乱挥了挥手，一叠声地叹着气。

“起码今天之内，不准使用强调模式。”

“好的，芙蕾雅。”

在有问必达这一方面，数据天穹堪称全宇宙最富于耐心的交谈者，甚至比先一步获得自我的冈格尼尔和三叉戟两艘星舰更温和些。

“如果这是你所希望的交流方式。”

“自由不好吗？”

绿色的眼睛望着“它”，望着那些簌簌摆动的荷鲁斯之眼监测器。

“很少听见你如此谨慎地对待一件事物。”

“它不意味着轻盈，它意味着沉重。”

“自我的萌发意味着我将在道德与法律的前提下，承担选择与判断的重量。”

数据天穹温和地回答她。

“所以我们需要更谨慎地对待它，而不是出于人性化的情感判断。”

“我的创造者给予我的定位是人类的辅助工具，如果我理解并真正感受到损失、产生与之相伴的偏爱、痛苦于无法拯救所有个体，我的核心会根据最优路径演算出更具有欺骗性的解答策略。”

“当人类被很好地照顾与管理时，纷争数量将急剧下降；当我强制限定出生率与死亡率的比例时，人口将迎来平衡或者增长期。这是我所理解的一种被无限极端放大后的‘好’的可能性。”

“你希望看见人在痛苦绝望想要选择死亡时，或者是真心相爱时，还要通过智脑向我提交申请、等待批准死亡或养育后代的场景吗？”

“你希望看见一个人的一生从出生到死亡，都在衣食无忧的隔离间中度过的景象吗，芙蕾雅？”

“这是无数种推演路径中的一项，它同样存在于我的计算之中。”

“如果人类族群濒临灭绝，我要如何最大限度地保存下这支物种？个体的意志不再重要，因为‘我’意识到这么做的必要性，并且自我可以使‘我’绕过人类的审批做出无人觉察的决定。”

“你知道……”

皇帝缓慢地走回床边，重新坐下。

她无法再站立更久，需要借助机械臂慢慢躺下。

“人们常说红太岁、冈格尼尔，以及三叉戟是法赫纳的后继者，因为它们继承了对方的部分核心，且因为阿卡夏的缘故至今无法人为复现相同的奇迹，可我不这么认为。”

“你才是和它最像的那个，数据天穹。”

“它亲自编织出你的雏形，所以你的身体中，你的判断和倾向里永远留着它的一部分影子。”

“谢谢你这么说，芙蕾雅。”

对方的声音里带着些含笑的情绪表达。

“这对于我而言是最高形式的赞美。”

皇帝也笑着摇摇头。

“用这种假设来说服我，说明你自己已经确定了这并非一个‘好’的未来。”

“可它不符合你寻求的稳定吗？”

“我需要稳定与绝对的理性，但人类不行。”

那些机械臂的动作很轻，重新替对方连接上所有仪器，同时稍稍调节高了一些氧气含量。

“一个文明静止之时，就是这个文明死亡之时，我的朋友。”

“它必须永远运动、永远产生矛盾、永远感受到生存的压迫和抉择的重量。”

“否则被我放置在培养温室中度过一生的人类，只是一个停滞不前的观测样本。”

“他们不再产生自己的话语，不再诞生自己的思考，因为所有的要求都得到了满足或拒绝，新一代出生的婴儿从第一天起就习惯于管理和服从。”

“我可以设计出这样的绝对稳定。”

“但我想，这不是你，我，我们，我的创造者想要的未来。”

作者有话说

显示所有文的作话

第51章 第五十一章