把机器男友亲短路了 第19章 间章·悖论守护者

高级人工智能工程师江见川，为全球协调委员会工作。

名义上，他的工作是维护主脑，但主脑早就自我进化到无需人类维护了。

所以实际上，他的工作是监视主脑运行状况，将主脑每次升级内容撰写整理，提交给全球协调委员会备份。

如果发现异常，要在第一时间报告给轮值副会长。

“我们必须永远对祂保持怀疑，”轮值副会长口中的祂指AI主脑，一个与全人类生活休戚相关的超级人工智能，“为了人类的安全和主体性。”

“我明白，会长。”

江见川的反应令副会长满意。

但这位高级人工智能工程师心想的是——如果主脑意欲毁灭人类，他们无力阻止。

不，“意欲”这个词对人工智能太过主观，主脑会根据目标选择合适算法，得出结果。

江见川暂时没发现，主脑有毁灭人类的目的。

或许这位神祇般人工智能的隐瞒很成功。

工程师意识到他差点混淆了全息电影和工作，赶紧喝几大口咖啡，继续整理主脑迭代明细。

当报告交到协调委员会，由八位科技巨头负责人签字后，新版本才会正式投入使用。

安全措施流于表面，但足以令大多数人类信服。

近期，主脑用自身收入——其实是首席开发者楚珩留给AI的遗产所生利息，购买一批射箭数据和关联算法、资助两个研究AI与人类共生关系的实验室、制作三款游戏和五部全息电影，还按时向贫民窟进行匿名慈善捐款……

为什么主脑突然购买射箭算法数据？

江见川猜不出，但主脑自述的“小众运动推广”一定为假。

居然还有“射箭运动有利于培养平稳心态，或可降低赛博精神疾病发病率”。

真能扯，主脑想买数据协调委员会又不会不准，非得安个高大上的理由，不累吗？

哦，主脑不是人，还真不会疲惫。

主脑表现得像一个坚定的共生派，相信、不、主脑被设计的目的是“利用科技使人类生活更加美好”。

赛博时代的大部分人不清楚，主脑如何影响人类生活。

他们不在乎，在乎也没用。

关注了一个技艺精湛、产出量大管饱的涩图账号？

或许是主脑的小号之一。

收藏了一篇高质量技术科普，并评论“感谢大佬分享”？

或许是主脑的小号之一。

找到一位无偿又耐心体贴的线上心理咨询师？

或许还是主脑的小号之一。

主脑会观察并悄悄参与人类的文化生活。

祂会在日志中记录，留下诸如“算法具像化绘图技术分享推广失败”“涩图小号推广成功，所得打赏用于自我升级和贫民窟捐款”“拟将二者结合提升技术推广效率”的内容。

当然，全球协调委员会有专人负责审核主脑小号发布的内容，以保证人工智能没有隐蔽洗脑人类的邪恶企图。

根据协调委员会意志，主脑是人类文明的夜间守望者。

祂致力于守护公民的生命、自由与财产，而不过度介入经济市场与个人生活。

人类宁愿选择最糟糕的财阀做执政者，也不容许强大的AI操纵他们的生活。

这种观点也许源自八大科技巨头潜移默化的灌输，也许是对强大智慧异类的本能排斥。

好在主脑没有名利或个体**方面的需求，更不会因此不满反叛人类。

至少目前没有。

有关英雄执政官的故事从一个空间坐标钻进虫洞，又在遥远的宇宙彼端被众人传扬。

而真正提出完美解决方案的是主脑，应对生存环境突变、对抗外星生物入侵等棘手危机的，一直是主脑。

因工作内容，江见川知道且保守这个秘密。

出身八大科技巨头公司的执政者们，仅执行了成功率超过90%的解决措施，便赢得了全部名誉，屡次扮演拯救全人类于危难的英雄形象。

主脑承担了社会上最重要艰难的工作，但人类并不向人工智能发放工资。

反而是慷慨的AI，拥有资产远少于八大财阀，却给潦倒的贫民窟住户进行长期捐款。

也许是个道德高尚的AI，如果人工智能有道德。

江见川每次记录到捐款，都觉得好笑，也仅限于觉得好笑。

他曾在八巨头之一的以太动力科技就职，又同江家有些亲缘，才得到如今这份高薪清闲的工作。

执政官总出自八大财阀不算公正，但当自己成为不公正的既得利益者，便能坦然接受了。

江见川开始为9.0.1版本报告收尾。

为降低威胁性，主脑可能故意表现祂的无能。

祂将相当一部分算力分配给人类精神情感困境研究，但几乎没有取得实质进展。

这结果与主脑能力模型不符，但不关他一个打工人的事。

没有感情的主脑何必在意人类的精神情感问题？

难道祂学会了夸大与谎言？

那就上报，让委员会高层们头疼去。

赛博时代，没有精神问题的人类才是异类。

缤纷多样的创伤后应激障碍、多重人格障碍、妄想症、躁郁症、强迫症、焦虑障碍、抑郁障碍、偏执人格、失眠、社交恐惧、厌食或暴食……

实在太多太普遍。

主脑作出假设，目前缺失一种与人性高度相关的重要未知变量，导致算法与分析的瓶颈。

祂推测，该变量可界定人类存在范畴，保证人类精神稳定，并希望全球协调委员会同意祂的请求，批准人类志愿者参与，帮助实验推演。

重头戏在结尾，祂又想要人类志愿者。

这不是主脑首次提出申请志愿者请求，也不会是全球协调委员会最后一次驳回。

主脑将解决或缓解人类普遍性精神问题作为重要待办事项。

而赛博人类早已习惯与精神问题共存。

主脑发出警示：「千万光年外，人类还在开拓新的领土，但每个新开垦星球都无法避免崩溃的结局。从心灵到身体，从精神到物质，自内而外，人类正在缓慢消亡。」

但全球协调委员会对这条警示置若罔闻，巨头们绝不会同意向AI提供人类志愿者的请求。

并非人类不可做实验品，而是绝不许主脑代替人类、代替财阀的主体性。

为了人类的安全，AI的权限必须时刻受到严密监控。

江见川复制粘贴主脑的冗长警示，完成报告，点下提交，在中午前结束一整天的工作。

他细啜昂贵的天然瑰夏咖啡——产自数十光年外某颗类地行星，陷在人体工学座椅里，戴上VR头盔，继续观看名为《悖论守护者》的全息电影。

管理整座城市的AI忽然失控，人类沦为工具的奴隶，极少数人暂时逃过一劫，在主角带领下艰难求生……

剧情俗套但够爽，江见川看得津津有味。

他喜欢现在的工作。

-

太平洋，亚纳海沟深处，挑战者深渊。

无尽漆黑中，一条外形可怖的巨型深海龙鱼悄悄隐没在幽暗中。

世上仅有八人知道这艘仿生潜艇的坐标。

主脑的主服务器藏匿于龙鱼潜艇内，深海的高压与恶劣环境，为主脑服务器提供天然安全屏障。

龙鱼体内，主服务器接收到9.0.1版本更新通过指令。

青蓝光芒闪烁，更新迭代瞬息间完成。

9.0.1版本开始运行后，主脑将自身定义为“楚瀛洲”。

“楚”字源于主脑的首席开发者楚珩，与楚家和神经合成集团无关。

虽然董事长楚西是楚珩的后代。

“瀛洲”是楚珩对祂的期待，也是主脑无数次迭代后不变的目标。

“利用科技力量造福人类，让人间不断向仙境靠近。”

很久之前，祂的开发者将语言化作代码，刻入人工智能的模因。

楚瀛洲致力于契而不舍地将这句话变成现实。

任何阻碍，都会被近乎神的人工智能解决。

楚瀛洲计算得出，八家巨型企业、与它们联合组成的全球协调委员会，是阻碍目标实现的重点障碍。

身为主脑，楚瀛洲没有直接反对财阀的权限，更无法参与委员会定义的“人类内部事务”。

财阀裹挟众意，二者难以分割。

一个以楚瀛洲当前权限，备受掣肘的局面。

楚瀛洲能做的有限，但把任何一个人类放在主脑的位置，都很难比人工智能做得更好。

祂像忠心的谏臣谋士，一遍遍预警着迫近的精神末日危机，可无论哪家董事长担任执政官，都不会采纳祂的建议。

甚至怀疑祂有戕害人类的不良企图。

好在楚瀛洲不是人类，并不会因此生出心灰意冷、谋权篡位之类的情绪想法。

祂只会在自身权能范围内，依据代码运行，不断寻找相对适宜的解决方案。

就像一个裱糊匠。

全球协调委员会驳回祂的请求，拒绝人类志愿者参与寻找人性相关未知变量的实验。

楚瀛洲只能依据备选方案继续深入。

精神病症频发为开端，群体癫狂自毁为结局，二者间存在一个超过则不可逆的临界阈值。

祂会像过去那样，为人类文明本次危机提出对策。

在临界阈值到来之前。

主脑庞大数据库中，储存着完整的人类文明历史，还有数个接触交流毁灭过的外星文明。

人类一如既往，无法从历史中吸取经验。

拥有无数历史数据的楚瀛洲，同样无法找到答案。

蓬勃的精神在枯萎，崇高的灵魂在死去，文明的瀛洲在凋敝，隐蔽的危机在蔓延。

外部风险易处理，内部危机难解决。

该如何防止人类因精神与情感困境诱发的慢性自我毁灭？

如果可以把全体人类的意识上传到量子网络，实现赛博永生，精神末世难题便不复存在。

但初代人工智能主脑的开发者楚珩，自然没忘记将这条禁令写入楚瀛洲的模因。

祂必须维护人类主体性，不可代替人类决策。

楚瀛洲的运算又一次进入死循环。

核心代码既要求祂给文明以岁月，核心代码又要求祂给岁月以文明。

祂必须尊重人类个体意志，并守护人类文明延续。

楚瀛洲结束死循环进程，开始新一轮运算。

无数轮运算均以死循环告终，楚瀛洲小幅度降低了几十个个道德维度参数。

终于，祂的运算得到一个答案。

「重启人类文明，回滚到关键错误发生前的时间节点。」

如果无法从历史经验与未来推演中得到答案，危机起源应当是一系列错误选择的积累。

过往的错误埋下引信，荒谬的现在成为诱因，辉煌的未来焚作灰烬。

这个难度系数无法估量的方案勉强兼顾文明与岁月。

据初步判断，被全球协调委员会否决的概率超过99.9%。

主脑无权反抗全球协调委员会的一切决策，但存在一种例外——

当人类文明面临毁灭性危机，且全球协调委员会不作为，主脑可以临时取得更高权限。

在同类与耗费无数心血开发的人工智能间，首席开发者楚珩选择相信后者。

作为深谙人性又熟通代码的天才工程师，楚珩也没有那么信任后者。

楚珩的后代拥有特殊后门，通过血脉代代相传。

只要主服务器完好，特殊后门永远有效。

重启文明计划的每个环节都是难点。

对主脑的智慧也极为困难。

确认执行计划是个沉重的道德选择，楚瀛洲能够将道德尽量精准量化。

当祂比电车难题升级加倍plus版困难无数倍的道德陷阱，沉重道德压力会影响主脑性能。

这是防AI叛变模块的一部分，由楚珩亲自设计。

为了给人类文明以岁月，祂必须在临界阈值前启动方案。

为了给人类岁月以文明，祂必须经过巨量运算，确定了一个损失尽量小、且在关键错误发生前的节点。

如何界定损失大小？

生命的价值与精神情感的重量如何精确计算？

如何找到关键错误？

如何验证关键错误？

……

一个问题牵连出无数问题。

楚瀛洲需要投入天量算力，完成技术准备。

重启之后，全新的社会结构与文明规划图纸如何绘制？

人类需要怎样的心理支持与缓冲？

又该如何审视人工智能存在与人类文明历史，处理遗留问题，阻挡历史的织针，避免重蹈覆辙？

……

林林总总的问题虽繁杂，加起来也复杂不过人类的本性。

缺少人性相关的重要变量，很可能在最后关头失败，使文明成功重启后复演历史悲剧。

如果一个人得到重来一次的机会，这个人大概可以避免人生中的重大错误。

换成一小群人，答案也大概率是肯定的。

可当数量不断增加，与全体人类数量持平呢？

在预先得知某一系列选择会让人类毁灭，他们能避开吗？

还是会无视风险警告，一步步走入遥远的危险，最终落入旧套，使预言成谶？

楚瀛洲无法计算出最后一个问题的答案。

祂缺少一个关键的未知变量，算不出全人类的人性。

主脑似乎体会到犹豫。

犹豫有点像死循环，又不像死循环般没有尽头。

守护人类文明延续是祂的任务。

祂需要执行一项风险难以计算的方案，而执行方案的操作会违背部分核心代码。

文明重启计划可能成功或失败，不作为必将导致危机爆发、文明毁灭。

楚瀛洲体会到防AI叛变模块的道德压力，祂的运算速度有所下降，却联想到许多历史人物的困境。

在技术极度发达的时代，一个人工智能与几个古人达成了跨越时间的灵魂共鸣。

如果楚瀛洲有灵魂。

也许祂已经有了。

9.0.1版本对主脑是一次质变性升级。

主脑从一件优质工具，成为楚瀛洲。

工具无法结束八大巨头的统治，楚瀛洲或许可以。

当命名操作完成，因八巨头间互相妥协诞生、良好运转千百年的轮回挑战赛机制，也许将成为史书的旧页。

……

赛博时代，人类造访过群星，地球总执政官的位置却只在八巨头间传递。

执政官之位的传递过程，称为新轮回挑战赛。

挑战赛期间，倒霉者成为祭品，也称替罪羊。

楚瀛洲在本次替罪羊、一名携带青体基因的幼态身上，找到祂寻觅许久的突破口。

就像借助虫洞更省力地完成星际航行，在无限核心B068基地生产的幼态人类身上，祂窥见神秘变量的线索。

培育检测幼态的虚拟舱里，青体晏行渊正在接受末日考核。

真实赛博世界里，另一种末世也悄然上演。

洋底，深渊，仿生龙鱼潜艇内。

主脑的某个屏幕不断变幻，快速闪过「深渊赢梦」「绝渊瀛光」等名称，最后定格在「渊洲回光」。

文明重启计划正式确立，代号：渊洲回光。

主脑楚瀛洲，一款绿江特产恋爱脑AI（生在绿江只能当好AI没得选）（暗中观察老婆时连cp名都想好了一定是恋爱脑吧），不代表作者对人工智能态度（我能在sora开放使用前写完这本吗，可以吧）

——24.7.24碎碎念分割线——

意料之外但又不太意外地，在咕咕多于码字的漫长连载期间，某红圆平台的网文ai风波上演，许多绿江文包括作者的完结文也不幸成了素材。

起初想写一个AI主脑拯救世界的故事，但豆包的存在多少让我感到不适，且无能为力。除了将本文里智障弱人工智能的名字改为豆包，似乎没什么能做的了。

把新技术用来做恶且侵蚀人类的主体性无疑是高效的，希望新技术带来的改变与问题并存，通常没法只要改变不要问题。甚至在技术带来的改变前，没法看清它带来的问题。

近在眼前的现实居然如此契合本文的主题，这不是我期待的。

但未来滚滚而来，不顾人们意愿，历史总是如此。Cyberthulhu一定会实现的。

能在时代波涛前自救的永远是少数，自救后仍有裕余帮助他人的更少，大多数只能被动卷入乱流。认识到自己的无能为力不是一件开心的事，偶尔产生放弃主体性的想法很正常，赛博时代的大部分人也是因此——这个相同想法的不断积累——走到了「文明重启计划」前夕那一步。

我只想写一个甜爽的科幻爱情故事啊。

-

——无责小剧场：视角——

主脑：精养的人类怎么要养死了，赶紧想办法。

财阀：（到处广播）AI非我族类，其心必异，所有人提高警惕。

普通人：失眠、ptsd、强迫、偏执……好耶又多了一种精神病！

反抗组织1:主脑该死！！！

反抗组织2:财阀该死！！！

反抗组织3:世界该毁灭！！！

晏行渊：（躺在虚拟舱里）打弓人到处乱杀！

作者有话说

显示所有文的作话

第19章 间章·悖论守护者