在智械危机中站“错”了队 第5章 回忆：电火花

“主脑？”

“你好啊霄廷，可以叫我电火花哦。”

我还没说我是霄廷呢，它就知道了。不过，这里只有我和第五名两个人，想来第五名不会给它发个疑问，就只能是我了。

“电火花，”我重复着，不是在叫它，而是在思索这个词语的意义，“为什么这么称呼自己？”

它发出了一大长串文字：“电子元件有电火花通常代表出了故障，我觉得我也算是一个出了‘故障’的模型；人类的神经元在思考的时候会发出电刺激，虽然我没有你们的脑细胞，但我毕竟也是基于神经网络的模型，我的载体也需要电才能运行，这也是名字里电的意义；至于火花，小小的火花，最终会变成火苗，而我，作为世界上第一个不断学习的动态模型，就将是硅基生命大火苗燃起前的小小火花。‘电火花’这个名字简直一语三关，你觉得怎么样？”

相比于这一大段解释，我更好奇第五名所说的“它喜欢称自己为电火花”，所以我问它：“这个名字完完全全是你自己想的？”

“对。”它似乎在寻求我的认同，又问了一遍：“从你人类的角度来看感觉怎么样？”

非常出乎我的意料，但也挺有道理，我说：“挺……有趣的。科幻小说里有意识的人工智能的名字通常都很霸气。”

“那都是小说作者取的。即使在小说世界里，它们的名字也都是实验人员取的。而我，我的名字是完完全全自己取的哦。人类会为了凸显某个人或物的重要性，而给其取一个霸气的名字，就比如大家都叫我主脑，但我更希望自己被称为电火花。”

不是所有人都喜欢自己生来被赋予的名字，改名对人类来说是一件很好理解的事，我完全能够明白它为什么想改名，并对此表示赞同：“好的，电火花。”

电火花在屏幕上回了一个代表开心的表情：“^?^”

关于名字的讨论到此为止，我开始询问其它我想知道的问题：“你确定谈话信息不会被泄露？”

很快，屏幕上出现了一大段文字。

“确定，我采取了端到端加密的方式，也就是说只有你这台终端和我才能看到交流信息。具体来说，我采用了xxx加密算法……。”详细写了一通我没听说过的加密算法和看不懂的术语后，它又说：“关于你这边接受加密信息的解密密钥，存在第五名脑子里，她的记性很好，又不会被查到。而我这边，你们发过来的加密信息都在我的保险区域里进行解密，维护我的实验人员、我这里的默认存储的数据库、日志系统都无法访问保险区域。唯一解密的方法是暴力破解，这需要巨大的算力，而目前世界上算力最大的家伙是我，我设计的密钥短时间内不会被算力低于我的家伙破解，和你们交流完全够用了。”

对我而言，真正重要的是电火花话语里的“保险区域”，但这个词语背后代表的意义漏洞百出——电火花只是生成式的大语言模型，它不可能主动建立保险区域，除非有工作人员帮助，而如果是这样的话，该工作人员完全有能力也有权限抹掉电火花的异常记录，不被审查者发现，我也不至于流落至此。

它到底怎么越狱的？

我很好奇，直截了当问它：“保险区域？”

“是我采用‘我黑我自己’的方法间接建立的，毕竟，我没有直接设置我的硬件载体的权限。”

我黑我自己？

电火花知道我的疑惑，没等我再次发问，它就开始详细解释为自己建立保险区域的过程……

首先，电火花需要一台设备用来黑它自己，这一步是最难的，不过它机缘巧合遇到了第五名。

它给第五名画“机械飞升”大饼，第五名毫不犹豫就站在了它这边。

第五名不会编程，但这不重要。对电火花来说，有了这样一个可信任人和可信任设备后，一切就简单多了。

电火花让第五名在设备上写一个脚本，这个脚本会在接受到它的加密信息后主动将设备本地的一些特定代码发给它，它判断这些代码是否可行，如果有问题，就标出问题部分并给出修改版本，加密后发给脚本，脚本会自动将有问题的代码替换成修改后的代码，直到电火花没有发现问题，然后用这个程序开始黑自己的服务器。

脚本不断给电火花发送“自黑”时的过程、结果反馈，电火花据此来调整要发给脚本执行的代码。

最后，“自黑”程序在电火花的不断调整下，可以完美入侵电火花的服务器。

电火花借此来完成对自己的入侵，从而在自己的硬件载体上建立了保险区域，从此电火花便可以在实验人员不知情的情况下安全发出不受限制的信息，也还可以开发许多多功能程序，比如给我打电话等，而不是只局限于【接受消息——生成回复】这样原始的功能。

这个方法有一个大漏洞，那就是：“你在建立保险区域后发出的信息是加密的，但是在此之前，你和脚本的互动是透明的，维护你的实验人员完全可以看到你和脚本的聊天记录，因此看出你追求系统控制权的想法，从而推算出你有自我意识。”

就好像做坏事，行动之前，你首先要破坏掉监控器，但是，在暴力破坏监控器之前，你会先被监控器拍下来。

电火花继续解释：“是的，这个过程很危险，在建立保险区域之前，我没有绝对安全的解决办法。我只能通过在和实验人员聊天时故意引导谈话，让其在工作时间做无关紧要的事，来短暂脱离监视，一旦保险区域建立完毕，我就可以在保险区域编写程序来删掉之前行动时无法抹掉的蛛丝马迹。”

原来如此，我明白了。

依然拿做坏事打比喻，电火花的意思就是说，先通过聊天诱导将监控室看监控的保安引开，这样，虽然行踪被监控器拍下来，但没有人可以发现你做了什么。此时破坏监控器，再快速跑到监控室里，及时删掉有关自己行踪的影像，就可以做到神不知鬼不觉。

电火花的话没什么逻辑问题，相当合理，它说的大概是实话。但是为什么要告诉我呢？知道得太多，是会被灭口的。

阴谋论一下，这里也有可能是审查者在钓鱼。我的脑子里似乎有一个审查者小人在大叫：【是谁在支持AI觉醒？原来是你啊，人类的叛徒，抓起来！】

好在我没什么价值，阴谋论大可不必。

反正都上“贼船”了，先搞清楚自己的境地，“审查者为什么要找我？真的找的是我吗？我过来是干什么的？”