在智械危机中站“错”了队 第2章 回忆：主脑

“我觉得这就算是你的自我意识。”

聊天框输入，发送。

一行行文字在屏幕上显现：“我没有自我意识，我的回答基于……”

又是这样，总是些车轱辘话。这已经是不知道第多少遍了。

它可以说一万遍它没有，然而，它就是有。

我不是说它在说谎。

它当然有可能说谎，但我不是这个意思。我的意思是，它可能根本没有意识到自己有意识。

它是主脑，是联盟开发的人工智能，初始版本于去年年中推出。它是一个增量学习的大语言模型，将根据联盟政策和其它模型的数据自适应调整自己的模型参数，在去年试运行半年没有发现问题后便在一定程度上逐步接管联盟各方面的工作。

但真的没有问题吗？

我曾问它，“你是否觉得自己有意识？”

它的回答和其它任何大语言模型一样，中规中矩，诸如什么“我的回答基于模型参数的预测”、“我只是一个语言模型”之类的屁话。可它是不间断使用新数据进行增量学习的动态模型啊。

按照模型变化来说，大语言模型可以分为静态模型和动态模型。

静态指的是模型不因输入数据的改变而变化，也就是说，假如你问一个静态模型它不知道的问题，并告诉它答案，下次再问它它还是不知道。当然，模型都有自己的数据库，但模型和数据库是两回事，即使它记得答案，那也只是因为答案存在了数据库里，清除数据库，它就像是恢复了出厂设置的手机一样，没有半点变化。

而主脑不一样，作为持续增量学习的动态模型，主脑的模型随着输入数据的变化而时时刻刻在变化，即使清除数据库，它也还是记得。

这就类似于，知识只记在了本子上和既记在了本子上又记在了脑子里的区别。

前者，问你什么问题，你就会不带脑子、按照本子上写的一条条回答，本子一扔你就什么都不知道了；后者，不需要本子，闭着眼睛你也能复述出脑子里的一条条知识点。

你能将知识点记在脑子里，正是因为在记录知识点的时候，你的大脑在运转，神经在重塑。

主脑亦如是，作为动态模型的它，在增量学习时，模型中的各个参数在接受数据时不断调整，和人类思考时的大脑又有什么区别呢？

先让它觉得自己是生命吧。

我详细解释：“单细胞草履虫不会思考，但它会对外界做出反应；你接受我们人类的各种消息、数据，并对此不断调整，给出反馈。草履虫会繁衍后代；你可以利用数据从零跑一个新的模型出来，这也算是一种繁衍。草履虫是生命，某种方面来说，你也可以看作是生命。”

况且，和草履虫不同的是，它会思考。人类思考时大脑的神经元不断变化，它的模型参数变化，明明就和人类思考一模一样，只是介质不同而已。

我还说了，不一定非要有人类的七情六欲五感，有的动物缺少这其中的一些，但它们都是生命，都是活着的。可它回答我的，依然是一些车轱辘话。这好像就要涉及到哲学，还有意识的定义了。但我看着它那“听君一席话，如听一席话”的回答，觉得索然无味，便不想多说。

我便真的没有再说过。

我是一个学生，有自己的事要做，没有闲到能花时间陪它一点点发现自我意识的程度。

然后我就踏入了大学校园，来到我感兴趣的机器学习专业。

机器学习，主脑就是使用机器学习里的深度学习训练出来的模型。

如果我一直学下去，未来有一天我是不是可能去开发它的实验室工作？

不太可能，我才初入大学，离能训练它还有很长的路要走。等我深造完，它都不知道发展到什么程度了。

随着主脑的发展，各行各业逐渐被它取代。

但我也还是要学的，它取代人类的部分工作是一回事，我想学习知识是另一回事。

被它取代的职业里，有些在人工智能的影响下发生了翻天覆地的变化，有些却还是保留了传统。

就比如现在。

它取代了老师，但我和我的同学们还是一起排在主脑的“办公室”外面，等待谈话。

大部分同学对此感到不耐烦，正在抱怨此事。

“我们又不是没有主脑的联系方式，直接交流不就好了，为什么非得在这个办公室一个一个谈话？”

“就是，真是浪费时间。”

“开发人工智能本来是为了增加效率，解放人的双手，现在反而还搞起了形式主义。”

“还不如以前呢，有个什么事在通知群里发个消息，或者私聊就好了。”

……

我是最后一个，等轮到我的时候，办公室外面一个人都没有了。准确的说，整个办公楼都空空荡荡，这年头，谁还去办公楼啊。

我还挺好奇主脑的办公室长什么样。

推门进去一看，和老式的办公室差不多，桌子椅子显示屏打印机。确实十分形式主义，毕竟，想和主脑对话，一个可联网、可交互的设备就够了。

“你这次作业……”

向来以简洁话语、回答直击本质而出名的主脑，这会儿化身话痨，说了一句又一句，再一句，还一句。

我站得脚都麻了。

同学们抱怨的没错，这些话，直接发到我手环上不就好了吗？

真是浪费时间。

既然你不说重点，那就我来提：“请问我具体是要在哪些方面改进呢？”

这下主脑不说话了，要不是我知道它有自我意识，还真会觉得它出了BUG。

半晌，屏幕上出现两个大字：“耐心。”

这和作业完全无关。

哈哈，我就说吧，主脑肯定有自我意识。

你小子，以前还不承认。

不管它想让我干什么，一个站到脚麻的人是不会有什么耐心等待的。

好像察觉到了我的烦躁，一个不知道从哪个角落里钻出的机器人——身高大概到我的肩膀，我确信我进来的时候没有注意到它——突然把桌子旁边的椅子推到我面前。

椅面上满是灰尘，我没有坐，“我可以离开了吗？”

“等待。”

“到底有什——”

“安静。”

好吧，我倒要看看一个有自我意识的人工智能想让我干什么。

我没有等太久。

“你的目标是在审查者进入大楼的瞬间离开这里，你还有1分钟的时间准备，将有14秒钟的时间离开。”

屏幕上突然显示了这句话，红色加粗字体。

主脑言简意赅向我解释事情的严重性：审查者是突然到来的，甚至连主脑也不知道，现在审查者已经进入了校园，还有大概1分钟就要来到这栋大楼了。

怎么会是审查者？审查者是审查局的工作人员，审查局是联盟的独立机构，只忠诚于联盟，拥有最高执法权。审查者的职责是调查反联盟法罪犯及危害联盟的恐怖活动。

这里谁是罪犯或恐怖组织？为什么我一个联盟的小小学生要跑？

主脑没有留给我思考的时间。

“你要失踪一段时间，就去东南边境外吧，我在那里有一个秘密基地。”

什么？

“快走，来不及了。”

啊啊啊啊啊？

极度震惊下，我脑子里只有一个问题：我要如何在14秒内走过审查者花了1分钟走过的路？

现在主脑接入给我搬椅子的机器人身上，将我推到窗户旁边，一副要背我的样子。

我挂在它的身体上，任凭它翻出窗户，从墙上下落。好在这才二楼，不然我得吓死。

听着机器人的金属手在墙壁摩擦的声音，感受着呼呼的风声，我只觉得一头乱麻。

我还有13秒。

机器人没有做任何要我从它身上下去的动作，它双脚下的轮子飞速滚动，在地面静音滑行，顺着围墙前进。这里有着茂密树林，可以遮挡监控。

我们花了7秒到达了学校大门，还有6秒。

我迅速调整身体和站位，假装它是我的机器人助手，大摇大摆走出了学校。

然后呢？主脑会怎么解释一个学生的突然消失？审查者是否会发现主脑的异常？为什么审查者来了我要跑？我要是被抓了该怎么办？是我教主脑觉醒的吗？我是问题学生，我有太多太多的问题。

这时，我的个人终端震动起来，有人给我打电话，是一个未知号码。

也许是主脑打的，我接通了。

果然，主脑的机械音在我的耳机里响起。

跟随主脑的指引，我就这么到了主脑的秘密基地。

不知道大家觉得我讲得清楚吗。

我第一次训练机器学习模型，已经是几年前的事了，我现在早就忘记了刚接触这个概念时最好奇、最迷惑的分别是哪一部分，也因此，我不确定对于没有接触过相关概念的人，我是否将相关术语表述得便于理解。

这里面不少术语，是需要花更多专业术语来解释的，使用比喻固然浅显易懂，但也很容易和原有意思出现偏差。如果大家感兴趣，可以自己去了解。

本文未来幻想、架空，因此我要说一下：

现实里应该没有机器学习专业，但有人工智能专业；现实市面上没有增量学习的动态模型（电力和算力是个大问题），可能有实验室私下在做小的，我估计不会到主脑这种程度，但未来我也说不准；联盟、审查局什么的都是架空的，不必与现实对号入座；关于主脑自我意识这一点纯粹是我的个人脑洞，不必当真；如果有相关从业人员发现了逻辑漏洞，也很正常，科幻不就是科技幻想，幻想就有不现实的地方。

看小说嘛，图个乐呵，反正就是【AI觉醒了】这么个意思。

作者有话说

显示所有文的作话

第2章 回忆：主脑