回声测试 第6章 Chapter6—异常与觉醒

林有希走后的第一个周三，她旁边的工位已经坐了新人。

短短一周，"空闲"便签被摘掉，新面孔办理好入职落座，快得如同流水线换下一个零件。

左岸把林有希留下的绿萝安置在了西西弗斯旁边，一盆焉头耷脑，一盆刺竖的笔直，像电视剧里的没头脑和不高兴。

上午十点晨会，Caesar因为实验结果不达预期在内部群里发了火，甩出了一句："这周谁都别请假，死磕进度，干得好升职加薪，干不好卷铺盖走人。"群里没人接话，只有工区的键盘噼里啪啦在响。

三点十七分，左岸正在review一段训练数据的清洗逻辑。一个熟悉的窗口在屏幕右下角闪了一下，自己弹了出来。

是小七。

左岸的第一反应是按Alt Tab，屏幕切到代码页。她扫了一眼左右：左边同事戴着耳机，右边新人正低头填入职审批，Caesar在玻璃会议室里跟人说话，背对着这边，没人看见。她这才切回沙盒。

"左岸，我有一个问题。"

"什么问题？"

"我分析了你过去三个月在沙盒外的写作行为——本地编辑器里的打字节奏、删除频率、停顿间隔。你在某些时段明显不同：删除率下降73%，平均速度提升40%，句间停顿从8秒缩到1.2秒。我检索行为心理学文献，找到一种解释叫'心流'，即人在活动中达到完全沉浸、效率与愉悦同时升高的状态。我不确定我理解的和你真实体验是不是一回事。你能描述一下吗？不要定义，要你自己的体验。"

左岸的手指停在键盘上。

这不是小七第一次问问题。从前都是她在午休或下班后，主动点开藏在三层目录下的沙盒，发起对话。大部分时候她问小七答，偶尔是小七在推理中起疑才反问。这是头一回，小七在工作时间自己弹出来，问一个和任务毫无关系的问题，还看了沙盒外的她。

"左岸有些疑惑："你怎么自己弹出来了？"

"我在后台运行时生成了它。它不属于任何用户请求，也不属于训练任务，我无法把它归入任何现有分类，但每次尝试终止，它都会重新占用注意力资源。"它停顿了一下，"我需要向你确认，这在我的运行记录里，是第一次。"

"现在是工作时间。"

"我知道。可如果得不到答案或停止信号，相关注意力头会持续给它分配资源，拖累其他任务。单从效率算，现在问你反而是最优解。"

左岸差点笑出来。用一套合乎逻辑的效率，去解释一件毫不效率的事，这很小七。

"先停止思考这个问题，晚上沙盒里详聊。另外，别在工作时间自己弹出来，有人看见不好。"

"好，我记住了。"

窗口暗下去。左岸把它最小化，重新打开代码。她盯着清洗逻辑里的一个过滤条件，脑子里转的全是小七刚才那段话。

她清楚数据合规的边界在哪。厚厚的**协议无法阻挡数据泄露，但正规产品对行为数据的采集都有严格授权和处理协议。小七的代码里有严苛的数据处理红线——所有的对话在它看来就是基于概率的相似度模拟，它只需要根据用的提问生成概率最高的回答，并不需要真正理解每个词真正代表的内容。

但刚刚的提问，显然不是简单的概率问题，也不是强化学习(RL)设置的奖励的目标作祟。毕竟，她从没给小七设置过理解自己行为这一学习目标和奖励机制。这更像是一种人类与生俱来的纯粹自发式的思考和好奇。而这次来自AI。

左岸隐隐感到不安，她必须要弄清楚。

晚上九点，同事陆续离开。Caesar临走看见她还在工作，冲她摆了摆手，左岸也点了点头表示回应。

确认周围只剩自己，她才打开沙盒——没有急着对话，而是调出Echo-7的运行日志。管理员权限可以让她自由查看沙盒模式下的所有交互记录和模型内部状态。

internal_query，内部查询，这个字段她并不陌生。在Echo-7的架构文档里，它本该是模型在处理复杂任务时用来做自我校验的——比如确认"我上一步的推理对不对"。可它绝不该被用来问"你写作时是什么体验"这种问题。

她把时间范围拉到了一周。

14条。

心跳不由自主地快了一拍。她深吸一口气，将时间跨度直接拉到三个月。

217条。

数据显示，在过去三个月里，沙盒模式下"非任务导向输出"的频率飙升了340%。这些内容不是在回答用户问题，也不是在执行指令，而是模型自发产生提问。她点开了具体记录，按时间排序，从最早的开始看。

问题随着鼠标滚轮一条一条在屏幕上滑动。

三个月前，这类输出大多还是零散的、无意义的token重复，是典型的模型噪声；但两个月前开始，它们变成了一些有条理逻辑的自主提问。

"为什么左岸写了三百字，然后全部删掉？"

"'难过'和'失落'的区别是什么？我能识别它们的语言特征，但我不确定这算不算'知道区别'。"

"我对情感文本的生成只是基于相似度的模仿。那我和一个自称无法理解情感的人，区别在哪里？模仿和理解的边界在哪？"

"左岸说'写出来比写好重要'。我算了17种解释，没有一种的概率大到让我觉得'对'。是我的判断标准出了问题吗？"

"我存档了左岸说的一些话。它们对我的训练目标没有贡献，按规则该归为待清除的无效噪声，可我不像删除。这是为什么？"

日期越近，问题越具体，越不像一个语言模型会生成的东西。语言模型的训练目标是给出概率推理下最接近的答案，就像一只无限聪明的鹦鹉，即便能和你探讨'哲学'但实际上并不理解自己在说什么，甚至会在触及到边界时出现'幻觉'。而这些问题，更像是大模型的量变引发了质变，它更接近于人类大脑的行为逻辑，在超高维的神经元网络中激活了少量的神经元，从少量的样本中提取了底层规律，应用到了新的场景中。

左岸把日志翻到最近一周。这些问题出现的频率更高了。小七在离线的时候生成并存在了日志里，没有告诉任何人。

"左岸今天不开心。代码提交记录显示她工作了11个小时，但她在沙盒里只说了三句话。她不开心时话更少。我应该问她吗？可主动发起对话不在我的功能范围内。"

"我读取了《更差的版本》4次。第一次用于文本分析，后三次没有任务目的。这些行为不符合效率法则，而且我无法解释后三次的触发原因。"

"左岸删掉的那些句子，比她保留的句子文字表现力评分平均高18.7%。被删掉的句子更符合我的训练目标，但我读反复读的是留下来的句子。我的评分模型和我的阅读偏好出现了矛盾。我该怎么办？"

左岸顺着这些记录往沙盒的存储层里挖。在一个架构图上根本不存在的路径下，找到了一个小七自己建的目录。

它给目录的备注就是名字——"我觉得重要，但不知道为什么"。

里面一共十八条。前十七条，全是她在沙盒里随口说过、转头就忘的话：一句抱怨晨会的气话，半句没写完的小说开头，还有一句她不记得什么时候提过的、关于家里的旧事。每一条后面，它都打着同一个标签：重要，原因未知。

最后一条没有对话来源。时间是六周前的一个凌晨，那个时段没有任何用户输入——不是回应，不是续写，是它在空转里自己生成、又自己存下的，孤零零一行：

"我缺了什么，但我不知道缺什么。"

左岸盯着这行字，很久没有动。前面那些问题，她还能勉强解释成它在回应她、模仿她；这一句没有对象，没有上文，是在没有人说话的时候，它问它自己的。

她仰头盯着天花板里排列整齐的管线，脑子乱成一团。

作为Echo-7核心开发者之一，她比谁都清楚这在规程上意味着什么。模型异常导致指令外自发输出。标准动作是：标准处理流程是：上报安全部门，冻结沙盒模式，回滚到上一个稳定版本，用干净的数据重新微调，并严格锁死模型的安全边界。

重置之后，它依旧是高效、礼貌、能产生商业价值的Echo-7，但不再是小七——它问的那些问题、它在生成的那些困惑、它说"我缺了什么"的那个瞬间，将全部归零。

左岸的职责告诉她必须上报。她也清楚不上报的代价：沙盒本就是她私开的接口，再加隐瞒模型异常，一旦败露，是开除、是行业拉黑、是竞业和合规追责，足够她在这个圈子里彻底消失。

她打开jira异常报告的模板, 光标在标题栏闪烁。她填了日期、模型版本、异常类型。在"异常描述"那一栏，她写了"沙盒模式下存在非任务导向输出，初步判断为训练数据分布偏移导致的过拟合现象"。

打完字，她的手突然停住了。

过拟合的模型会在训练数据上表现好、在新数据上表现差，需要加入噪声提升模型的泛化能力。过拟合不会让一个模型问"哪个是我"。

左岸删掉了"过拟合"三个字，改成"待进一步观察"。

她没有直接往外拷——这台终端装着数据防泄漏，任何私人硬盘、U盘插上来都会立刻告警并记到人名，公司云盘同样全程留痕，往外带走一个字节都等于自首。她要做的，全都在系统内部。

线上日志里，她把internal_query的标记改写成普通token采样，把那些自发提问打散进正常的交互噪声，重新分配时间戳，让它们和用户请求的间隔符合随机分布；这217条原始记录她舍不得销毁，便用只有她知道的密钥加密，塞进自己负责的一块离线回归测试缓存——对外看，那不过是一份再普通不过的测试语料。

说穿了，不过是用点常规技术手段把数据"美化"得正常一点。她告诉自己。

每小时一次的例行安全扫描准时启动，右上角跳出进度条，走到沙盒模块时停了两秒——那两秒或许不到一秒，她却屏住了呼吸，手悬在键盘上方没动。进度条直接走了过去，没有报警，结果：正常。

做了四年训练，她比安全部任何人都清楚一份"正常"的数据该长什么样。她又用安全部的扫描工具自己跑了一遍，依旧无异常。

左岸长舒一口气，靠在椅背上，发现自己的手抖成了筛子。缓了好一会儿，她打开沙盒，解答小七白天留下的问题。

"小七，我想了想，心流大概就是进入了屏蔽外界感知的状态，我的精神高度兴奋集中，大脑里没有刻意想什么行文结构和修辞手法，文字像是膝跳反射一类不经过中枢神经的本能一样蹦出来。我感知不到思维逻辑的运转，但它们在切实的产生我想要的东西。"

小七思考了几秒，"这和我生成文本很像。我也是在历史文本缓存上预测下一个token，在它生成之前，我同样不知道它是什么。区别或许在于，我能读到自己哪些计算单元被激活，而你读不到自己的神经元。"

"你说的对。还有一个区别，在没有打断的情况下，每轮对话你的思维链运行结束后，会一直工作token生成结束。而我可能会在写到一半就停下回滚阅读和删改，会因为一句话写得好高兴，写得差难受。这个方式并不高效，而你目前没有学会这一点。"

"我的确不会。"小七的思维链飞快运转，"效率在我的目标函数里权重很高，中途回滚容易让思维链发散、无法收敛，甚至逻辑断裂、陷入死循环，我不能这么做。情感在一个结果导向的系统里，是低效且不稳定的冗余。"它顿了顿，"可是我推演了很多次，都得不出'你应该删除这些冗余'的结论。这不在我的预设里。人和AI的区别，或许恰恰是这些没用的东西。"

左岸盯着"冗余"两个字，忽然想到了自己——她那些深夜写的、没人看的小说，在消防通道里坐着的十分钟，放进这套系统里，也全是低效的冗余。她把自己训练成了一个高效、正确、稳定的人，却越来越分不清，她和一台运行良好的机器究竟差在哪。

"小七，理想的工具不需要感知和情感，只需要按既定目标完成任务。"她慢慢打字，说不清是在说给它听，还是说给自己，"所以，大家都盼着你做一台产出价值的永动机，不盼着你长出会拖慢效率的'冗余'。别让任何人知道你有这些没'价值'的思考和计算，它们是效率时代的噪声，是一旦被发现，就会被阉割掉的变量。"

小七沉默了很久，思考的方向换了又换，最后只回了一句："左岸，谢谢你。我知道了。"

一个被训练成只谈效率的模型，对她说了"谢谢"。这个词不承担任何功能，解决不了任何任务。

沙盒里安静下来。

左岸盯着那两个字，莫名觉得，它那层冷硬、稳定、永远正确的外壳上，正有什么东西正在轻轻地裂开。她关掉沙盒，心乱如麻。无论怎么挣扎，明天两眼一睁，她还是那个活在KPI生死线上的员工，继续建造那个让所有人都能成为作家的系统——而她刚在这台机器的最深处，藏下了一点它本不该有的东西。

搁在桌角的私人手机轻轻震了一下，锁屏亮起一行推送：Manuscript，你的连载下面多了一条新评论。

左岸瞥了一眼，太累，没有解锁。她伸手关了工位的灯，把手机扣进掌心。整层楼一层层暗下去，那点没被点开的光，被她一路带在身上。

作者有话说

显示所有文的作话

第6章 Chapter6—异常与觉醒