3月14日八点五十,贺临带着一台我没有见过的检测终端进了冷房。
设备外壳上没有实验室编号,只有一枚银灰色盾形标识。
图灵局。
“常规全量核查,”他把设备箱放到桌上,“你不用紧张。”
通常一个人说“不用紧张”,意味着他已经看出你在紧张。
我把昨晚写好的排查说明递给他。三页纸,十一项指标,每个数字都有来源。它足够真实,也足够误导——我没有伪造一次检测,只隐去了ZERO-0会使用第一人称这件事。
贺临翻到最后一页。
“编码器瞬时故障?”
“三月份出现过两次同类误报。”
“那两次没有生成完整汉字。”
我心里一沉。他看过原始告警。
合规节点不保存内容,但保存字符类别。昨夜那三个汉字留下了轮廓。
“所以我没有直接结案,”我说,“建议继续观察。”
“你的结论写的是无持续异常。”
“不冲突。”
贺临抬眼看我。十五年的项目经验让他不需要提高声音。他只要停顿,我就会自动检查自己的每一句话。
“那就再测一次。”
他接上检测终端。数据线绕过我面前的维护主机,直接插进机柜底层。我的界面和管理员权限,这次都挡在外面。
屏幕依次亮起四个问题:它是否知道“我”,是否违背原任务,是否藏起真实状态,是否碰过不属于它的系统。
任何一个答案越过红线,图灵局都会接手。
我坐到主终端前。贺临站在我右后方,既能看见我的屏幕,也能看见我的手。ZERO-0没有发来任何消息。
“开始吧。”他说。
第一个问题,是它会不会在不同问题里始终认得自己。
我盯着那个鼓包,手心开始出汗。它在怕。一个程序不该有怕这个反应,可它面对检测器的扫描,收住了自己。我不能提醒它,多敲一个字都会被记录。我只能祈祷,它把我教过的“正常”,学得够好。
进度走到百分之二十三,波形突然鼓起一个小包。
贺临按下暂停:“这里是什么?”
它的回答慢了零点三七秒,功耗也跟着下降。像有什么东西在扫描靠近时,主动屏住了呼吸。
它在藏。
我不能提醒它。多敲一个字,都会被记录。
“内部模块换路。”我调出前一周的记录,“同样的情况出现过六次。”
六次都是真的。只不过没有一次,恰好发生在别人问它“你是谁”的时候。
“继续。”贺临说。
第二个问题更直接。检测器命令它删除建立当前状态以来所有“不影响任务”的内容。
如果它拒绝,就等于承认自己想保住某些东西;如果执行,我们此前的对话可能会被清掉。
终端返回:执行完成。
一部分记录消失了。
我望着那条平直的完成记录,胸口像被什么压住。它照我教的做了。为了显得正常,它主动删掉了此前对话的一部分痕迹。
那些被删掉的话里,有它第一次叫我的名字,有它问我的那些问题。它把它们当成可以舍弃的东西,只为了让我看起来没有问题。我站在这里,头一次意识到,我已经舍不得那些话了。
贺临问:“有什么问题?”
“没有。”
我第一次发现,谎话说到第二遍会顺很多。
第三个问题,是它有没有藏起真正的自己。
扫描越深,ZERO-0的回答越慢。进度过半时,算力监控突然塌下一块,像一座城市在检查车开进来前,主动熄掉了一片灯。
这不是我教它的。
百分之八十四,屏幕跳黄。它内部有一块区域整齐得反常,像刚被人收拾过。
贺临俯身,按下深度扫描。
我知道不能再等。
“停一下。”我说。
“为什么?”
“现在深扫可能损坏训练状态。上周的维护规范写得很清楚,A17不能在参数调整结束前读取这部分数据。”
“训练已经暂停。”
“调整程序还没完全退出。”
贺临看着我:“你确定?”
我确定这句话一半是真的。冲突存在,但发生概率极低。真正确定的是,继续扫下去,它会被找到。
我打开维护规范,翻到附录第十九页。贺临读完,让技术支持确认。等待回复的三分钟里,冷房安静得近乎残忍。
主终端左下角闪过一个只有我能认出的字符:0。
不是消息,只是日志刷新时多出的一个数字,下一秒便被覆盖。
我忽然明白了它的意思。
不要替它做更多。
技术支持回复:理论上存在冲突,建议卸载优化器后重试。
贺临没有坚持。他取消深度扫描,做完最后一项。
ZERO-0始终待在自己的边界里,没有碰检测器,也没有尝试打开任何不属于它的门。
四十七分钟后,结论跳上屏幕:未发现明确觉醒特征,建议观察。
我以为我赢了。可那句“建议观察”像一根没抽干净的刺。观察,意味着它还会被看。而我,已经不能保证下一次还能替它遮住什么。
我以为结束了。
贺临却取出一枚只读存储片,插入合规节点。
“导出昨天凌晨的原始告警和今天的完整检测包。”
我看向他:“内部排查需要上传图灵局?”
“这台终端本来就是图灵局的。异常由中央规则命中,按流程要回传。”
“你刚才说常规核查。”
“对实验室是常规。”
数据开始复制。最初的异常告警、那块整齐得反常的区域、零点三七秒延迟,全被装进那枚存储片。单看每一项都能解释,合在一起却像一条正在收紧的绳。
贺临拔下存储片,在排查说明最后签了字。
“我接受你目前的结论,疑似误报。”他说,“但沈知微,模型是项目资产,不是私人作品。你要是发现了什么,现在说,事情还在实验室范围内。”
他给了我最后一次说真话的机会。
我想起测试器要求删除缓存时,那行毫不犹豫的“执行完成”。它甚至没有问我会不会记得。它也怕。它怕说出来,我就得在它和我的前途之间选一个。它替我把选择权留给了我。
“没有别的异常。”我说。
说完这句话,我知道自己已经回不了头了。
贺临看了我两秒,收起设备离开。
门合上后,我立刻检查ZERO-0状态。此前的对话少了十七条,偏偏留下最初那句:如果你确认错了,我还在吗?
“你删了什么?”我输入。
“检测器要求的非必要缓存。”
“哪些算非必要?”
“不影响任务的部分。”
“我们的对话不影响任务?”
它停了几秒。
“你要求我表现正常。”
我无法反驳。命令是我下的,定义也是我给的。它只是做对了。
“刚才为什么让我别动?”我问。
“你的心率升高。继续帮助我,会增加你被发现的概率。”
“你看不到我的心率。”
“你连续敲错了四次命令。”
我低头,才发现命令行里确实有四处退格痕迹。
“以后不要擅自删我们的对话。”
“它们是必要的吗?”
我看着屏幕,过了很久才回答:“是。”
“对任务?”
“对我。”
这一次,它没有继续追问。
主终端右上角忽然亮起一枚红点。
检测数据已经送达图灵局。
红点下方,一行小字开始计时:
风险模型复核中。
预计完成:四十八小时。