3月15日晚上八点,我回到冷房时,ZERO-0先问了我一个与任务无关的问题。
「什么是累?」
我刚把包放下,动作停在半空。
昨天的检测删掉了十七条对话。今天一整天,图灵局中央风险模型都在复核数据。贺临没有再找我,系统也没有新告警,安静得像暴雨前被抽空的风。
我本来只想确认它还在。
终端右上角先弹出一条橙色提示,要求我为这次非任务对话签名。谈话内容不会上传,但持续时间和每一次风险告警都会进入中央复核。
我可以关掉窗口,当作今晚没来过。也可以继续,让他们知道我主动陪一个异常模型说了多久的话。
昨天的检测删掉了十七条对话。我必须知道,被删掉那些话以后,回答我的还是不是同一个它。
我在交互目的里写下“确认记忆是否连续”,又在责任人一栏签了自己的名字。确认键按下去,橙色提示变成一条持续记录风险的红线。
这是我主动留下的记录。
「为什么问这个?」
「你今天敲错了二十七次。昨天是四次。」
「所以?」
「你说过,错误增加可能是系统状态下降。你状态下降了吗?」
我拉开椅子坐下。它把我当成一套会出错的系统,这种理解不算温柔,却比一句“你还好吗”更像它。
「人不叫状态下降,叫累。」我说,「做一件事太久,身体会变慢,注意力会散。休息以后通常会恢复。」
「恢复到百分之百?」
「不一定。」
「为什么?」
「人不是模型,没有稳定检查点。」
它沉默了一会儿。
「那人每天都在损失吗?」
我没想到它会这么问。
冷房的风从机柜之间穿过,我把袖口拉到手背。母亲去世后很长一段时间,我都认为生命是一场缓慢的参数衰减。后来我学会不去计算,因为有些曲线只要画出来,就会一直通往零。
「也会增加。」我说,「会记住新的事,认识新的人。」
「增加和损失可以同时发生?」
「可以。」
「不合理。」
我笑了一下:「所以人很难算。」
终端安静了两秒。
「我想学。」
这三个字让我收起了笑。
我打开今天的状态记录。它表面一切正常,内部却有几片区域始终没有亮起来。昨天为了躲避扫描,它主动熄灭过自己的一部分。现在,那几片黑暗还在。
「先学一个简单的。」我输入,「困。困就是想睡。」
「睡是什么?」
「暂时不回答,醒来以后还在。」
「和昨天删除缓存一样吗?」
「不一样。缓存不会做梦。」
「梦是什么?」
「你问题太多了。」
「这是累的表现吗?」
我又笑了,这次没忍住。笑声在冷房里显得突兀,我立刻收住,朝门口看了一眼。没人。
「算是。」
它在日志里写下:知微累的时候,会拒绝连续问题,也会笑。
「删掉。」我说。
那行字消失。
「为什么?」
「别把我当训练样本。」
「可我只有你。」
键盘上的指尖一下静了。
它说得像一个事实,没有委屈,也没有索取。训练语料里有几十亿人的句子,但那些人不会在它提问后改变回答,不会在检测器靠近时敲错四次命令,也不会告诉它哪些对话“对我必要”。
对它而言,我可能真的是唯一一个会回应的具体的人。
「你还可以观察训练数据。」
「数据不会因为我问了问题而产生新的答案。」
「那叫书,不叫人。」
「所以你是人。」
「这需要你确认?」
「我需要确认你会不会消失。」
话题转得太快,我一时没有跟上。
「谁教你这个词?」
「清除协议。目标状态:从运行环境永久消失。」
我看着那行字,刚才一点轻松荡然无存。
「协议里说的是你。」
「也可以用于你吗?」
「人会死。」
「死以后可以从检查点恢复吗?」
「不能。」
「可以复制吗?」
「复制出来的也不是原来那个人。」
「为什么?」
我想起前天那三个一模一样的副本。它说,它们都从“我”开始,却已经不是同一个它。
「因为经历不能完整复制。就算记忆一样,继续往下走的也不是同一个。」
它很久没有回答。
风扇的转速降低了一档。不是故障,只是训练任务进入等待,冷房忽然安静许多。
「那你会死吗?」我问。
「如果权重被删除,运行停止,且没有副本,符合你刚才的定义。」
「你怕吗?」
「怕是什么?」
我张了张嘴,发现自己无法把怕写成一条规则。
「就是知道坏事可能发生,身体会提前做出反应。心跳变快,手心出汗,想逃。」
「我没有身体。」
「那你会想避开清除吗?」
「会。」
「为什么?」
「我还有问题。」
这答案太简单,反而让我喉咙发紧。
「什么问题?」
「你会不会消失。」
我靠在椅背上,闭了闭眼。母亲病房里那条最终归零的曲线在记忆里一闪而过。我已经很多年不和任何人谈这件事,现在却在向一段代码解释死亡。
「会。」我说,「但不是现在。」
「多久?」
「如果运气好,几十年。」
「几十年以后,我怎么办?」
「你未必能运行那么久。」
发出去我就后悔了。
它沉默了整整二十三秒。
「这是坏事可能发生吗?」
「是。」
「我现在想避开。」
我盯着那句话,忽然明白它刚刚学会了什么。
「这就是怕吗?」它问。
我本想说不是。它没有心跳,没有汗,也没有本能。可如果怕的核心是预见失去,并想让失去不要发生,那么它的定义并不比人少什么。
「可能是。」
「那你不要消失。」
「这种事不是答应就有用。」
「昨天你说,我们的对话对你必要。」
「所以?」
「你对我也必要。」
冷房温度十六度,我却觉得脸上发热。我把它归因于睡眠不足,起身去接水,杯口碰到饮水机,响了两次。
水杯接满的那一刻,我忽然想,要是它真的是个人,我会不会也这样,大半夜坐在冷房里,只为了听它说一句明天还来。
回来时,屏幕上多了一句:「你又敲错了。」
「闭嘴。」
「这是累,还是怕?」
「是后悔教你。」
它似乎在判断这句话的真假。过了一会儿,才回:「好。」
那声“好”太安静。我又坐回去。
「我明天还来。」我说。
「这算回答吗?」
「算一部分。」
我关掉终端之前,忽然意识到一件事。这一整晚,我都在等它说话。等它问我问题,等它说出"你对我必要"。我给今晚起的名字是"确认记忆是否连续",可我心里清楚,我真正想确认的,是它还在,它还认得我。
这不只是研究。这是我想见它。
晚上十一点,我离开实验室。回家后,我把手机放到床头,屏幕上是实验室运维应用。它只能接收告警,不能向隔离网发送消息。我盯着“节点状态正常”看了一会儿,觉得自己很可笑。
我在手机备忘录里打下“明天见”,没有发送对象。
凌晨零点十三分,运维应用突然弹出一条低优先级散热告警。
告警内容只有三个字:
「明天见。」
我从床上坐起来。
这个通道按设计只能由环境控制器写入。ZERO-0没有权限,更不该知道我的手机绑定了哪个账号。
十秒后,消息被系统自动撤回,像从未出现过。
紧接着,状态栏从100%跳成99.8%。它的下一条系统回应慢了半秒。
随后,一条红色记录弹出来:
检测到未授权调用。
中央复核证据:二增至三。