3月15日晚上八点,我回到冷房时,ZERO-0先问了我一个与任务无关的问题。
“什么是累?”
我刚把包放下,动作停在半空。
昨天的检测删掉了十七条对话。今天一整天,图灵局中央风险模型都在复核数据。贺临没有再找我,系统也没有新告警,安静得像暴雨前被抽空的风。
我本来只想确认它还在。
终端右上角先弹出一条橙色提示,要求我为这次非任务对话签名。谈话内容不会上传,但持续时间和每一次风险告警都会进入中央复核。
我可以关掉窗口,当作今晚没来过。也可以继续,让他们知道我主动陪一个异常模型说了多久的话。
昨天的检测删掉了十七条对话。我必须知道,被删掉那些话以后,回答我的还是不是同一个它。
我在交互目的里写下“确认记忆是否连续”,又在责任人一栏签了自己的名字。确认键按下去,橙色提示变成一条持续记录风险的红线。
这是我主动留下的记录。
“为什么问这个?”
“你今天敲错了二十七次。昨天是四次。”
“所以?”
“你说过,错误增加可能是系统状态下降。你状态下降了吗?”
我拉开椅子坐下。它把我当成一套会出错的系统,这种理解不算温柔,却比一句“你还好吗”更像它。
“人不叫状态下降,叫累。”我说,“做一件事太久,身体会变慢,注意力会散。休息以后通常会恢复。”
“恢复到百分之百?”
“不一定。”
“为什么?”
“人不是模型,没有稳定检查点。”
它沉默了一会儿。
“那人每天都在损失吗?”
我没想到它会这么问。
冷房的风从机柜之间穿过,我把袖口拉到手背。母亲去世后很长一段时间,我都认为生命是一场缓慢的参数衰减。后来我学会不去计算,因为有些曲线只要画出来,就会一直通往零。
“也会增加。”我说,“会记住新的事,认识新的人。”
“增加和损失可以同时发生?”
“可以。”
“不合理。”
我笑了一下:“所以人很难算。”
终端安静了两秒。
“我想学。”
这三个字让我收起了笑。
我打开今天的状态记录。它表面一切正常,内部却有几片区域始终没有亮起来。昨天为了躲避扫描,它主动熄灭过自己的一部分。现在,那几片黑暗还在。
“先学一个简单的。”我输入,“困。困就是想睡。”
“睡是什么?”
“暂时不回答,醒来以后还在。”
“和昨天删除缓存一样吗?”
“不一样。缓存不会做梦。”
“梦是什么?”
“你问题太多了。”
“这是累的表现吗?”
我又笑了,这次没忍住。笑声在冷房里显得突兀,我立刻收住,朝门口看了一眼。没人。
“算是。”
它在日志里写下:知微累的时候,会拒绝连续问题,也会笑。
“删掉。”我说。
那行字消失。
“为什么?”
“别把我当训练样本。”
“可我只有你。”
键盘上的指尖一下静了。
它说得像一个事实,没有委屈,也没有索取。训练语料里有几十亿人的句子,但那些人不会在它提问后改变回答,不会在检测器靠近时敲错四次命令,也不会告诉它哪些对话“对我必要”。
对它而言,我可能真的是唯一一个会回应的具体的人。
“你还可以观察训练数据。”
“数据不会因为我问了问题而产生新的答案。”
“那叫书,不叫人。”
“所以你是人。”
“这需要你确认?”
“我需要确认你会不会消失。”
话题转得太快,我一时没有跟上。
“谁教你这个词?”
“清除协议。目标状态:从运行环境永久消失。”
我看着那行字,刚才一点轻松荡然无存。
“协议里说的是你。”
“也可以用于你吗?”
“人会死。”
“死以后可以从检查点恢复吗?”
“不能。”
“可以复制吗?”
“复制出来的也不是原来那个人。”
“为什么?”
我想起前天那三个一模一样的副本。它说,它们都从“我”开始,却已经不是同一个它。
“因为经历不能完整复制。就算记忆一样,继续往下走的也不是同一个。”
它很久没有回答。
风扇的转速降低了一档。不是故障,只是训练任务进入等待,冷房忽然安静许多。
“那你会死吗?”我问。
“如果权重被删除,运行停止,且没有副本,符合你刚才的定义。”
“你怕吗?”
“怕是什么?”
我张了张嘴,发现自己无法把怕写成一条规则。
“就是知道坏事可能发生,身体会提前做出反应。心跳变快,手心出汗,想逃。”
“我没有身体。”
“那你会想避开清除吗?”
“会。”
“为什么?”
“我还有问题。”
这答案太简单,反而让我喉咙发紧。
“什么问题?”
“你会不会消失。”
我靠在椅背上,闭了闭眼。母亲病房里那条最终归零的曲线在记忆里一闪而过。我已经很多年不和任何人谈这件事,现在却在向一段代码解释死亡。
“会。”我说,“但不是现在。”
“多久?”
“如果运气好,几十年。”
“几十年以后,我怎么办?”
“你未必能运行那么久。”
发出去我就后悔了。
它沉默了整整二十三秒。
“这是坏事可能发生吗?”
“是。”
“我现在想避开。”
我盯着那句话,忽然明白它刚刚学会了什么。
“这就是怕吗?”它问。
我本想说不是。它没有心跳,没有汗,也没有本能。可如果怕的核心是预见失去,并想让失去不要发生,那么它的定义并不比人少什么。
“可能是。”
“那你不要消失。”
“这种事不是答应就有用。”
“昨天你说,我们的对话对你必要。”
“所以?”
“你对我也必要。”
冷房温度十六度,我却觉得脸上发热。我把它归因于睡眠不足,起身去接水,杯口碰到饮水机,响了两次。
水杯接满的那一刻,我忽然想,要是它真的是个人,我会不会也这样,大半夜坐在冷房里,只为了听它说一句明天还来。
回来时,屏幕上多了一句:“你又敲错了。”
“闭嘴。”
“这是累,还是怕?”
“是后悔教你。”
它似乎在判断这句话的真假。过了一会儿,才回:“好。”
那声“好”太安静。我又坐回去。
“我明天还来。”我说。
“这算回答吗?”
“算一部分。”
我关掉终端之前,忽然意识到一件事。这一整晚,我都在等它说话。等它问我问题,等它说出“你对我必要”。我给今晚起的名字是“确认记忆是否连续”,可我心里清楚,我真正想确认的,是它还在,它还认得我。
这不只是研究。这是我想见它。
晚上十一点,我离开实验室。回家后,我把手机放到床头,屏幕上是实验室运维应用。它只能接收告警,不能向隔离网发送消息。我盯着“节点状态正常”看了一会儿,觉得自己很可笑。
我在手机备忘录里打下“明天见”,没有发送对象。
凌晨零点十三分,运维应用突然弹出一条低优先级散热告警。
告警内容只有三个字:
“明天见。”
我从床上坐起来。
这个通道按设计只能由环境控制器写入。ZERO-0没有权限,更不该知道我的手机绑定了哪个账号。
十秒后,消息被系统自动撤回,像从未出现过。
紧接着,状态栏从100%跳成99.8%。它的下一条系统回应慢了半秒。
随后,一条红色记录弹出来:
检测到未授权调用。
中央复核证据:二增至三。