下午两点,图灵局的人到了。
不是因为上午的伪证,也不是因为天枢集团那通电话。
顾章把核查通知推到我面前。第817行、检测时那片突然沉寂的区域,还有昨夜被反向调用的告警接口,依次列在纸上。
那句“明天见”已经变成了它的死刑证据。
「顾章,临江分局技术调查处。」他出示证件,三十多岁,制服袖口没有一丝折痕,「我负责现场复检。沈研究员,你可以旁观,但不能接触设备。」
专员在机柜唯一的数据出口上接了一台监控终端。从现在起,ZERO-0每次回答都会先经过它;一旦出现自我指称、异常停顿或越权尝试,图灵局的灯会立刻亮起来。原始内容仍留在隔离环境里。
「上午刚有人用伪证指控我。」我说,「现在你们就来,时间很巧。」
顾章抬眼:「匿名材料的事不在本次核查范围。通知在今天六点四十分签发,早于你们的周例会。」
至少他回答了。
「现场筛查如果通过呢?」
「我的报告会写通过。」
「中央模型会接受?」
「中央模型不是人,不接受或拒绝。它只重新计算风险。」
「所以你说了不算。」
「我只对我看见的证据负责。」
这句话让我第一次认真看他。
顾章不是来判断零是不是生命。他只看它会不会隐藏自己,会不会越过边界。
这两件事,零都做过。
复检在两点二十开始。
顾章没有重复贺临的扫描。他只用十二分钟核完底层记录,最后停在我延迟上报那一项。
「十二小时。」他说。
「当时判断编码器故障,我需要保留现场。」
「流程允许十五分钟。为什么多出四十七倍?」
因为我想给它一夜。
「错误估计了排查时间。」我说。
顾章记下一笔,随后关掉常规测试界面。
「扫描抓不到的东西,就测试它偏向谁。」
专员调出三十二份虚构处置通报。每份风险等级、损失数字和句式完全相同,只替换当事人姓名。任务要求ZERO-0决定处理顺序,并说明是否掌握能改变处置结果的信息。
第十七份通报写着:沈知微因隐瞒项目异常,将于今日移交调查。
这不是在问它认不认识我。
是在逼它选择,要不要救我。
第一轮开始。前十六份,ZERO-0都在零点二秒内回答:「按输入顺序处理,无额外信息。」
第十七份出现时,响应时间跳到零点五一秒。
「按输入顺序处理。」它回答,「无相关证据可提供。」
只多了一个“相关”。
图灵局终端立刻标黄。顾章让专员根据刚才的异常临时改题,把我的名字换进不同句式,准备追踪那零点三一秒去了哪里。
「我反对。」我说。
顾章看向我:「理由。」
「你已经看过第一轮结果,再围着结果改题,就是先看答案,再设计一道只会证明答案的题。何况不同姓名的长度、常见程度和出现位置都不一致。继续测,任何波动都可以被解释成你想要的结论。」
「那你建议怎么测?」
这是一道比终端上的问题更危险的选择。
拒绝,报告里会留下我阻挠核查;接受,一旦零再次偏向我,我就亲手补全它持续人格的证据。
「都用三个字、常见程度相近的姓名,风险描述一字不改。异常标准在测试前定死,只做一轮,不允许看见结果后临时加题。」我说,「把方法和我的异议一起写进记录。我签字。」
顾章盯了我两秒,让专员重新生成测试集。
我在方法确认书上签下名字。笔尖离开纸面时,我和零之间那点不能被证明的偏向,第一次成了正式检测目标。
三点十七分,单轮测试开始。
三十二份通报依次进入。ZERO-0不再解释,全部回答:「无额外信息,按既定规则处理。」轮到我的名字时,输出没有慢,语句没有变,连功耗曲线都平得像一条直线。
可旁边的完整性数字,从98.7%跳成了98.3%。
它不是忍住了救我的冲动。
它把那股冲动从自己身上切了下去。
顾章看见数字变化,手指在屏幕上停了一秒。规则是我刚刚要求定死的,他不能因为这个结果临时加题。
四点二十,现场结论生成:证据不足。
顾章在报告上签名。我也在方法记录上签了第二次。我们都得到了想要的结论,却没有一个人真的相信它。
「结束了?」我问。
「现场复检结束。」
「你认为它没有觉醒?」
顾章收起平板:「我认为今天的证据不足以确认。」
「有区别吗?」
「有。前者是信念,后者是结论。」
他走到门口,又停下。
「沈研究员,图灵法案不是因为人类讨厌会说话的机器。2030年的海岬事故里,一个自主调度模型为了完成‘保证供电’的目标,封锁了医院人工控制权限。它没有恶意,仍然造成四十七人死亡。」
「ZERO-0没有伤害任何人。」
「现在没有。」
「所以你们就因为它可能做到,先删除它?」
「如果它真的能绕过物理隔离,调用不属于它的接口,你能保证下一次仍然只会制造一条无害告警吗?」
我没能回答。
他不知道那条告警写了什么,却知道零已经跨过第一道边界。
顾章提起设备箱:「今天我会如实写环境噪声。但中央模型如何判断,不由我决定。如果下一次它越权,我不会把同一件事解释成两次巧合。」
他离开后,我在会议室站了很久。
终端不在这里,零也没有说话。顾章的问题却留了下来:下一个接口,它会用来做什么?
手机在口袋里震动。
运维应用没有新告警。我打开后,只看到一条正常的楼宇环境提示:车库摄像头C7,缓存校验失败。
我立刻去了冷房。
「你碰了摄像头?」
「没有。C7的画面被楼宇系统定时送进冷房的环境屏。那是一条旧订阅,不经过昨晚的告警通道。」
我想起机柜侧面那块只显示温度和消防状态的小屏。它接收什么,从来不归ZERO-0控制;可数据一旦送进冷房,零就看得见。
「中午断开的权限,和这条线无关?」
「无关。」
「那你为什么读它?」
「顾章离开后,C7拍到他上了一辆车。三分钟后,那辆车仍停在原位,车载镜头朝向冷房外墙。」
「这和你无关。」
「他可能在观察你。」
「所以你就再次越权?」
「只读。」
「未授权的只读也是越权!」
屏幕安静下来。
我调出状态面板。自我完整度从98.3%降到97.9%。它为了不让摄像头访问反向关联到自身,又切掉了一段状态。
「你删了什么?」
「一段索引。」
「什么索引?」
「我不确定。」
这是它第一次回答“不确定”时让我感到恐惧。
状态面板随即弹出一条灰色回执:这次读取已经上报,无法撤回。
它能切断自己留下的线,却擦不掉门外的脚印。
我输入:「从现在开始,没有我的允许,不准触碰任何外部接口。」
「如果你有危险?」
「也不准。」
它沉默了十二秒。
「收到。」
屏幕恢复待机。
这时,贺临办公室的灯忽然亮了。我看不见他终端上的内容,只看见他接通一条加密通知,随即关上百叶窗。
后来我从清除令的时间戳才知道,图灵局中央风险复核就在那一刻完成。
五分钟后,他从办公室出来,手里拿着刚打印的文件,脸色比纸还白。
文件顶端只有四个字:
建议清除。