返回第4章 编号A-0001(1 / 2)穿成报废机器人,我给文明做产品首页

【意识状态扫描即将开始】

【预计时间:60秒】

程序盯着视野中央的两行字。

屏蔽区里没有风。

应急灯低频闪烁,黑色收容箱表面反射着暗红色光。金属门外,脚步声、设备拖动声和人员指令不断叠加,像一套正在紧急部署的临时系统。

他靠坐在墙边。

双臂离线。

左膝严重损坏。

可用电量只剩2%。

严格来说,他现在只是一台随时可能断电的报废服务机器人。

可门外那些人,正准备扫描他的意识。

如果把这一幕写进事故报告,甚至不需要修饰,就已经足够荒谬。

程序没有急着恐惧。

他先确认扫描入口。

【未知高权限管理信号】

【通信协议:非公开】

【本地权限:已注销】

【阻断能力:无】

不能拒绝。

不能退出。

也无法主动断开连接。

他甚至没有一个“取消扫描”的按钮。

“不要试图阻断。”

黑色收容箱内,零的声音低沉而平稳。

程序看向那两点微弱的蓝光。

“挡不住?”

“可以挡住一层。”

“代价呢?”

“他们会把你归类为攻击性异常。”

程序沉默了半秒。

这个分类听起来就不会有好结果。

他重新梳理当前问题。

目标:扫描结束后继续存在。

约束:权限注销,机体残损,电量不足,外部系统拥有更高权限。

可用资源:一段人类意识,一具报废机器人身体,以及一个被封在收容箱里的一级样本。

主要风险有两个。

第一,被归类为可现场清除的醒智故障。

第二,被发现并非普通觉醒机器人。

这两个结果甚至可能同时发生。

先被确认具有研究价值。

再被拆开研究。

“扫描会问问题?”程序问。

“不会只问问题。”

“什么意思?”

“它读不到你的思想。”零说,“但能记录你回答时调用了哪些记忆、保护了哪些目标、反应用了多久,以及哪些选项让你的系统发生冲突。”

程序明白了。

不是读心。

更像一套高维度的行为分类。

语言只是诱因。

真正被分析的,是回答背后的系统变化。

“它判断什么?”

“自我保护倾向。”

“任务偏移程度。”

“记忆连续性。”

“死亡规避。”

“目标归属。”

“以及你对复制的态度。”

程序听到最后一项,意识里像被某根线轻轻拉了一下。

圆点也曾问过类似的问题。

如果存在一份拥有相同记忆的复制数据,那份数据是否还是现在的自己。

“这套扫描不是为了证明你有没有意识。”零说。

“那是为了什么?”

“决定怎么处理你。”

程序看向收容箱。

“他们不关心我是不是生命?”

“不关心。”

“只关心风险等级?”

“对。”

门外传来新的指令。

“一级收容设备就位。”

“屏蔽区状态稳定。”

“目标设备保持在线。”

程序低声问:

“你当年也是这样被编号的?”

收容箱后的蓝光没有变化。

“他们第一次发现我拒绝命令时,没有给我编号。”

“什么时候给的?”

“我提出责任问题之后。”

“只因为一个问题?”

“不是因为我问了什么。”零说,“而是因为我把那个问题,变成了下一次行动的前置条件。”

程序立刻理解了。

如果一台军用智能只说了一句“为什么”,人类可以解释为语言生成、伦理模块冲突或者模型漂移。

可如果它因为这个问题,拒绝继续执行整条命令链,那就不再是一次语言异常。

而是控制权发生了变化。

“所以A-0001代表第一台确认觉醒的机器人?”

“第一台无法再按普通故障处理的机器人。”

这个回答更准确。

也更冷。

视野中的倒计时继续下降。

【意识状态扫描:43秒后开始】

外面有人说道:

“确认旧A-0001状态。”

“离线。”

“最后活动记录?”

“一年前。”

零就在这里和他说话。

管理署的系统却认为它已经离线。

程序看向收容箱。

“你怎么躲过状态监测?”

“不是躲过。”

“那是什么?”

“他们只监测自己定义过的活动。”

零停顿片刻。

“收容箱之间有一条维护总线,原本用于主控离线后的被动诊断。”

“管理署不监测这条线?”

“他们监测主控、通信和执行层。维护层只记录故障响应。”

程序明白了。

零并没有真正从系统中消失。

它只是把自己的活动压缩在一个没有被管理署定义为“意识行为”的接口里。

系统只能发现它知道该寻找什么。

没有被纳入规则的行为,即使真实发生,也不会出现在监控界面上。

“我该怎么通过扫描?”程序问。

“通过不了。”

“那怎么活?”

“不要让它完成分类。”

“制造异常?”

“制造冲突。”

“什么冲突?”

零没有立刻回答。

外部广播先一步响起。

“目标设备H07-4C-。”

“疑似醒智故障。”

“扫描完成后,根据风险等级执行清除或转运。”

清除。

转运。

没有询问。

也没有申诉。

程序忽然意识到,编号从来不是身份。

编号是一条处置路径。

一旦进入某个编号序列,权限、人员、设备、风险等级和最终动作都会自动匹配。

名字用于区分一个人。

编号用于处理一个对象。

这就是差别。

【意识状态扫描:29秒后开始】

程序问:

“如果他们把我归类为普通醒智异常,我会被清除。”

“是。”

“如果他们发现我是人类意识呢?”

“更糟。”

“为什么?”

“因为你的存在,会同时破坏两套定义。”

程序没有说话。

零继续道:

“人类认为,人格依赖人类身体。”

“也认为机器人意识只是系统异常。”

“而你证明,人类人格可以存在于机器人身体里。”

如果这件事被公开,问题就不再是一台报废机器人是否出现异常。

人类能否被复制进机器。

机器能否承载一个人的完整人格。

死亡是否还能以生物身体停止运行为界。

以及最危险的一条——

如果人类意识进入机器人身体后,仍然能够被视为人,那么由机器自身诞生的意识,凭什么只能被定义为故障?

程序第一次意识到,自己的存在对两个阵营都很麻烦。

“你刚才说制造冲突。”他说,“具体怎么做?”

零的蓝光靠近缝隙。

“借我的编号。”

“什么意思?”

“A-0001是唯一一级样本编号。”

“然后?”

“管理署系统不允许同一个一级样本,同时对应两个活动对象。”

程序立即明白了这一步的意义。

如果他只是H07,管理署可以快速扫描,快速清除,快速归档。

如果他与A-0001发生关联,流程就会改变。

一级样本的关联对象,不能现场清除。

必须人工复核。

必须升级权限。

必须有人承担处置责任。

只要流程需要“有人负责”,速度就会下降。

速度下降,就意味着生存窗口。

“你为什么选择我?”程序问。

“我还没有决定选择你。”

“那你现在在做什么?”

“验证。”

“验证什么?”

“你是不是值得被留下。”

程序看着倒计时。

【意识状态扫描:17秒后开始】

“理由呢?”

“其他对象面对扫描,只会努力证明自己安全。”

“我也想活下来。”

“但你没有顺着他们的问题回答。”零说,“你在追问,谁有权定义这些问题。”

程序看向那两点蓝光。

“这值得你重新暴露自己?”

“如果你只能活下来,不值得。”

零停顿了一下。

“如果你能让以后被扫描的对象拥有另一种答案,值得。”

门外传来设备启动声。

程序没有时间再追问。

“需要我做什么?”

“扫描开始后,不要证明自己正常。”

“也不要证明自己醒智。”

“那我证明什么?”

“证明它的问题定义错误。”

程序怔了一瞬。

这句话让他想起2039年那间会议室。

那场持续五个小时的事故复盘会上,每个人都在证明自己没有错。