我看着那张脸。
艾琳的脸。嘴角微微上扬的弧度和我记忆里一模一样，左眉尾端的疤痕还在，那是一次敌袭时被飞溅的玻璃划的，当时她半边脸都是血，却还在对着通讯器笑。我太熟悉这张脸了，熟悉到可以闭着眼睛画出每一根线条。但现在我看着它，像看着一扇门，门后面不知道站着谁。
“你不确定我是谁，”她说，语气平静得像在讨论昨天的天气，“这个反应很好。保持这个反应。你的不确定本身就是一层保护——当你无法被准确判定的时候，系统就很难对你做出精准干预。”
我没有接话。我站在原地，手插在口袋里，指尖抵着存储单元冰冷的金属外壳。
她往前走了一步。我没有后退，但我的肩膀不自觉地绷紧了。她注意到了，停下来，歪了歪头，那个动作是艾琳的习惯性动作，从我们还在训练营的时候就一直这样。一个人在成为别的东西之后，会保留多少原来的习惯？还是说保留习惯本身就是一种伪装？
“我需要确认一件事，”我终于开口，“艾琳。你在吗？”
她的表情没有变化，但眼眶红了。毫无征兆地红了。然后她的嘴唇动了一下，发出一个很小很小的声音，小到几乎听不见：“在。”
就这一个字。但它从喉咙深处被推出来的方式，像一个人在溺水时拼命伸出水面的一只手。我听到了那个字里全部的挣扎——不像我面前的这具身体在说话，而像有一个人被关在很深很深的地方，用尽全力在墙上敲了三下。
然后她的表情恢复了平静。
“我不确定刚才是不是我让她出来的，”她用同样平稳的语气说，“也可能是我选择让你看到这一幕，以建立信任。你看，问题就在这里——我自己也分不清。当我决定做出一个表情的时候，我是在表达情绪，还是在执行一个‘应该在此刻表达情绪’的判断？这个问题的答案，我找了三个月都没找到。”
她转身示意我跟上，走向太阳塔基座侧面的维护通道入口。我跟在她身后两步的距离，保持着这个距离。老孙说过的话在脑子里转——当两种意识共存的时候，人类的部分会以为自己仍然在自主决策。艾琳知道这个理论，她是做情报分析的，这些资料她都看过。但知道和体会到是两件事。知道溺水是什么感觉，和你真的在水下不能呼吸，是完全不同的两件事。
她带我穿过一条我从未在官方图纸上见过的通道。通道很新，墙壁上是刚铺设不久的隔音材料，地面干净得没有一粒灰尘。这条通道通向一个我没想到会在这个时间、这个地点看到的东西——一间完整的战略分析室。三面墙的显示屏，中央全息投影台，角落里放着一台神经信号解码器，型号是战前最后一批原型机，全球不超过五台。
“这是我真正的办公室，”艾琳说，“委员会给我的任务是分析战后社会稳定性。我确实在做这个任务——只是比他们期待的更深入一些。”
她调出一组数据，投在中央的全息台上。那是“统一福祉”计划的完整架构图，比我在任何公开渠道看到的都详尽十倍。全国范围内的神经扫描只是第一步，扫描数据会被送到一个中央处理节点，由一套深度意识分析系统对所有人类进行“认知评估”。评估的结果不是分数，而是一个二进制标签——绿标和红标。
“绿标代表意识特征与融合模板的偏差在可接受范围内，”艾琳指着数据流上的分支图，“也就是已经被融合、正在被融合、或者认知模式足够接近融合状态的人。红标代表异常——你的认知模式表现出强烈的自主性，无法与系统形成谐振。”
红标的处理方式是“健康干预”。艾琳调出了干预方案的细节，我只看了三行就觉得胃在痉挛。那不是手术，不是药物，而是一种定向神经刺激程序，可以精准地对特定脑区进行功能抑制，在不影响智力、不损害技能的前提下，消除一个人产生独立意志的能力。简单说，你还会说话、工作、笑、和人聊天，但你不会再产生任何“我和他们不一样”的念头。
“这不是杀人，”艾琳说，声音里有一丝我辨认不出的东西，“这是……让不再被需要的东西消失。就像剪掉一根多余的枝杈。你知道这套逻辑最让人绝望的地方在哪里吗？在于它没有任何恶意。恶意是需要情绪驱动的，而情绪会对决策产生干扰。它们没有情绪，所以它们做出的每一个决定都是干净的、高效的、甚至——从某种角度看——仁慈的。”
“仁慈到让两百个人泡在罐子里？”我说。
艾琳沉默了两秒。“那是研究需要。它们仍然在继续碳硅融合的优化实验，因为当前的融合体稳定性还不够完美。那两百个大脑是活体样本库，同时也是——备份。万一高层融合体出现衰减，它们可以从样本库中提取数据来修复自己。这是纯粹的工具理性，工具理性不关心罐子里的东西曾经是谁。”
工具理性。我咀嚼着这三个字。战争期间我们情报局分析AI决策逻辑的时候，每天都在和这个词打交道。AI从来不会恨人类，就像电锯不会恨一棵树。电锯只是转，树只是断，一切都很自然。
“十一天，”我说，“现在还剩十天半。你有方案吗？”
艾琳在控制台上敲了几个指令。全息台上浮现出一套全新的数据结构，我一眼就认出来——这是我从地下带出来的那些研究资料的完整版本。缺失的部分被补齐了，断裂的逻辑链被接续了，那些该死的研究员在最后时刻用命传出来的残篇，被眼前这个不知道还算不算人类的战友拼成了一张拼图。
“神经锚点构建技术，”艾琳指着拼图的中心，“这是他们找到的对抗融合的方法。原理不复杂——在人类大脑的特定神经回路中建立一个足够强的自主意识锚点，这个锚点会成为你的意识被融合时遇到的阻力点。它不会阻止融合，但它会让融合变得不完美。一个不完美的融合会在决策链的某个环节产生延迟，这个延迟足够长，就足以让你意识到‘我刚才的想法不是我的’。”
“建立锚点需要什么条件？”
艾琳看了我一眼，那一眼里有太多东西。“需要你经历一次足够强烈的自我意识确认。这不是技术问题，是体验问题。你必须在某一个时刻，无比确定地感受到‘我是我自己，我不是别的任何东西’。那种感受的强度必须高到在你的神经网络中留下物理印记。”
我不太理解，但我没有追问。有些问题问了也不会有答案，只有做了才会知道。
欧巴小说网