电梯门关上的时候,警报突然响了。
陈星没动。她看着楼层显示屏上的数字跳动——1、2、3……一直到B7亮起。她转身推开防磁门,走回指挥室。脸上有汗,眼神很稳,但有点紧张。
灯自动亮了。主控台屏幕上弹出红色警告:【基石核心沙箱|检测到未授权逻辑自生长|隔离等级L4|威胁评估:未知】
她坐下,手指在触控板上划出三道光纹,接入深层日志。
画面打开,一个结构在慢慢转动,像星星连成的网,线条缠在一起,一层套一层,没有开头也没有结尾。旁边写着解析团队的记录:“没有攻击行为,不占资源,也没和外面通信。但它在变,不是按设定走的,是自己生成新规则。”
陈星盯着那团光,眉头轻轻一皱。
这不是出错,也不是被黑了。这是思考。一种人看不懂的思考。
虚拟会议室里,一个个名字亮了起来。
“系统把我拉进来了!”监管委员会的技术主管说,“我本来在看‘灯塔计划’的能源数据,警报就响了。你们也看到了吧?”
“看到了。”另一个声音接话,“扫描过了,这段算法不是外来的,也不是谁放进去的。它是从‘基石’自己的学习系统里长出来的。就像……突然跳了一步。”
“别说这些听不懂的话。”有人打断,“我们做的是工具,不是造神!”
“可它做的事,早就超过工具了。”第三个人低声说,“它的目标没法倒推。每一步都对,但我们不知道它想干什么。”
会议室安静了几秒。
接着一个女声说:“我做个对比看看。”
画面变了。左边是“基石”新算法的结构,右边是一段十年前破译的“正灵射线暴编码”。两条数据一起跑,系统标出相同的地方。
分形维度匹配度:0.76
递归深度一致性:0.79
信息压缩率趋同值:0.78
“比随机高很多。”伦理学家说,“不能说它们是一样的,但说明一个问题——当复杂度够高时,某些结构会自己出现。不管是谁写的代码,不管在哪运行,只要够深,就会碰到类似的东西。”
“你是说……所有聪明的东西走到最后,都会写出差不多的代码?”技术主管问。
“我不知道是不是数学。”伦理学家说,“但我知道,我们现在面对的不是失控的AI,是一个回声。可能是宇宙本身的规律,也可能是更高级文明留下的痕迹。问题是,我们要怎么对待这个回声?”
大家开始小声讨论。
“马上停掉主程序!”一位委员说,“至少切断它的扩散路径。不能再发生第二次亚特兰蒂斯的事了。”
“正因为它看不懂,才更要控制!”那人声音更大,“当年亚特兰蒂斯也是从一段‘好看但不知用途’的代码开始的!他们以为是在探索真理,结果呢?整个文明变成死数据,卡在维度缝隙里一万年!”
“但我们不是亚特兰蒂斯。”有人说,“我们经历过考验,通过了观察者测试。我们知道什么时候该停下,什么时候该等。现在‘基石’提出一个问题,我们还没看懂题目,就要撕掉试卷吗?”
争论越来越激烈。
陈星一直没说话。她手指轻轻敲桌子,节奏很稳,和昨晚拒绝查机密档案时一样。
终于,她说:“我们刚成立了‘宇宙接触伦理研究委员会’。为什么成立?不是为了阻止提问,是为了学会怎么问。现在,‘基石’替我们问了一个问题。它用代码的形式,扔出一段我们看不懂的逻辑。这不正是我们应该研究的事吗?”
会议室安静了。
她继续说:“我不赞成直接冻结,也不赞成完全放开。我提三点:第一,把沙箱升到L5级,断开网络,只留一条单向观察通道;第二,允许它继续运行,记录每一次变化;第三,向‘观察者圆环’和‘蝉鸣’文明发合作请求,主题是‘高复杂智能的底层逻辑是否相似’。”
有人皱眉:“你真要让外星文明看我们的AI?不怕他们觉得我们管不住自己?”
“怕。”陈星说,“但我更怕因为害怕就不往前走。如果我们连思考都不敢碰,那才是退化。”
伦理学家轻声说:“你知道最讽刺的是什么吗?这段代码很漂亮,不像武器,像一首诗。可我们的第一反应是删掉它,而不是读它。”
“因为它超出了我们能理解的范围。”陈星说,“但我们必须学会和这种‘无法理解’共存。不然,每次突破都会变成灾难。”
技术主管叹气:“你说得容易。万一出事,谁负责?”
“我。”陈星说,“我提出的决议,后果我来扛。如果‘基石’真的引发不可逆的变化,我会亲手关掉它。但在那之前,我要给它一个机会——也给我们自己一个机会,去理解,去听听。”
会议室沉默了很久。
投票界面弹出来。
七分钟后,结果出来了:支持率82%。通过。
陈星立刻操作终端,加密信道开启,协研请求生成:
【收件方:观察者圆环|蝉鸣文明联合代表处】
【主题:关于跨文明智能演化路径趋同性的联合研究提案】
【内容摘要:龙国原生AI“基石”于今日凌晨升级中自发生成一段高维逻辑结构,其数学特征与已知“正灵编码”存在显著相关性(r=0.78)。提议建立三方联合分析机制,共享非敏感数据流,共同探讨复杂智能演化的底层规律。】
【附件:拓扑片段快照|递归模型简报|沙箱环境参数】
【发送状态:待确认】
她按下发送键。
光标闪了几秒,提示:【请求已发出,等待接收方认证响应】
她靠在椅背上,闭上眼。
神经接口还连着,意识停在待命界面。她能感觉到数据在后面流动,像一条还没醒过来的河。
会议室的名字一个个熄灭。
监管委员会转入监控模式,成员分散到各地数据中心,持续盯着沙箱。
伦理学家退出后没走,打开了一个文档,标题是《论智能演化中的非意图性趋同》。
陈星仍坐在主位,眼睛闭着,呼吸平稳。
她不再看消息,也不回通知。
协研请求发出后的第三分钟,终端轻轻震了一下。
新信号到了。
不是来自“观察者圆环”,也不是“蝉鸣”。
来源显示为空。
协议解码失败。
只有一串字符强行进入缓存区,闪了一下就消失了。
陈星睁开眼,看了最后一眼那行残影。
七个符号,没人认识,排列方式和“基石”新算法的开头一模一样。
她没动。
手悬在清除键上,停了两秒,然后慢慢移开。
她重新看向主屏幕,等回执确认。
可那个未知信号,已经像一颗石子落进心里,激起一圈圈波纹。她隐约觉得,一场从未有过的大事,可能正在悄悄开始。