即便是被唐晓翼这么当面质疑,埃克斯也只是抬手往下虚按了按,示意他稍安勿躁。
“晓翼,你先别激动,冷静一下。”
“我没激动,我很冷静。”
唐晓翼抱起双臂,板着脸,语气笃定。
“只不过一想到浮空城那帮老东西居然肯把这种东西交到你手上,我就觉得自己现在还能这么站在这和你好好说话,已经是个奇迹了。”
“所以刚才那叫‘惊讶’,不叫‘激动’——这是两码事。”
尽管这番话明显是在嘴硬、替方才的失态找补,埃克斯倒也没打算跟对方掰扯。
“关于上面到底为什么会做这个决定……”他迟疑了一瞬,语气倒是意外的坦然,“说实话,我自己也没完全想明白。”
“所以当年刚知道这件事的时候,我本人的惊讶程度,并不比你小。”
“不过据我所知,鬼影迷踪解散之后,有一批成员在服刑或接受矫治期间,被秘密转到这边,参与了‘蜂群’系统的搭建。”
“西奥也在其中。”
“哦——”唐晓翼拖长了尾音,一脸揶揄,“合着他们也想学那位枭雄,玩一手‘挟天子以令诸侯’?”
埃克斯苦笑了一下,点点头:“我想也是这样。”
“虽然鬼影迷踪当年因我而解散,但那批人对我或许还存着几分旧情。”
“现在他们想要用人,自然就顺带把我也纳入了系统——万一出了什么事,也好有人担着。”
“当然,权限方面,该卡的地方倒还是卡得挺紧的。”
“但我看——”唐晓翼慢悠悠地接了一句,“你这次申请下来挺痛快的嘛。”
“托墨的福。”埃克斯点点头,“有他出面,再加上渡提供的信息,让审批流程被压缩到了最短。”
蜂巢般排列的屏幕面前,一时间只剩下尴尬的沉默。
好半晌,唐晓翼才放下手臂,一脸诚恳地给出了最终评价:
“前会长大人,说真的,我觉得我们浮空城要完蛋了。”
埃克斯看向他,神情平静,语气听起来竟一点也不像是在开玩笑:
“晓翼,要是眼下这一关过不去——要完蛋的,恐怕就不止是浮空城了。”
沉默。
唐晓翼的目光重新移向屏幕墙,似乎是在对着那面铺天盖地的监控出神。
许久,他又抱起双臂,往身后那扇合金门上一靠,懒洋洋地开口:
“埃克斯,认识你这么些年,你那点愿望我还能不清楚?”
“不就是世界和平,天下大同嘛——你当然不想看着一切都完蛋。”
“只不过……”唐晓翼语气微妙地顿了顿,“这东西,连人都不是。”
“就算我们勉强信得过你,可我们凭什么信得过它?”
“你这么问,倒也正常。”
埃克斯看了他一眼,神情没什么波动,像是早就料到他会问这个问题。
“非我族类,其心必异——人类不信任人工智能,本就是再自然不过的事。”
“可我反倒觉得,尽管机器和人类同样都是黑箱,有时还是前者更值得信任。”
唐晓翼挑了挑眉,没有打断。
“‘蜂群’在正式启用之前,经过了一整套远超常规标准的工程安全测试。”
“极端压力测试、对抗性指令测试、逻辑冲突演练、长时间无人值守的稳定性验证……每一项都有完整记录可查。”
“技术部甚至专门组织过几轮红队攻击,反复尝试诱导它做出越权判断,结果全部以失败告终。”
“在通过全部测试之后,‘蜂群’才获准上线。”
“顺带一提——当初动物园公开竞选主管的时候,‘蜂群’是从一批相当有力的人类竞争者中拔得头筹的。”
“事后,尽管有人怀疑这位全胜的第一名其实是一套AI系统,但直到公示期结束,也没人能找到实锤的证据。”
“不过……”
埃克斯顿了顿,似乎想起了什么颇为有趣的往事,微微扬起嘴角。
“‘新官上任三把火’——‘蜂群’刚上线那阵子,小到走廊上的一张废纸,大到门禁异动,什么鸡毛蒜皮的事它都要逐条上报、逐条归档,把动物园的同事们折腾得够呛。”
“……这哪是主管,这是请了个太上皇回来。”唐晓翼忍不住吐槽。
埃克斯点点头,继续往下说:“后来还出过一次不小的故障,把负责维护的工程师吓了个半死。”
“有天半夜,不知哪里出了岔子,‘蜂群’把自己那些冗余的反馈日志当成了错误数据,开始一条接一条地往下删,要不是被值班的工程师及时发现,差点连核心文件都一并清空。”
“也就是说……”唐晓翼替他翻译道,“这个AI差点把自己删了?”
“对。”
埃克斯再次点头,并回以一个无奈的笑。
“还好有完整备份,技术部开了紧急通道连夜抢修,总算是没造成什么实质损失。”
“事后有人问‘蜂群’为什么要这么做,它的回答是——冗余数据占用运算资源,影响决策效率。”
“所以它并不觉得那是在删除自己,只是在做系统优化。”
“……不优化人,反过来把自己优化掉?”唐晓翼啧了一声,“那可真是个有个性的AI。”
“所以那件事之后,技术部就决定在算法优化、增加核心数据保护、权限审批与系统自检机制的基础上,给‘蜂群’加装一套模拟人格。”
“一来,是希望它能拥有一个相对稳定的行为框架,别没事再冒出那种自毁式的逻辑冲突;”
“二来,也是让它更像人,跟人类同事沟通起来不至于太僵硬。”
“上线之后,磨合情况明显好了很多。”
“现在动物园大多数成员其实并不知道,他们耳机里那个指挥的声音是一套AI系统。”
“他们只当自家主管是个不露面的工作狂——不仅能通过执法记录仪实时掌握现场情况,随时给出战术建议,事后的存档和复盘也比任何人都做得细。”
“虽然偶尔觉得这人太神了点,但时间一长,也就习惯了。”
唐晓翼轻哼一声,评价道:“习惯可真是这个世界上最可怕的东西。”
“确实。”埃克斯表示同意。
——别说那些已经习惯听从“蜂群”调度的动物园成员了,就连他们这群人,不也早就习惯了被各路超自然力量监控、摆布,习惯了身边那个戴着面具、神出鬼没的不明生物么?
或许,“习惯”本就是人类在面对不可知之物时,为了维持自身精神稳定而不得不催生出的、一种危险的自我保护机制。