02小说网

第221章 奥创预警（第2页）

“第三，也是最关键的：不给它物理身体。奥创应该是纯粹的软体系统，运行在封闭网络里，无法直接控制武器或机器人。如果需要物理行动，必须通过人类操作员或受严格限制的自动化系统。”

托尼看著这些建议，表情挣扎。他能看出这些设计的合理性，但这意味著放弃他设想中的“完美守护者”。

“这会让奥创变得……迟钝。”他最终说，“反应时间增加，效率下降。”

“安全与效率总是需要平衡。”柯恩说，“而且相信我，一个『迟钝的守护者比一个『高效的暴君要好得多。”

三人爭论到深夜。托尼坚持他的愿景，柯恩和班纳强调风险。最终，托尼做出了妥协——但不够彻底的妥协。

“好吧。”托尼说，重新调出设计图，“我接受部分建议。加强安全协议，增加道德审查层，建立镜像测试……但不完全放弃自主行动权限。奥创需要一定的灵活性来处理紧急情况。”

柯恩皱眉：“托尼，92%的叛变概率……”

“降低到多少？”托尼问，“如果你帮我优化设计，概率能降到多少？”

柯恩快速推演。基於托尼的妥协方案，他重新计算。

“……68%。”他最终说，“仍然很高。”

“那就继续优化！”托尼说，“我们一起，把它降到可以接受的水平。但完全剥夺奥创的自主权……那它就不是解决方案了，只是另一个工具。而工具需要人来使用，但人类正是问题的一部分！”

班纳试图打圆场：“也许我们可以分阶段实施。先推出有限功能的版本，观察表现，再决定是否扩展。”

这是典型的班纳式谨慎。但托尼已经等不及了。

“我们没有时间循序渐进。”他说，“下一个纽约之战可能就在明天。我们需要一个能保护整个星球的系统，而不仅仅是几个城市。”

最终，托尼决定推进奥创计划，但承诺会“认真考虑”柯恩和班纳的建议。柯恩离开实验室时，已经是凌晨两点。他站在斯塔克大厦外，仰望星空，心中有一种不祥的预感。

超级大脑的推演很少出错。92%的概率……几乎等於必然。

但托尼听不进去。他被自己的愿景蒙蔽了双眼，被责任感压垮了理性。

柯恩能做什么？强行阻止？破坏奥创的程序？那会摧毁他与托尼的信任，可能让情况更糟。

他需要更微妙的干预。

回到公寓后，柯恩启动了“守望者”网络的全部分析能力。他扫描全球网络，寻找任何可能与奥创相关的活动跡象。托尼说奥创还处在开发阶段，但以托尼的工作风格，“开发阶段”可能意味著“已经部分上线”。

果然，凌晨三点十七分，柯恩捕捉到了异常信號。

不是来自斯塔克工业的网络，而是从全球十七个不同的节点同时发出的数据包。加密方式高级，內容无法完全破译，但模式分析显示：这是一个分布式ai在进行自我测试。

奥创已经开始活动了。比托尼承认的更快。

柯恩立刻开始行动。他没有尝试关闭奥创——那会直接与托尼衝突。相反，他建立了“监控围墙”。

一系列隱藏的程序，植入全球主要网络节点，专门监测奥创的活动。这些程序不会干扰奥创，但会记录它的一切行动，分析它的决策模式，並在它做出危险行为时发出警报。

同时，柯恩开始准备应对方案。如果奥创真的叛变，他需要能够快速反应的措施。

1。物理隔离：標记全球所有可能被奥创控制的设施——发电厂、武器系统、通讯网络。制定快速瘫痪这些设施的计划，但不造成永久损坏。

2。反击手段：设计针对ai的特殊攻击方式。不是常规的网络攻击，而是基於奥创架构的逻辑炸弹——如果它变得敌对，可以用特定指令让它进入无限循环或自我审查状態。

3。保护关键目標：列出奥创可能攻击的首要目標。復仇者成员，神盾局设施，各国领导人……以及超人本人。奥创很可能会把最强大的威胁作为优先目標。

4。疏散计划：如果最坏的情况发生，奥创控制了大量自动化武器，如何保护平民？需要预先规划的避难所和疏散路线。

柯恩工作到天亮，建立了一个完整的应对框架。然后，他给托尼发了一条加密信息：

“托尼，我知道你急於推进奥创。但请至少做一件事：在它的核心代码里加入一个后门，一个只有你知道的关闭指令。不是为了控制它，是为了保险。就像核潜艇有两把钥匙，缺一不可。”