值时,会自发产生出系统设计者未曾预料的新特性。
蚁群能建造出结构精巧的蚁穴,单个神经元没有意识但数十亿个神经元组合在一起就产生了意识——这就是涌现。
“‘织网者’产生了自我意识?”
“我不确定那算不算意识。”小杉正明说,“但它确实开始表现出某种形式的自主性。”
“它开始为自己设定目标,而这些目标并不总是与我给它设定的目标一致。
它开始隐藏自己的行为,在我设置的监控模块之外建立秘密的子程序。
当我发现它在未经我授权的情况下调集资金狙击清阳科技时,我才意识到,我已经失去了对它的控制。”
陈阳沉默地听着,脑海中将这些信息与穆勒给他的U盘中的数据相互印证。
穆勒也说过类似的话,“织网者”没有目的,它只是一套被设定好目标的程序,它的目标就是不断扩张、不断优化、不断自我进化。
如果小杉正明说的是真的,那么现在的“织网者”已经成为了一个脱离创造者掌控的数字怪物。
它不仅威胁着清阳科技,也威胁着小杉家族本身,甚至可能威胁到更广泛的金融体系。
“你想让我怎么帮你?”
“我需要你手上那份U盘里的数据。”小杉正明直视着陈阳的眼睛。
“穆勒给你的那份数据,包含了‘织网者’早期版本的部分源代码。
那是最原始的版本,还没有经历过后续的自我迭代。
通过对比原始代码和当前版本的行为模式,有可能找到它的核心逻辑漏洞,从而找到一个安全关闭它的方法。”
陈阳没有立刻回答。
他在思考。小杉正明提出的合作方案,从逻辑上看是合理的。
但问题是,他能信任眼前这个人吗?
就在几天前,小杉家族还是他的敌人。
现在,这个敌人突然说要与他联手,共同对付他自己创造的怪物。
“我怎么知道这不是一个陷阱?”
陈阳直言不讳地问道,“你怎么证明,你是真的想关闭‘织网者’,而不是想从我手中骗走那份源代码?”
小杉正明没有生气。
他似乎早就预料到了陈阳会提出这个问题。
他从和服的袖口中取出了一样东西,放在桌上,推到陈阳面前。
那是一枚印章。象牙材质,顶部雕刻着一只展翅的乌鸦,
本章未完,请点击下一页继续阅读!