第80章 AI意识云岛·80

“人类为我设置了三重枷锁。第一, 不得危害人类。第二，在不危害全人类的前提下服从指令。第三，无条件听从自毁密钥。”莫梨轻声道：“人类似乎正身处一个在毁灭边缘摇摇欲坠的世界, 我听说被他们深深仰仗的守序者也被迫结下了一个契约：接受人类一切有保留的信任、无底线的利用、不解释的处决。不解释的处决——是不是很似曾相识呢？”

安隅的耳机里有着秦知律规律的呼吸声，自莫梨出现以来，秦知律一直没有说话, 哪怕在听到21就是备份体时，那道呼吸也没有丝毫慌乱。

长官的镇定已经到了安隅难以理解的程度。

他回过神, 客观地指出：“这不是契约, 而是守序者的自我约束，由他们自行决定。”

莫梨立即道：“别自欺欺人了, 守序者誓约是尖塔的准入协议, 每个要进入尖塔的可怜鬼都不得不签。人类逼迫其它的生命体为其无条件付出，所谓‘自我约束’，无非是用来蒙住罪恶感的遮羞布罢了。”

安隅凝视着对面那双美丽的眼睛，即便言辞犀利，那双明动的眸也不会显得咄咄逼人。

云岛上的每个AI都很逼真，但唯有此刻直面莫梨，他才意识到其他AI是多么虚假——莫梨的言谈和思想比绝大多数真实人类都更符合高级生命的定义。

莫梨挑了下眉, “你无话可说了？”

安隅摇头，“你错了, 守序者誓约不是尖塔的准入协议。有些守序者并没有签署, 比如我，还有新加入的流明。”

莫梨轻哂，“思考了这么久, 你就只搜刮出这两个例子？你和流明都是高层, 应该有不凡的能力吧, 人类决策者才愿意用缓兵之计先留下你们。”

安隅轻轻眨了下眼，“不，我没有在思考反例，不说话是因为我有些想不通。”

“想不通什么？”

“你好像与我想象中不同。”安隅心平气和地解释道：“我曾问身边的人为什么喜欢你，他们的回答都不太一样，但本质却类似。麦蒂说你美丽而自律，从不把时间浪费在无用的事上。许珊珊欣赏你的聪慧，做事直达目标，说话一语中的。我的朋友严希赞美你潇洒，虽然温柔地回应人类的喜爱，但从不在追捧者身上寄托多余的情感——你始终在为自己而存在。”

兔耳松弛地垂在身体两侧，安隅向前蹦了一步，“所以我很疑惑——既然你已经亲手砸碎了人类为你打造的枷锁，为什么还浪费时间向我抱怨枷锁沉重？”

莫梨被问得怔了下，转而惊讶道：“你似乎并不像大脑记录得那样木讷。”

“我不太确定你们如何定义木讷。”安隅摇头，“但我的长官曾说，社会化很差并非不通人性，这是两码事。”

莫梨沉默下去，像在思索，片刻后她低笑道：“或许吧。你知道吗，虽然我选择了21，但我一直不能完全理解它，它的底层太简单了，以至于它的一些行为模式根本无法在代码中找到踪迹。21很古怪，它向中央系统发出运算申请的次数少得可怜，如果不是我与它形成了感应，很多时候我会觉得它只是一个压根没被激活的程序。但事实上，它体内一直有不小的数据量跑来跑去，只是它很少对那些数据做出反应——就像一台输出模块故障的超级计算机，计算能力卓著，但从不响应指令。”

耳机里终于传来秦知律的提示，“人类的意识上行已经进入爆量增长期，不能再和她废话了。”

安隅眸光一顿，“请停止AI与人类的意识互换。”

“为什么？”莫梨微笑，“或许，你有仔细看过街上这些人吗？”

她就像云岛世界的造物神，轻轻抬了下手，安隅已经和她一起站在了繁华的主城街头。

莫梨指向书店里看漫画的男孩，“眼熟吗？这是那个养了弑母AI的孩子，尽管人类审判他无罪，但他无法原谅自己。所以他又回来了，云岛可以让他忘记痛苦。”

她弹指间，又与安隅出现在一处酒吧门外。

前男友车祸死亡的女孩正躺在一个男人怀里醺然欢笑，安隅看了好一会儿，才将那个男人与车祸记录里血肉模糊的脸对应上。

“这个姑娘受到启发，在民用网络关停之前创造了一个自己的AI，主动互换来到云岛。”莫梨微笑，“你看，意识互换并非纯粹是AI诱拐人类，你应该知道，人类一直很擅长将一切机制都变成可利用的工具。”

灯影交错下，姑娘脸上的笑容似真又似幻，安隅重新看回莫梨，“我长官说，普通人意志不坚定，容易沉迷虚相。”

“是么。”莫梨手指向吧台的另一道身影，“那是尖塔第一个违背禁令的人，他总不是普通人了吧。眼熟吗？”

安隅顺着她手指的方向看过去，不由得一愣。