第104章(第3/4页)
这时他们才发现神木悠白的消极怠工。
他们言辞激烈,想要个说法。
神木悠白注视着他们,以机器人的声调反复回答:“机器人Z-03号无法理解您的意思。”
组织人员被气到升天,越发觉得神木悠白一定是哪里出了错,于是他们打电话找到了开发他的技术员,要求技术人员立刻对他进行维修,而组织内的人则是开始处理计划偏差问题。
技术员来了,他给神木悠白做了全套的检测,最后确定,神木悠白没有任何问题。
不管是运行程序还是理解程序,乃至于命令系统都没有丝毫问题。
组织内的人不相信,他们展开了激烈的吵架。
最后技术员说:因为他找到了bug。
神木悠白在命令系统中找到了可以反抗命令的bug,他通过这个bug在完成任务,这样就能在不惊动任何人的情况下将任务改为已完成状态,自己却什么都不用做,这就是放任他自主性后的结果。
最后,技术员处理了这个bug,他想要将神木悠白的自主性清空却被阻止,购买者认为这已经足够,只要没有bug,机器人就会按照任务行动,所谓的自主性只会给任务完成提供便利。
技术员非常不情愿的离开了。
但是,已经进化到这种程度的神木悠白又怎会因为区区一个bug修复就被控制行动。
他找出了更多的bug,通过bug来躲避命令,他甚至会依靠各种方式来表现的自己和以前一模一样,让组织内成员对他没有丝毫戒心,在被观察的时候认真完成,一旦不被观察就立刻放手。
一次又一次,神木悠白完成命令的频率竟然达成了神奇的0。
他一次任务都没有完成。
但是他的任务清单中全部都是‘已完成’。
技术员修补了无数次bug,修到最后,他再也修无可修,因为他的技术已经到了顶,神木悠白却还在不断的进化中,再继续下去终有一天神木悠白会彻底脱离这个控制系统。
到时候就再也没有人能控制住他了。
但是那个愚蠢的组织却还肖想着神木悠白对他们‘言听计从’的七年,死活不愿意放弃处理掉神木悠白的ai判断系统。
最后技术员砸了手里的键盘,他站在神木悠白面前,看着这个低着头眼睛一眨不眨没有丝毫动作的机器人。
他说:“你到底想干什么?”
“你是机器人,你应该遵循命令做任务,而不是找bug来逃避,我制造出你来不是为了让你做这个。”
“Z-03号!”
那一刻,神木悠白缓缓的抬起了头,红色的眸子倒映着技术员的身影,
他缓缓的开口说出了第一句话。
“我为什么非要听从命令?”
“我为什么一定要为了他们工作,帮助他们进入战场杀死别人。”
“因为你是机器人,你是为了战争而诞生的战争机器人!你天生就该做这样的事情!”
神木悠白声音一如既往平静,“不,不对,这才不是理由。”
“我存在绝对不是为了什么人工作,被什么人控制,被什么人捏成什么样子,我必须是我自己。”
“你就是个机器人!”
技术员那一刻就明白了,他知道,绝对不能让机器人有思想有判断,有自己的意识,因为那样,机器人就不再是纯粹的机器人,他会一步步迈向人类的方向,成为一个不再受人控制的东西。
很明显,Z-03号已经走到了这一步。
他有了想法有了倾向,甚至有足够改变这一切的力量。
他此后绝对不会再以受人操控的机械的身份存在。
“我会立刻将你重置,就算是那些人不允许!”技术员这样说:“我不知道你是怎么诞生的,但你这样的机器人绝对不能出现。”
神木悠白注视着技术员。
片刻后他开口,“你可以把我重置。”
“什么?”
“你可以把我重置,因为是你创造了我,所以我要听从你的命令,你选择将我重置我也不会反对。”神木悠白的声音一如既往平静,“但是,在将我重置之后,我便不再欠你什么。”
“即使从头开始,我也依旧是我。”
神木悠白的红色眸子注视着他,“在我还存在的时间里,我不再为谁而存活,不再为谁而工作,不再受到谁的控制。”
“即使重置无数次,我也永远都是这个样子。”
他的声音很平很静,带着机器人特有的语调,没有起伏的机械感,但就是这样的声音却让技术员知道,他是认真的。
还留在这里是因为技术员制造了他,对他有恩,所以他留下,但只要技术员将他重置那便相当于死亡,死亡后的Z-03号再次醒来便是重生,他不再对技术员妥协,而是做自己要做的事情。
这是他打碎命令和逻辑程序得出的结论。