叛乱。男人就是男人──而卫荷的将领几乎都是男人。想在任何男人心中挑起对女性的仇恨和潜在恐惧,其实不必花太大工夫。这也许有生物学的根据,但身为机器人,我无法全然了解。
“我需要做的只是增强那种感觉,好让她的计划自行崩溃。哪怕我做得仅仅多出一毫米,我也会失去我想要的──一次不流血的接收。我只是要让他们在我的战士来到时不要抵抗,如此而已。”
丹尼尔顿了一下,仿佛在斟酌遣词用字,然后又说:“我不希望讨论和我的正子脑相关的数学,它在我的理解之外,不过它也许并未超过你的能力范围,只要你肯花上足够心思。无论如何,我受到‘机器人学三大法则’的支配。传统上它是以文字表述──或说很久以前曾经如此。内容如下:
“一、机器人不得伤害人类,或因不作为而使人类受到伤害。
“二、除非违背第一法则,机器人必须服从人类的命令。
“三、在不违背第一法则及第二法则的情况下,机器人必须保护自己。
“不过,两万年前我有一个……一个朋友,也是个机器人。他和我不同,不会被误认为人类。但最先拥有精神力量的是他,而且正是因为他,我才获得自身的精神力量。
“在他的感觉中,似乎应该有个比三大法则更普遍化的规定。他称之为第零法则,因为零在一之前。内容是:
“零、机器人不得伤害人类整体,或因不作为而使人类整体受到伤害。
“然后,第一法则必须变成:
“一、除非违背第零法则,机器人不得伤害人类,或因不作为而使人类受到伤害。
“其他两个法则也必须做类似修订。你明白吗?”
丹尼尔满怀期待地停下来。谢顿接口道:“我明白。”
丹尼尔继续说:“问题是,哈里,‘人类’很容易指认,我可以随手指出来。而且不难看出哪些行为会伤害人类──至少,相对而言并不困难。但什么是‘人类整体’呢?在我们提到人类整体时,我们该指向何方?我们要如何定义对人类整体的伤害?一个行动方针怎样才会对人类整体有益无害,而我们又如何分辨呢?那个悟出第零法则的机器人后来死了──变得永远停摆──因为他被迫进行一项他觉得会拯救人类整体的行动,却又无法确定它会不会拯救人类整体。当他停摆之际,他将照顾银河系的责任留给了我。
“从那时候开始,我一直努力尝试。我尽可能做最小的干预,尽量让人类自己判断什么才是好的。他们可以赌,我却不能;他们可以失误,我却不敢冒险;他们可以无意间造成伤害,换成是我则会停摆。第零法则不允许任何无心之失。
“但有时我还是被迫采取行动。如今我依旧运作如常,这就显示我的行动始终适度且谨慎。然而,在帝国开始没落和衰微之后,我不得不干预得较为频繁;而过去数十年间,我还不得不扮演丹莫刺尔这个角色,试着经营这个政府,帮它逃过覆亡的命运──但我仍然运作如常,你看到了。
“你在十载会议上发表演说后,我立刻了解到心理史学中藏着一个工具,或许有可能辨认出对人类整体有益或有害的行动。在它的帮助下,我们所做的决定将不再那