“你不可能确定这一切,你只是在猜测。”
“这是根据我和机器人相处一生的经验所作的猜测。你最好信赖这样的猜测,史蒂芬。”
“但若是这样,那还剩下什么呢?机体本身是正确的,它们根据的前提是正确的,这些我们已经同意。现在你又说,没有人能违背它们的意思。那究竟是哪里有问题?”
“你自己已经回答了。根、本、没、有、问、题!稍微想想那些机体,史蒂芬。它们是机器人,它们服从第一法则。可是机体并非为任何一个人工作,而是为全体人类服务,所以第一法则变成:‘机体不得伤害人类整体,或因不作为而使人类受到伤害。’”
“好啦,那么,史蒂芬,什么会伤害人类整体呢?经济脱序最有可能,不论它的导因为何。你不同意吗?”
“我同意。”
“未来最有可能导致经济脱序的又是什么?回答这个问题,史蒂芬。”
“我会说,”拜尔莱不情愿地答道,“是机体被作废。”
“我也会这么说,而机体也会这么说。因此之故,为了我们,它们的首要考量是保全自己。所以,它们悄悄处理了威胁它们的最后一项因素。其实并不是‘人本协会’摇晃这条船,试图令机体遭到毁灭,你一直把这一幕看反了。我们应该说,是机体摇晃这条船——摇得非常非常轻——刚好能把攀附在边缘的少数人摇掉,因为机体认为他们的行动会危害到人类整体。