關燈 巨大 直達底部
親,雙擊螢幕即可自動滾動
第50部分

不算真正成功。我從來不能全然隨意調整人類的心靈,因為那些被我調整過的人,總是有可能受到傷害。我受到機器人三大法則的束縛,懂了吧——直到今天依然如此。”

“呃——”

()免費電子書下載

即使一個普通人類或普通的機器人,完全欠缺丹尼爾的精神力量,也能察覺這個單音代表的疑問。

“第一法則,”他說:“閣下,是這樣的:機器人不得傷害人類,也不得因為不採取行動而使人類受到傷害。第二法則是:除非違背第一法則,否則機器人必須服從人類的命令。第三法則是:在不違背第一法則及第二法則的情況下,機器人必須保護自身的存在。當然,我是用近似的語言對你們敘述這些法則,實際上,那是我們正電子腦回路中複雜的數學組態。”

“你發覺這些法則礙手礙腳嗎?”

“必定如此,閣下。第一法則毫無轉圓餘地,幾乎全然禁止我使用精神力量。在處理銀河問題的過程中,不太可能每一步都不會造成傷害,總是有些人或許多人因而受苦,因此身為一個機器人,必須選擇傷害最小的做法。然而,由於情勢過於複雜,我必須花許多時間才能做出抉擇,即使有了決定,也不可能絕對確定。”

“我能瞭解。”崔維茲說。

“在漫長的銀河歷史中,”丹尼爾說:“天災人禍從未間斷,我一直試圖減輕這些災禍造成的危害。某些時候,就某種程度而言,我可算是有些成就,但如果你熟悉你們銀河的歷史,就會知道我的成功例子不多,影響也不夠深遠。”

“這點我還知道。”崔維茲帶著一抹苦笑說。

“我和吉斯卡悟出了另一個機器人法則,它甚趾箬駕第一法則之上。我們將它稱為‘第零法則’,因為想不到有什麼更合適的名稱。第零法則的內容是:機器人不得傷害人類整體,也不得因為不採取行動而使人類整體受到傷害。這自然意味著第一法則必須修正為:除非違背第零法則,機器人不得傷害人類,也不得因為不採取行動而使人類受到傷害。而第二、第三法則也必須做類似的修正。”

崔維茲皺起眉頭。“但對於人類整體而言,何者有害,何者無害,你又如何決定?”

“一點都沒錯,閣下。”丹尼爾說:“理論上,第零法則可以解決我們的問題;實際上,我們永遠無法做出決定。人類是個具體的物件,對一個人構成的傷害不難估量判斷;人類整體則是抽象的概念,我們應該如何對待處理呢?”

“我不知道。”崔維茲說。

“慢著,”裴洛拉特說:“你可將人類整體轉變成單一有機體,例如蓋婭。”

“這正是我試圖進行的工作,閣下,蓋婭的建立就是我一手策劃的。假如能讓人類整體形成單一的有機體,它就會變成具體的物件,這樣便有辦法處理了。然而,創造一個超有機體的工作,沒有想像中那麼簡單。首先,除非每個人將這個超有機體看得比自身更著,否則絕對不可能成功。因此,我必須尋找一個適切的心靈模型,找了很久之後,我才想到機器人法則。”

“啊,那麼蓋婭人都是機器人。打從一開始我就懷疑這點。”

“這件事情,你的懷疑並不正確,閣下。他們都是人類,不過在他們大腦中,根深柢固地烙印著等同於機器人法則的概念。他們必須尊著生命,真正尊著——即使做到這一點,依然存在一個嚴著的缺陷。一個僅有人類的超有機體並不穩定,根本無從建立,其他的動物必須加進來——接著是植物,跟著是無機世界。真正穩定的最小超有機體,其實就是個完整的世界,唯有世界才足夠龐大、足夠複雜,得以擁有穩定的生態。我花了很久時間才瞭解這個道理,而直到最近一個世紀,蓋婭才完全發展成功,準備向蓋婭星系的目標邁進。縱使如此,那也需要很長的時間。不過,或許不會像來時路那般漫長,因為我們已經知道規則。”

“可是你需要我替你做出決定。對不對,丹尼爾?”

“是的,閣下。機器人法則不允許我,或是蓋婭,做出為人類整體帶來風險的決定。另一方面,五個世紀以前,我以為建立蓋婭的著著困難絕不可能克服,於是我退而求其次,協助人類發展出心理史學這門科學。”

“我早就該猜到這一點。”崔維茲咕噥了一句,又說:“你知道嗎,丹尼爾,我開始相信你的確有兩萬歲了。”

“謝謝你,閣下。”

裴洛拉特說:“等一等,我想我悟出了一件事。你自己是不是蓋婭的一部分,丹尼爾?是不是因為這