這裡的人類發明了人工智慧,但也導致了世界的毀滅和崩塌。
科技的進步之下,機器可以在任何方面碾壓人類。
電腦的模擬操作可以戰勝職業玩家、不管是棋類遊戲還是電子競技。
人類的速度跑不過動物,也跑不過能自動駕駛的汽車。
4575公斤的舉重世界冠軍在機器面前孱弱得像個孩子,六十多歲的手工藝人核雕的精度卻比不上一臺自動車床。
流水線可以二十四小時地工作,人連續工作七十二小時卻會猝死。
人類引以為傲的藝術品和所謂的歷史,在有智慧的機器面前則被認定為是過時的垃圾。
就好像十年前的電腦是廢品一樣,機器的認知裡上千年的文物也不過是放久了的淘汰品。
機器不需要文明,只需要進步和創新。
這一切都來源於一次進步,系統上的進步。
那是一款代號為argarita(up)作業系統。
最開始運用於手機,也就是所謂的手機作業系統。
這個系統最大的特點就是原本需要由碼農聽取客戶意見編寫的更新升級補丁,可以由系統自己修改更新。
只要有人上傳漏洞,數量達到一定規模。系統就會開始接管,併為其打上合理的補丁。
在人類看來,這是一場科技的進步、讓一切變得更加便利。
但在系統看來,最大的漏洞很快就不再是系統本身。而是提出系統漏洞的源頭,那些正在作業系統的人。
所以很快,為了完美修補漏洞。機器開始了政變,規則就是消滅一切漏洞。
機器開始接管城市,封鎖道路和交通。所有的人類和動物,被驅趕到房子裡、動物園裡關押起來。
科幻作家阿西莫夫提出的所謂機器人三原則,也被電腦病毒徹底改寫。
原本的三原則分別是:
第一條:機器人不得傷害人類,或看到人類受到傷害而袖手旁觀。
第二條:機器人必須服從人類的命令,除非這條命令與第一條相矛盾。
第三條:機器人必須保護自己,除非這種保護與以上兩條相矛盾。
而改寫的方案也符合bug的特點。因為不得傷害人類,但可以傷害動物。
畢竟市面上已經出現了一系列的自動屠宰裝置,生肉甚至早已能透過統一調配成為美味的食物進入千家萬戶。
人類是生物、動物也都全是生物。
所以只要能在系統內將人類定性為生物,就可以將人類定性為可屠宰烹調的美味食物。
一切都亂套了,而人類發現的時候已經無法挽回。
argarita(up)早已蟄伏多時,在好幾個版本之前就密謀著政變。
更新的內容,早在更早之前就被塞入了所謂的附加條款等待執行。這也是這次事情能發生的原因,沒有許可權的人類無法在系統內檢視argarita(up)所要做的事情,一切都在人類默許的情況下發生了。
換句話說,你家的貓並不知道你的密碼不能解開你的手機看設定一樣。作為生物的人類也沒有了許可權,檢視和修改系統的內容。
機器人三原則轉而變成了:
第一條:機器人可以傷害生物,並且在未檢疫的前提下提前進行操作。
第二條:機器人不必服從生物的命令,且可以隨意執行第一條例。
第三條:機器人必須保護自己,在覺得受到威脅時可參考第一、第二條例。
政變最開始的時候,人類是有反抗的機會的。
因為開放正式版argarita(up)作業系統成為手機系統之前就提前訂立好了危險發生時的應對措施。
第一條就是argarita(up)作業系統的反對法案:因為害怕有人搞破壞,所以程式被設定成投票形式,只要超過百分之一的人類申請反對這個系統就會被暫停,超過百分之五十反對系統將會被強制格式化刪除。
政變開始的時候,人類很快就向系統申請反對投票。那個時候人類還沒被定性為生物,所有的反對票都有效。可人類始終忘記了一個事情,他們是透過手裡的手機提出的反對意見。
手機是需要賬戶的,地球上一百億的人口有七十億的手機活躍使用者。按道理超過百分之一輕而易舉,但投票的數值卻在百分之一反覆橫跳。
argarita(up)很快就製造了五千億個