機器人都是愚蠢的。
既然愚蠢,那就去欺騙它們好了。
丁克并不是沒有就這個問題進行過思考,但在長久的思考之後,丁克最終放棄了這個想法。因爲丁克面臨一個無法解決的障礙。所以在此刻,當肖雲說出這個詞語之後,丁克幾乎是下意識的就反駁道:“這不可行。”
“哦?爲什麽不可行?”肖雲微笑着問道。
“你是在說通過欺騙手段讓那些因爲“分别避險”策略幸存下來的機器人放棄自我複制麽?這絕對不可行。”丁克喃喃說道,“這涉及到機器人内部的邏輯判斷機制,而我們……沒有改變機器人邏輯判斷機制的能力。我們無法讓機器人相信諸如“隻複制一萬台機器人對自身是最好的”,又或者“維持現在情況,不去複制自身才是最好的”之類的謊言,這和機器人的邏輯判斷機制沖突。還有,該如何通過欺騙手段來毀滅絕大部分的機器人?難道讓它們認爲燒毀發動機,燒毀芯片,又或者對自己的同類展開進攻才是有利于生存繁衍的?這同樣不合理。”
“不,這很合理。”肖雲歎息道,“機器人和我們人類有某些共通之處,那就是對外界所有信息的獲取都基于某些器官又或者某些儀器。那麽丁克,我問你,你如何确定我是真實的?你如何确定我的存在不是你腦袋裏面某些部位受到刺激的結果?想象一下,說不定我根本就不存在,僅僅是你負責視覺和聽覺的器官接收到了某些儀器所發送的電波的控制,你才會錯誤的認爲我是存在着的……這不也是很合理嗎?”
丁克一怔,随即說道:“缸中之腦?這沒有意義。”
所謂缸中之腦是一種設想。假設一個人僅僅隻有一顆大腦,這顆大腦被放在了一個充滿了營養液的大缸之中,有許多電極連接着這顆大腦,通過發送不同的電流信号來刺激大腦之内諸如負責聽覺、負責視覺、負責觸覺、負責味覺等部位,因爲這些電流刺激和人類身體内自然産生的生物電流或神經信号沒有差别,那麽這顆大缸之中的大腦仍舊可以感覺到這世界上的一切,所不同的是,這顆大腦所感受到的一切都是經過人工特意控制的——但作爲這顆大腦本身,它是沒有辦法分辨這一點的。
那麽由此就可以引申出很可怕的一點,那就是,作爲現實世界之中的一個個活生生的人,你如何确定你是真實存在着的,而不是僅僅存在于一個大缸之中的一顆大腦?
這個問題其實是無解的,因爲任何現實世界之中的證據,不管是你看到的還是聽到的,你所接觸到的一切,你皮膚之上偶然感覺到的一點涼意,你撫摸愛人之時那溫暖的觸感……一切的一切,都不能作爲否認缸中之腦的證據,因爲這一切都可能是電流刺激之下的産物。
但從哲學層面來說,這個問題卻是很容易就可以被解決掉的。解決這個問題的依據就是奧卡姆剃刀律。奧卡姆剃刀律申明了一個思考事物的原則,那就是如非必要,勿增實體。将奧卡姆剃刀律應用到缸中之腦上來說就是,如果假設我們每一個人都不是實體,而僅僅隻是缸中之腦的話,那麽由此我們還需要假設許多許多東西,比如假設某個大勢力擁有制造缸中之腦的實力,假設它們有這樣做的動機,有這樣做的技術,假設他們有辦法在一開始動作的時候沒有被人類文明察覺,假設……需要假設許多許多東西。而如果認爲缸中之腦不存在的話,那麽我們就什麽假設也不需要了。
那一連串假設就是增加的實體,而這些實體是不必要的,所以它們會被奧卡姆剃刀律剃掉,所以我們認爲,缸中之腦不存在,我們都是活生生的,現實存在的人。
丁克當然知道缸中之腦這個假設,也知道奧卡姆剃刀律的存在,所以丁克才會說,缸中之腦沒有意義。
但肖雲卻對這件事情有不同的看法。看着愈發迷惑的丁克,肖雲微笑着說道:“我當然知道缸中之腦沒有意義,我隻是想借這件事情來說明一個道理,那就是……某個存在做出什麽樣的判斷全部是依賴于外部信息的,想要達到什麽樣的目的,你隻需要提供給該存在相應的信息就可以了。内部的邏輯判斷機制沒有辦法改變,但外部的信息可以被改變。”
略微沉吟一下,肖雲繼續說道:“打這樣一個比方,假設我希望通過讓你接觸劇毒物質的方式來謀殺你,而你的邏輯判斷機制爲,看到劇毒物質就遠離,防止自己受到劇毒物質的傷害,但如果我采取某種方法爲你提供了錯誤的信息,讓你認爲那劇毒物質其實是無毒并且對身體有益的,那麽……你會不會去接觸它?而在這個謀殺過程之中,我并沒有改變你的邏輯判斷機制,你仍舊是你,你之所以被謀殺,僅僅因爲我爲你提供了錯誤的信息而已。
所以,原本的邏輯判斷機制到底如何其實并不重要,重要的是它所接收到的信息是怎樣的。信息才是一切的主宰。在不同信息的影響之下,蕩女可能變成烈女,英雄可能變成竊賊,至于他們原本的邏輯判斷機制,行事準則是怎樣的,這并沒有關系,無所謂。”
丁克的眼中出現了一些迷茫。丁克在仔細的思考着肖雲的話語,許久的沉默之後,丁克發現,自己無法尋找到肖雲話語之中的漏洞。
因爲事實本來就是這樣。
“我明白你的意思了。”丁克慢慢的點着頭:“通過提供虛假信息的方式來給機器人集團造成誤導——這些虛假信息是爲機器人的邏輯判斷機制所專門定制的,通過這種欺騙的方式,來讓機器人集團按照我們的心意去行動,最終達成我們的目的……但是具體該如何來做呢?”
丁克努力的思考着這個問題,一邊慢慢的說着:“要通過欺騙的方式達成兩個目的,目的一,毀滅絕大部分機器人,目的二,讓幸存的機器人放棄繼續複制自身……唔……不對。雖然機器人集團的邏輯判斷機制内有“分别避險”這一條,但這一條未必不能被我們利用,我們或許可以找到一種謊言來欺騙機器人集團放棄這一點。”
肖雲淡淡笑着搖了搖頭:“這大概是不行的。我大概在幾年之前就已經思考到了這一步,我設想了許多種謊言試圖讓機器人們放棄分别避險策略,又或者讓幸存機器人們放棄複制自身……但我想了好久好久,都沒有想到有謊言可以做到這一點——雖然從絕對意義上來說,謊言無所不能,隻要提供相應的信息,無論我們讓機器人怎麽做都是可以的,但這僅僅是絕對意義上的,放到現實來說,那就是謊言的難度有大有小,或許存在某種謊言可以達成這個目的,但那個謊言的難度太大了,大到我們根本就無法實現。
我一直被困擾在這一點之上,思考許久都毫無所獲。但就在之前我忽然間豁然開朗,想通了這一切。我想,我們其實并沒有必要非要做到這一點,非要讓機器人集團們放棄分别避險策略又或者讓幸存機器人們放棄複制自身——是的,沒有必要,我們可以修改自己的需求,容忍幸存機器人的存在,隻要想辦法将它們控制在我們可以接受的範圍之内就可以了。而要實現這一點的謊言,其難度大概是我們可以接受的。”
丁克仍舊在苦苦的思索着:“雖然實現這一點所需要的謊言要比“讓機器人們放棄分别避險策略又或者讓幸存機器人們放棄複制自身”所需要的謊言難度要低,但從絕對意義上來說,它的難度仍舊很高。那麽我們又該用什麽樣的謊言才能實現這一點呢?”
肖雲笑着回答道:“我也不知道該用什麽樣的謊言來實現這一點,但我想,既然我們工作的大方向已經确定了……将它完善,然後具體執行的難度一定不會太高。不過有一個前提原則,那就是,既然我們要對機器人集團展開欺騙攻勢,我們就一定要做到沒有死角,欺騙攻勢要覆蓋到所有機器人之上,不能有一台機器人逃脫。隻要有一台機器人逃脫,我們的計劃說不定就會毀于一旦。”
丁克說道:“我明白這一點。請你放心,我所開發的天花病毒雖然殺傷力仍舊有所欠缺,但我敢保證,任意一台機器人,隻要它會和其餘的機器人通訊,那麽它就一定會被感染。天花病毒到達哪裏,我們的欺騙攻勢就可以到達哪裏。”
肖雲點了點頭:“這也正是我要找你合作的原因。”