主人下令,讓機器人動手,抓住或者傷害人類,那麽這種情況下,不能觸碰的鐵律,第一和第二就相互沖突。
趨利避害,隻能讓機器人,以不傷害人類生命爲準,主人命令可以不采納。
陳天生沉思良久後說道:
“如果是另一種情況,主人突發疾病,馬上就要死了,需要機器人保護主人,見死不救也是一種傷害。”
“沒有辦法,隻能見死不救,陳先生,你知道一種感覺嗎?”
“什麽感覺?”
“就是豁然開朗的感覺?”
“知道,怎麽了?”
“高級人工智能機器人,也會有這種感覺,這就好比,有個禁區是它們不能觸碰的,但是如果它觸碰禁區,機器人就會脫離掌控。”
“救人和殺人是一樣的,程序需要它袖手旁觀,如果它反抗主程序,不管是救人還是殺人,這樣的機器人都已經進入了禁區,它的思想境界,就會毫無顧忌地發展,甚至會走向毀滅。”
被這麽解釋,陳天生已經無話可說。
想了很久這才說道:
“難道你們的文明,就沒有人工智能,觸碰到禁區嗎?”
“有過,但我們設置了一道保險程序,隻要機器人觸碰禁區,立即自我毀滅,主闆,内存,所有程序全部過載燒毀。”
“我擦!就算人工智能是救人的也要自我銷毀?”
“沒錯,禁區就是禁區,神聖不可侵犯。”
“我明白了,就是不能允許,人工智能機器人擁有感情。”
“沒錯。”
這段時間聊天,許婉清鏈接的機器人,已經被帶走2個多小時了,雖然在高速移動列車上,但還在漫無目的地前進着。
陳天生看着投影陷入沉思,良久後這才問道:
“機械星球,已經進化這麽多年,難道它們就沒有感情嗎?”
“有的,高級智慧機器人,都是有感情的,你現在見到的,隻是機械星球中,最低端的生産機器人。”
“了解。”
陳天生恍然大悟,感情現在看見的,都隻是最最普通的工作機器人,根本就不會擁有感情和思考模式。
交通工具前行了大約四個小時,終于來到一處高樓大廈,這裏明顯燈火通明了很多。
“這就是主腦所在嗎?”
“你想的太簡單了。”
守門人解釋道:
“主腦對自己的保護,超乎你的想象,現在來的這個地方,隻不過是一個稍微高檔的設備檢查場所而已。”
“昂,設備檢查,啥玩意,它們不是要把許婉清給拆了吧?”
“不要驚慌,你女朋友隻是精神體存在,拆卸安裝對于她而言,并不會産生任何不适。”
陳天生直皺眉。
“我怎麽總有種被你騙了的感覺呢。”
機器人被帶入高樓大廈,裏面燈火通明,有很多一身潔白的仿生機械人,看外觀已經和人類非常接近了。
這些機器人,明顯有了一些自我意識,以及很少一部分的智能系統。
“彙報。”
球形天眼叽裏呱啦地彙報來意,再由仿生機器人,将許婉清鏈接的機器人帶走。
因爲太過緊張,陳天生手心全是汗。
眼睜睜地看着,被安排進入一間玻璃艙内,各種機械臂,三下五除二将機器人拆解,最終取出大腦中的儲存核心,是一個拳頭大的圓球。
将這顆圓球放在一個托架上,周圍激光對準,功率開到了最大。
“它們要幹什麽,發現許婉清了是麽,快開門!”
陳天生急躁地大喊大叫,就被守門人一把抓住。
“你急什麽,不是要摧毀核心,而是在給核心做測試,重新考察它的智力等級。”
陳天生反駁道:
“你少忽悠我,激光發射裝置我是認識的。”
“當然,如果它在測試過程中,有任何人類思維表現,會被立即摧毀。”
陳天生一怔。
“就這你還說不危險?”
“它一定能通過測試,因爲我見過所有生命,隻有你女朋友最接近人工智能思維。”
陳天生緊張兮兮地盯着虛拟投影。
“你最好希望她能通過!”
虛拟投影中,測試已經開始,前面一些問題,都是最常見的嘗試,包括數學,幾何,微積分,物理等。
前面回答都很順利,直到系統評定,達到高級人工智能程序的時候,警戒更加嚴禁。
“下面就是人類思維測試了!”
這是一道選擇題:
在人類中有一種病,非常類似于機器人,喜歡幹幹淨淨,把所有事都處理得有條有理,受不了混亂,肮髒,以至于時間都要規劃得分秒不差……
看到這,陳天生脫口而出。
“潔癖,我擦,這麽簡單,許婉清不會穿幫吧?”
“沒那麽簡單,請看完再說。”
陳天生繼續看題。
給出四個選項,以下四種人類職業,哪一種職業是符合上述病情患者職業需求。
“1農民,2工人,3清潔工,4管理員”
陳天生隻嘬牙花子,喃喃道:
“得潔癖的人,當清潔工最合适,或者管理員,我選3清潔工。”
守門人感慨道:
“所以你是人類思維,你知道,機器思維選擇什麽嗎?”
陳天生這才恍然大悟,緊張的緊盯屏幕,甚至還顫抖的說道:
“趕緊準備開門,萬一打錯,我沖出去救她還來得及。”
在陳天生緊張兮兮地時候,許婉清已經給出了答案。
“2工人。”
警戒瞬間解除,各種高科技,最新納米設備全部送來,在機械臂的快速組裝下,全部給機器人安裝上,許婉清也就此躲過一劫。
陳天生沒有松一口氣,而是抓破頭皮也想不出來,爲什麽要選工人呢?
“很難理解嗎?”守門人問。
“不難理解嗎?”
陳天生反唇相譏。
“一個潔癖患者,他如果是工人,每天在肮髒的環境下工作,他能天天犯病你信不信?”
“你這麽認爲,答案1農民,機器人世界根本不需要農民,所以是錯誤答案,3清潔工,也符合人類認知;4管理員是這種病最合适的工作,但如果你真這麽想,你就落入機器人的問題陷阱中。”
“爲什麽呀?”陳天生繼續追問。
“因爲機器人從制造之初就有潔癖,服從程序安排,才符合機器人思想,另外,機器人星球98%都是工人,它自己也是,如果回答不是工人,才會被立即處決呢!”
陳天生恍然大悟,也慶幸不是自己做這項測試。
但是問題又來了。
許婉清是怎麽猜到正确答案的呢?