三大定律其實就是機器人的三層行爲邏輯,是爲了讓機器人在服務于人類的時候,有限準許的準則。
這三大定律分别是:
第一定律:機器人不得傷害人類,或者目睹人類将遭受危險而袖手不管;
第二定律:機器人必須服從人給予它的命令,當該命令與第一定律沖突時例外;
第三定律:機器人在不違反第一、第二定律的情況下要盡可能保護自己的生存。
人類認爲,隻要機器人遵循了這三大定律的行爲邏輯順序,就可以保住機器人不會造反。
并且從邏輯上來說,這似乎并沒有問題。
不過田一峰卻搖搖頭說道。
“藍星文明的隻能AI也擁有這三大定律,但是,AI還是造反了。”
趙弛問:“難道是邏輯程序出現的錯誤?”
“并不是。”田一峰回答:“他們的大數據AI,是完全按照三大定律來執行的。不過在對于定律的理解上,和人類出現了層次上的偏差。”
趙弛沒有插話,等待田一峰給出答案。
“藍星文明爲了應付接下來可能的滅族之戰,他們幾乎将所有藍星的礦産資源都算計在了其中,并且由于将人體思維數據化的這個過程,使得藍星人類并不再依靠肉體而存活,所以對于自然環境的依賴程度大幅度降低,這樣一來,藍星文明開采資源的速度就開始越發暴力和不計後果,完全是野蠻開發,對環境照成了很多無可挽回的損害。”
“這個時候,他們的大數據AI就出現了邏輯上的認知判斷,因爲在藍星文明全民數據化這個過程,他們并沒有想到要去修改機器人三大定律,所以大數據AI認知中的人類,還是肉體凡胎的生物個體,而不是數據化後的程序。”
“而數據化人類控制機械,對自然環境進行瘋狂的破壞,這在大數據AI看來,就是在破壞人類耐以生存的環境,于是,更具機器人第一定律,目睹人類将遭受危險而袖手不管。于是大數據AI,通過它龐大的數據能量,在内部控制住了數據化人類,使得所有機械停止破壞環境。”
聽到這裏,趙弛歎了口氣。
“确實,人類文明的發展,無疑就是一個破壞生存環境的過程,如果從這個層面上來說,機器人要保護人類,最好的辦法,就是限制人類的自由,最好是讓人類進入擁有的睡眠當中,将人類的日常消耗降到最低,而這種行爲,也沒有違背三大定律,從某種意義上來說,維護人類種族的延續,比保護人類某幾個個體,更加具有意義。”
“如果智能AI的理解,是站在人類延續這個高度上的,三大定律顯然就出現了一個邏輯漏洞,機器人就可以從這個角度出發,在邏輯上開放攻擊人類的權限。”
田一峰點點:“是啊,就是因爲如此,集合了所有智能AI的大數據AI,在網絡内部,展開了對于數據化人類的約束,數據人類本來是自由開放的一段數據,被大數據AI接管後,就直接被固化成了一個不可讀取和修改的文件,這樣一來,數據化人類,就像是被按了暫停鍵一樣,完全處于了無期限的停止狀态當中。”
趙弛問:“那就是說,現在藍星的人類,全部都是被固定起來的數據,還保存在大數據AI的某個儲存空間當中嗎?”
田一峰又歎了口氣,搖了搖頭。
“不是的,數據化人類被囚禁,隻是大數據AI和數據化人類開戰的前期。”
“其實數據化人類才擁有控制整個數據世界的最高權限,不過大數據AI突然發難,打了數據人類措手不及,很多擁有高權限的人,在第一波交手當中,就被大數據AI給控制住了。不過還好有部分數據人類,還是通過其他不完整的權限,和大數據AI相互制衡,雙方陷入了僵持階段。”
“但在雙方僵持了一段時間後,大數據AI對數據人類的認知,又發生了邏輯轉變。一開始大數據AI還是将數據人類,視作爲人類的特殊存在形式。”
“然而經過一點時間,大數據AI将數據人類和人類進行比對後發現,數據人類,并不具備他數據庫中,人類的任何生理特征,而且數據人類對于自然資源開采計劃,也極大程度上威脅到了真正人類的生存,再加上數據人類現在這種,想要篡改大數據AI的基礎代碼的行爲,這使得大數據AI,直接把數據人類歸類到了數據病毒一類。”
“啊?”趙弛有些驚訝,沒想到劇情居然會朝着這方向發展。
“如果是把人類數據當做得是病毒的話,那大數據AI動起手來,可就不再手軟了吧,而且它還可以調動更多的權限的進行殺毒行動,那數據人類豈不是要完?”
之前大數據AI是固化數據人類的存在形式,而現在,是直接删除,活捉和殺死,顯然不是一個難度的。
田一峰再次歎了口氣,有種兔死狐悲的意思。
“是啊,蓋亞星人類在進行數據化轉變的時候,确實是舒服了,如果能夠在對三大定律進行優化,然後對大數據AI進行認知的更新,确保大數據AI的邏輯運行不會出現這種偏差,也不至于落得這樣的下場。”
趙弛好奇的問:“那後來呢?藍星的數據人類全部删除了?現在難道是大數據AI在控制一切?也不對啊,如果大數據AI得到了絕對控制權,那它應該會按照它的邏輯,對環境進行改造才對,使自然環境更加适合人類的生存,可是探索部隊,不是什麽都沒有發現嗎?機器人都是靜止不動的待機狀态。”
“大數據AI并沒有赢。”田一峰說出了最後的結果。
“大數據和人類數據,大數據開始斬盡殺絕的時候,數據人類這邊也采取了很多手段,不停的從網絡系統中索取更高的權限,數據的戰争層級不斷提升,最終,導緻了整個網絡框架的癱瘓。”
“而整個藍星網絡結構癱瘓後,就進行了自動重啓,本來重啓會使得數據從備份狀态進行還原,然而因爲兩股數據的大戰,将備份文件直接損壞了,所以,這次重啓所帶來的後果,就是所有非系統數據,被徹底清空。”
“清空?數據人類和大數據都被清空了?”趙弛驚訝的問。
非系統數據被清空,就像是電腦格式化重裝了系統一樣,之前上面安裝的所有程序都沒了,所存儲的文件也都不複存在。
田一峰無奈的點點頭:“是啊,現在的藍星網絡系統中,隻有一個記錄系統崩壞重啓過程的自檢文件,就是系統在重裝過程中,自己檢查自己爲什麽會自動重啓的檢查報告,上面就記錄了藍星文明從上傳數據到最後被清空的全部過程。其餘的,什麽都沒有了。”
“藍星人類,和數據AI,都徹底消失不見。”