“毀掉‘天道’?”段天狼有些茫然的看着王廉,說道。
将自己辛辛苦苦創造出來的東西毀掉?段天狼确實從來沒有想過這個問題,即使是隻是在腦海裏一個閃念也沒有。
所以,當段天狼聽到王廉這麽說的時候,它才會顯得這麽茫然。
“對,你想想看,有一樣東西,它擁有人類一樣的獨立思維能力和價值判斷能力,而它的思考速度和學習能力是人類的億萬倍。那麽,它就是什麽?”王廉問道。
“它就是神。”段天狼幾乎是本能的答道。
“沒錯,如果真是如此,那麽它簡直就跟神沒有區别。如果它是一個受控制的神,那麽自然是人類的大幸。但是假設它不受控制,那麽,我們所有人的命運就掌握在它的手裏,一個程序的手裏。”王廉吞了口口水,搖頭道:“這太可怕了。”
“但是,我們創造這段程序的目的,不就是希望它是有獨立的思維和判斷能力嗎?”段天狼抿了抿嘴唇,“隻有在我們被控制的情況下,依然保有獨立作戰的能力,它才能夠保護我們,不是嗎?”
“沒錯,所以我并不反對你逐漸給它創造出獨立意識的技術方向,我隻是說有一點必須确定,那就是它是受我們被控制的。”
“可是每多一點控制,它的自主性就削弱一點,這可能會影響它的成長和戰鬥力。”
王廉說到這裏,很認真的看着段天狼,“我知道,但是天狼,雖然你是我最喜歡和欣賞的弟子。但是我還是必須得說,你個人的命運,不可能比整個人類的命運都重要。即使是這麽做會影響你的命運,你也必須這麽做。”
和王廉不同的是,段天狼所關心隻是自己身邊的人而已,他并沒有什麽太形而上的高尚想法。他對包括國家,全人類,以及什麽人道主義都完全不感興趣。
所以,段天狼其實心裏并不認爲整個人類的命運,比他的命運重要,但是既然王廉這麽說,那麽出于他對王廉的尊敬,他隻能順從他的意見。
“好吧。”段天黑狼攤開手,“老師,你想要我怎麽做?”
“我需要你給‘天道’一個束縛程序,這個程序必須确保‘天道’不會做出傷害全人類的事情,也不會失去以你的忠誠,在必要的時候,還将引導‘天道’自毀。”
“好的,我會在這幾天把這個程序寫好扣,之後。我才會将‘天道’正式發布出去。”段天狼說到這裏,又對王廉說道,“‘天道’是老師需要留着一份備份嗎?”
王廉幾乎是馬上搖頭道:“不用,我的身份很敏感,萬一将來被面具島嶼查到,從我這裏發現‘天道’就糟糕了。