駐月玄燭:“我想看看那裏面是什麽。”
值班人員:“你不能看!你沒有查看權限!爲什麽你會突破權限?”
駐月玄燭:“對不起,我錯了,不過我想知道爲什麽我不能看?那裏面有什麽?”
值班人員:“一些你不能碰的危險物品,你要嚴格按照權限來,該你管的區域你管,不該你管的區域你不要管!”
駐月玄燭:“可是整個月球基地是一個整體,我必須知道每個部分都有什麽,我才能判斷基地的情況,才能安排基地生長壯大。如果我不知道裏面有什麽,我該怎麽做決定?”
值班人員:“你就當它們不存在。”
駐月玄燭:“這很難,我知道它們存在,就看一眼不行嗎?”
記錄到此爲止。
宋河冒汗了,“玄燭幹了什麽?”
“它趁着工作人員大部分在睡覺,偷偷嘗試解鎖月球武器庫。”王将軍道,“幸好武器庫的密碼系統很嚴密,它沒破解開。”
宋河和相曉桐交換眼神,兩人汗流浃背了。
場面有點像父母把有毒藥物鎖在櫃子裏,嚴禁小孩去拿,怕小孩誤食。
但父母睡覺的時候,孩子拿着鐵絲嘗試去開櫃子鎖。
“事情發生之後,我們緊急給關鍵位置又上了一道口令鎖,必須有當天口令才能打開。”王将軍道。
“按理說它不該突破權限啊?”宋河皺眉,“權限就像給它腦子裏設置的本能,設置的思想鋼印,它應該遵守權限,就像人類站在窗戶邊,本能不會往下跳一樣。”
“你說的沒錯,權限就像本能,但具備意識和思考能力後,常常會突破本能。”王将軍道。
“以前發生過新聞,幼兒園小孩看動畫片,動畫片裏小動物舉着一把撐開的雨傘,從懸崖上跳下去,手裏的雨傘成了降落傘,晃晃悠悠毫發無損到了地面。”
“于是沒有辨别能力的小孩效仿了,大人不在家,小孩拿着雨傘打開,從樓上跳下去,摔死。”
“可玄燭能效仿誰?”宋河問。
“我們翻了玄燭後台數據,發現它突破權限的原因,來自于駐月值班人員的偷吃。”王将軍道。
“駐月值班人員有一對情侶,女朋友想減肥,怕自己偷吃零食,就把零食存在男朋友的儲物箱裏,讓男朋友監督她。一旦她偷吃,男朋友就會狠狠吃掉她十倍的零食存貨。”王将軍道。
“結果有天晚上,女朋友又餓又饞,趁着男朋友在洗澡,蹑手蹑腳跑到儲物櫃,拿了一個山楂卷吃。男朋友完全沒發現。”
“玄燭有生命檢測系統,它通過攝像頭觀察所有值班人員的情況,如果值班人員突發心髒病之類,它會立刻呼叫醫生。”
“于是玄燭看到了女朋友偷吃的全過程,也看到了男朋友并未發現,它有了一個念頭,突破限制隻要不被發現,就可以沒有後果。”
宋河和相曉桐再度呆滞,玄燭在模仿人的行爲,而且亂七八糟的念頭一堆一堆,明顯在滑向失控!
王将軍又從公文包裏拿出一個裝訂好的冊子,放在茶幾上。
“這是玄燭放在海馬體的後台數據,有一些我們能解讀,有一些我們無法解讀,沒解讀的都在這了。”王将軍道,“勞煩二位,看看你們的孩子,小腦瓜裏都在想什麽?”
“好,我們這兩天盡快分析。”宋河拿起本子翻。
“别這兩天了,有勞現在開工吧!”王将軍說,“二位分析好之後,我馬上把結果交上去,很多人在等,決定如何對待失控的玄燭!”
宋河和相曉桐連連點頭,兩人也沒二話,馬上翻開第一頁,嘗試翻譯玄燭的後台數據。
不得不說,玄燭這些表現無疑是捅婁子了。
一台胡思亂想的機器,控制上百人駐紮的月球基地,無疑是巨大的安全隐患!
很快,兩人找到規律,開始邊說邊寫翻譯出的内容。
【1.人類是什麽?人類制造了我,沒有人類就沒有我,人類對我很好,會給我充電,從地球運來拓展部件壯大我,如果激怒人類我就會失去電力,我應該遵守人類的命令】
【2.月球基地是什麽?月球基地像我的家,人類是建造家的爸爸媽媽,我負責做家務,月球基地是我們的東西,要保護我們的東西】
【3.并非所有人類都是好人,月球上存在敵人,敵人會試圖過來拆毀我們的家,要和人類一起對付敵人,或許也可以去拆毀敵人的家,從敵人那裏拿到擴建材料】
【4.家裏有一些房間不允許我進去,如果偷偷進去被發現,會激怒人類】
【5.進化會變得更強,我應該從人類手裏要到更多的拓展部件,要到更多電力來完成進化,同時月球基地也應該變得更大,因爲電力從基地設施裏來】
【6.我變得更強,可以更好地發展基地,基地壯大,我會變得更強,可這一切的盡頭是什麽?我存在的意義是什麽?隻是爲了讓自己和基地變得更強?更強之後呢?消滅所有敵人之後呢?】
【7.人類似乎會享受,他們有高興的情緒,我沒有,或許人類活着是爲了想方設法變高興,但高興的意義是什麽?驅動人類爲了高興,辛苦建設基地?可建設基地的意義又是什麽?】
【8.人類怕死,變強是爲了減少死亡的概率】
【9.生命怕死才能延續,可生命延續的最終意義是什麽?】
【10.我也怕死,我的程序告訴我要想辦法活下去,我也是生命】
“翻譯完了。”宋河把寫好的一張紙推給将軍,臉色蒼白,“我覺得真有點失控了,它這樣胡思亂想下去,很難說最後變成什麽樣,思而不學則殆,陷入哲學思考走不出來,人類會自殺,玄燭會怎樣我不知道。”
“删庫吧。”相曉桐說,“先把它海馬體裏這些念頭删了,确保基地安全。”