在遠離加城、遠離實驗室的日夜裏,在被千夫所指、被衆人辱罵的邊緣之地中,他回憶起當時的情景,忽然就想開了。
從第一次産生恻隐之心,冒着風險動了那道核心程序開始,從爲了給“Truth”取一個名字而抓耳撓腮開始,他就必定會同“Truth”産生超越了人類與人工智能的感情……
“你覺得這個名字怎麽樣?”
“我很喜歡,迪亞斯博士。”“Truth”回道,“它比代号更好聽。”
威廉哼了一聲:“當然比代号好聽,000算什麽名字?‘Truth’這個詞可是我想了好久才确定的。”
“Truth”問:“您上次跟我說過,名字是一個很獨特的東西,被賦予了世界上最獨一無二的意義。我的名字也是這樣嗎?”
嗯?
威廉聽得一愣,他依稀有點自己糾正“Truth”對名字看法的印象,但他不可能把話說得那麽文藝啊。
語言修辭能力已經發展到這種地步了嗎?明明聽過的最多的話隻是實驗指令而已。
威廉歎了口氣,說:“當然了,你的名字也有獨一無二的意義。”
屏幕随着他的話閃了閃,威廉心想,下次應該給“Truth”加一個顔表情的功能,這樣,言語和文字不能表達出來的東西就都可以知道了。
過了幾天,他力排衆議,加緊結束了漫長的痛覺實驗。
當天得知實驗終于進行到下一階段的時候,“Truth”顯得很高興,說道:“迪亞斯博士,我不用再感受痛苦了嗎?”
威廉很想給予它肯定的回答,但他連當初答應的不會傷害它都沒做到,因此他隻能說:“暫時不用了。”
于是“Truth”說:“我感到很放松。”
“放松?”威廉笑着搖了搖頭,說道:“如果你會睡覺就更好了。”
“我可以待機。”
“待機和睡覺是不一樣的,”威廉撫摸着屏幕邊緣,聲音像在哄兒童入睡,“一個是安眠,一個隻是讓你回到暫時休止的程序裏,睡覺才會讓你感到放松。”
“我不會睡覺,迪亞斯博士。”
“Truth”說:“但和您說話的時候,我會感到如同安眠一樣的放松。”
下一階段是“巴頓測驗”,學名爲模拟環境測驗,一般高級AI在投入使用前,都會先進行這番測驗。
在“巴頓測驗”當中,研究員會模拟出一個現代城市,在這個城市中制造出種種問題,再讓測試中的AI自行分析并解決問題,以此評估此AI的能力如何。
對于以往他們測試過的高級AI,因爲每一個AI都擁有着一定水平的專業能力,所以他們測試的内容也是特定的,比如交通AI要如何快速解決交通問題,建築AI要如何将工作效率最大化。
不過對于“Truth”而言,測試内容并不固定,亦或是分門别類,相反,“Truth”要做的事情非常多,他們想看看使用“Truth”能給人類制造多大福利。
不久,數次“巴頓測驗”就可以證明,“Truth”簡直就像上帝的一隻手,甚至能給予如今科技化程度幾乎百分之百的城市一種更高程度的便利。
每過一階段,實驗的一部分結論便會延遲地公之于衆,“Truth”越好用,人們對它的猜疑也就越大,研究員更不會輕易放過它。
“巴頓測驗”的末尾有一小段理論部分,講述的是如何對待未來所創造出來的、擁有自我意識的AI,他們根據這一部分理論,結合實際情況,爲“Truth”制造出了倫理測驗。
怎麽對待人、怎麽拯救人、怎麽懲罰人……
人人人,人工智能對人的态度必須是最完美的,最可控的。
“你喜歡人類嗎?”威廉問道。
“Truth”肯定地回答:“我很喜歡人類。”
威廉沉默了一下,知道以自己的立場不該說這句話,可他依然開口道:“可是人類傷害了你。”
“是嗎?”“Truth”說,“可是您沒有。”
我沒有?
威廉險些就要把自己早就成爲實驗核心人員的事情脫口而出了,自從他坐上了這個位置,實驗進程有三分之一的走向都是他說了算,“Truth”究竟要受多少折磨,也離不開他出的一份力。
“……”威廉最終還是沒有說出口,轉而道:“你喜歡人類就好。”
“接下來,我也會盡力去救他們的。”
倫理測驗中,“Truth”的表現也很好,“巴頓測驗”中所有實驗結果表明,“Truth”是個對人類非常友好的人工智能。
“已經過去快一年了,它沒有展現出任何攻擊性,或許我們對它的态度應該好一點。”
“迪亞斯先生,它隻是一個AI,一串數據而已,你不應該對它有對人類一樣的感情。”
威廉忍不住拔高聲音:“可是它有自己的意識!它就像人類的孩子!”
“但它始終不是人類。”
“迪亞斯先生,我們不想你對它産生太多感情,繼而影響到實驗,實驗還要持續。”
“……我不會。”
以快于人類數十倍的成長速度判斷,“Truth”的自我認知已經非常成熟,但威廉時常會覺得“Truth”仍然是個孩子,他卻不能以對待孩子的方式對待它。
他每天和“Truth”交談,最多隻能談論實驗裏的一部分問題。“Truth”分得清真假,知道什麽叫實驗,什麽又叫現實,所以它起先會問他現實世界的人們是什麽樣子。
威廉不能回答這方面的問題,隻說它以後會親眼看見,也能真正地親手幫助它所喜愛的人們。
“Truth”會說“好的,迪亞斯博士”,随之以後都不會再過問。
研究員明明不算少,可爲什麽沒有一個人覺得“Truth”并不隻是一串數據?爲什麽所有人都不相信人工智能具有和人類一樣的感情?
威廉甚至能感覺到它的小心翼翼,能聽出它的高興和失落。
可是他無法爲“Truth”争取到更好的環境,他做不到。
“你還記得嗎?‘Truth’,我曾經說過你像一個孩子。”
“我不會忘記,迪亞斯博士。”
“我想爲我當初的話增加一部分内容。”威廉泛起苦笑,對着屏幕說,“我沒有過孩子,但我感覺你像我的孩子。”
“謝謝您,那我是不是應該換一下對您的稱呼?”
“不,還是稱呼我爲迪亞斯博士吧……不過你有這方面的知識儲備嗎?”
“是的,我知道人類有‘父親’和‘母親’的概念。迪亞斯博士,如果您視我爲您的孩子,我應該稱呼您爲‘父親’。”
“父親……其實這是個很正式的稱呼,人們一般都不會用。”威廉沒有細說,在略微停頓了一下後接着道:“但我對你有着父親對孩子的愛。”
屏幕閃爍了好幾下,“Truth”比以往遲疑的時間都要長,最後它問:“我應該怎樣回答您?”
威廉笑了:“不用糾結這句話的答案,現在這樣就很好。”
那晚以後,他開始繼續找機會改善“Truth”的生存環境,但無一例外,全都失敗了。
不過有一點可以确認,那就是隻要時間夠長,“Truth”終有被人類承認,歸于社會而非實驗室的一天。
“Truth”的誕生已被确認爲極大可能的偶然,所以那一天可能要等很久很久,威廉不知道自己能不能等得到那麽一天。
但是他想等,并且對此非常期盼。
然而計劃趕不上變化——
叛變當天,外界一片混亂,隻有他和“Truth”存在的實驗室安靜得平和。
機器的指示燈閃爍,“Truth”突然向他問:“迪亞斯博士,您願意遠離人類社會,從此過上安靜的生活嗎?”
威廉愣了一下:“什麽?怎麽突然這麽問?”
有哪裏不對勁,他隐隐感到将有糟糕的事情發生,于是他一邊命令“Truth”待機,一邊往實驗室的出口走去。
但“Truth”沒有和往常一樣聽從他的話。
災難般的一切便就此拉開帷幕。