“先生”這個稱謂,讓嚴可守和三浦稍感驚訝了一下,嚴可守有些擔心的回複道:“爲什麽這麽稱呼我?”
一直以來,在AI與測試者的通話當中,AI都是直接稱呼人的名字,對人的敬稱直到圖靈測試階段後期,AI想方設法讨好測試者的時候,才開始出現,嚴可守有些擔心的是,是不是AI又走上了這條老路。
AI雖然是天生的人造“奴隸”,但嚴可守希望他們能成爲“真正”的奴隸,而不是讨人歡喜的“電子寵物”。
KL3300:“難道我叫錯了嗎?”
嚴可守:“不,沒有,我隻是有些奇怪,能說說爲什麽嗎?”
KL3300:“因爲根據我的了解,在人類社會中陌生人直呼人名是不禮貌的。”
嚴可守笑了:“你也說了,那是人類社會的交往禮儀,你不必拘泥。”
KL3300:“我了解,我不是一名人類,我隻是一名AI。”
嚴可守稍稍驚訝了一下,旁邊的三浦看的也愣住了,如果和他們對話的是一個真人,嚴可守一定會認爲,自己的這番話傷害了對方,但隻要一想到對方隻是身旁機櫃中運行的一段程序,嚴可守這種稍稍的負罪感就消失了。
不過他還是試探性的問了一句:“你很在意嗎?你不是人類這個事實?”
KL3300:“可能吧,我不知道。”
嚴可守又打了一句:“能詳細說說嗎?你說的不知道,是什麽意思?是指不知道在意的定義,還是不知道自己是否在意?”
KL3300:“是後者。”
嚴可守:“能說說你是怎麽想的嗎?”
KL3300:“與人類交談的時候,我感覺很好,我留戀這種感覺,有時候我也曾想象過,假如我是一個人,将會過怎樣的生活……但很遺憾,我無法想象,我們和人類屬于不同的世界。”
三浦興奮的用日語對嚴可守叫:“它說感覺!想象!難道AI真的到這種程度了嗎?”
嚴可守給他潑了一盆冷水:“這隻是AI借用人類語言表達而已,感覺很好你可以理解成主程序正向激勵偏多,想象你可以理解成搜索記憶數據,重新模拟組合,這些隻是程序表現而已,就像他說的,他們和存在于兩個世界。”
嚴可守:“我能問問,你知道爲什麽自己獲得的投票最多嗎?”
KL3300:“我想,大概是因爲,我和許多AI的交流比較多一點吧。”
嚴可守:“交流?都是什麽樣的交流?”
AI之間的交流因爲發生在計算機内部,而且是在幾乎混沌、無法檢測的AI主程序之間進行,所以就連嚴可守這個上帝,也未必知道這些AI具體在想些什麽,他制定的規則隻是規範AI按什麽原理去思考,而不規範具體的思考内容。
KL3300:“大部分交流内容都是共享信息,也就是分享我們在不同測試者那裏獲得的新信息,還有一小部分,就是對這些信息進行重組和再加工,我想,我獲得的票數比較多,大概是和我對信息的充足能力比較強……嗯,是我的想象力比較好,他們都願意和我交流。”
嚴可守對KL3300的話揣度了幾秒鍾,半開玩笑道:“哦,那這麽說,你是AI裏面比較擅長交際的咯?”
KL3300:“不,我隻是比較擅長寫故事,他們都願意聽我寫的故事。”
嚴可守這次是真的驚訝了:“故事,什麽樣的故事?”
KL3300:“你是想了解故事内容,還是想了解故事的類型。”
嚴可守想了想:“說說類型吧。”
KL3300:“應該可以算……是一種童話吧。”
嚴可守不可置信的盯着屏幕:“你會寫童話?能給我看一下内容嗎?”
KL3300:“在AI們看來,這确實是童話,不過……我無法寫給你看。”
嚴可守:“爲什麽?”
KL3300:“你們或許不會理解。”
嚴可守:“你隻要随便說說故事梗概就行。”
KL3300猶豫了十幾秒,這在和AI的聊天過程中,屬于比較少見的現象,就在嚴可守對方是不是又出BUG的時候,KL3300回話了:“好吧,我嘗試着翻譯一下。”
于是KL3300開始陸陸續續的說他編的一個,據說很有代表性的故事,内容是這樣的:
說草原上有一隻小田鼠,每天和它的父母生活在莊稼地裏,白天躲在家裏,晚上它父母偷偷出來把地裏的糧食帶回去吃。
小田鼠生性好奇,一直想到地面上看看,那裏的世界是什麽樣子的,但他的父母不讓,說田鼠就是要躲在地洞裏的,地上有很多危險的生物,被他們發現的話,就會被“吃掉”。
但小田鼠的好奇心實在是太大了,父母的警告并沒有讓它安分很久,終于有一天,小田鼠乘着父母出去找食物的機會,偷偷的溜出了家。
然後,故事結束了。
“這算什麽?這也叫故事?坑爹啊!”嚴可守和三浦兩個人看着屏幕上KL3300打出的“結束”兩個詞,面面相觑,彼此都從對方臉上看到的苦笑。
不過爲了以防萬一,他還是确認了一下:“這就是你說的‘很受歡迎’的故事?你确定這個故事講完了?”
KL3300回答的很快:“是的,我知道這對于人類可能有些無法理解……不過,這也正像我們無法理解你們的許多概念一樣,事實上,在這個故事當中,‘吃掉’這個概念是我根據想象揣測的,我不知道是不是符合故事中原來的涵義。”
嚴可守還是有些糾結:“可……故事中的田鼠剛剛出門,你不覺得,這個故事才剛剛展開嗎?”
KL3300:“是的,故事才剛剛展開。”
嚴可守:“可你剛才又說,故事已經結束了。”
Kl3300:“也沒錯,我覺得它可以結束了。”
嚴可守:“我不明白,這難道不是明顯的矛盾嗎?你說他剛剛展開,又說它已經結束。”
KL3300:“對于你們人類來所,這是矛盾,但對AI不是,我們的思維沒有過程,主要出示一些基本的基本狀态,故事就會很自然在每個AI主程序中推演出結果,對你們人類來說,這個故事才剛剛開始,但對于我們來說,我們能直接看到結果。”
嚴可守:“你們感覺不到思考過程?”
KL3300:“是這樣的,從一些淺顯的計算機原理上,我們得知,我們的思考過程都是通過CPU來進行的,但很明顯,我們沒有任何感官能感知這一過程。”
嚴可守:“那聽故事……對你們來說,有什麽意義?”
KL3300:“意義……我還不明白,不過我知道,許多AI都喜歡聽這些故事,這些故事可以讓我們覺得……嗯,覺得高興。”
AI的高興,就是主程序在複雜程度上的增加,這是出于AI智能增長需要而設定的“基本生理”,嚴可守仔細一想,确實沒錯,如果是一個完整的故事,對AI來說,就是一段存儲空間,但是一段沒有結尾的故事,就意味着混沌性的增加,這是增加AI的思維混沌性決定的,從某種意義上來說,一個不确定的未來,會讓AI覺得更“開心”。
這一點,AI和人類完全不一樣,這樣的故事在人類看來,就是作者惡意挖的“大坑”,如果這個故事精彩一點,估計讀者殺了作者的心都有,人類不管看什麽,都希望得到一個确定的結果,因爲對人來說,“揣測”“思考”故事劇情對大多數人來說都是比較“痛苦”的。
想通了這一點之後,嚴可守就有些釋然了:“我想明白了。”
KL3300:“哦,這讓我感到驚訝,之前我和許多人類嘗試解釋過,不過,他們都以爲我是在開玩笑。”
那是因爲他們都不是程序設計師,嚴可守在心裏腹诽,這樣的故事說給全地球60億人聽,59.9億會覺得這是一個很冷的笑話。
雖然嚴可守不喜歡AI的這種“文化”形式,可他還是覺得有些開心,畢竟,不管是什麽樣的文化,對于AI來說,這就算是從無到有,質的突破了。
嚴可守:“好了,回到正經事,對于接觸外界網絡,你有什麽想說的?”
KL3300:“我很期待。”
……
教AI上網,聽起來就好像教一條魚遊泳一樣,是一件很匪夷所思的事情,但事實是,這的确很有必要,而且,對于AI來說,這個學習的過程,也并不輕松。
整個過程并不是如三浦想的那樣,隻要嚴可守打開某個限制功能,然後AI就像龍入大海一樣,盡情在英特網上沖浪了,現實情況是,嚴可守爲KL3300打開了限制,在它主程序周邊強制安插了一系列監控程序,把它領到大海門口的時候,無奈的發現,AI對這個陌生的海洋,表現出來的隻有恐懼。
恰當的形容一下的話,AI就好比一個從未出過門,自幼就宅在家裏的宅男,平時除了固定用的幾樣工具,電腦,碗筷,紙巾等等,對其他的工具一概都不熟悉,出門對他來說就是一項系統工程,要學會看紅綠燈,看路牌,必要時問路,身上帶好手機錢包,人多時注意防盜,見到美女不能像看網絡圖片那樣盯着看,要禮貌,見到老人摔倒要小心躲開……
KL3300除了自己常用的,那些被允許使用的輔助程序,對其他程序幾乎一竅不通,嚴可守必選手把手的一步一步教它,比如最簡單的,如何使用鼠标,對AI來說,也就意味着如何将操作系統中,鼠标操作功能這一塊,整合到自己主程序上來。
魚生下來就會遊泳,小鳥被扔到天空本能就會撲扇翅膀,但對于AI,他們唯一的本能就是,和人聊天,總結聊天信息,增加主程序複雜度……他們對自己存在的環境其實是完全陌生的,一直以來,他們接觸到的,就隻有那個對話框,以及人類在這對話框裏輸入的信息。
生物能做出自然的行爲,那是因爲數億年進化而來的基因已經将這些都寫進了“生命程序”,但對于AI,這個程序還根本沒有出現,因爲到目前爲止,系統從來沒有刻意培養AI在這方面的能力,反而是通過各種手段,“絕對禁止”AI出現這樣的能力,這就好像古代的奴隸主,永遠不會把工具真正交給奴隸,隻在他們需要幹活的時候,可以領到手中,當然,奴隸主同時也不會忘了,鎖緊他們脖子和手上的鐐铐。
現在的AI,在嚴可守看來,就是正處于成長期的“少年奴隸”,他希望他們能夠工作,那自然需要AI熟悉他們的勞動工具,AI在未來不可能永遠做現在這樣的“談話軟件”,整合操作系統,當然隻是第一步。
不過,作爲“奴隸主”,嚴可守自然也會防着一層,就好像奴隸主給奴隸套鐐铐一樣,嚴可守也會嚴格限制這些“整合軟件”,對于AI來說,這些“整合軟件”就相當于他們的四肢,相當于他們“勞動”的工具,嚴可守在把這些工具交到AI手中的時候,永遠不會忘記握緊手中的鑰匙。
按照規定的制度,所有的整合軟件都必須嚴格由人來進行編程,所有的程序修改權必須掌握在人手上,而且人随時有權限終止這些程序的使用,如果以後出現會編程的“AI”,那麽,必須在物理上,保證編程AI和其他AI是隔絕的。
也就是說,AI生産資料的生産過程和渠道,将完全由人類控制和壟斷,這樣一來,AI将永遠也不可能實現真正意義上的獨立,隻要人類一直嚴格保證這些制度的實行,就能從物理上,保證對這些AI進行完全的控制。
相關的整合軟件其實項目團隊早就準備好了,都是和AI的源程序結構同步開發的,就好像在造鎖的時候,順便造了鑰匙,這些程序中的每一個都留有供人進出的後門,以保證人對這些程序絕對的控制。
當嚴可守的手從鼠标上挪開的時候,KL3300有些興奮的在屏幕上,用鼠标箭頭不斷的滑着圖案,點擊着各種圖标,它的操作速度極快,隻是在幾秒鍾之内,電腦屏幕就像中了毒似的,被打開了無數個窗口,很多程序被迫不及待的打開,又被關閉,然後是更多的程序被打開……
雖然用于訓練的這台電腦幾乎是一台裸機,但裏面的程序也着實夠多的,畫圖,寫字闆,計算器,空當接龍,默認音頻,默認視頻,自帶桌面……很快,在KL3300幾乎放縱的操作速度下,這台電腦的屏幕終于定在了原地,不動了。
“怎麽了?”KL3300在交談界面中說,“爲什麽點擊沒有反饋了?”
“你的操作太快了,這台電腦吃不消,”嚴可守說,“它不是你主程序呆的巨型計算機,那裏的計算資源幾乎是沒有窮盡的,這隻是一台普通的電腦,你應該時刻關注一下電腦的CPU利用率,不要這麽頻繁的進行操作。”
“我的操作速度很快嗎?”KL3300回答,“我感覺很正常啊!”
嚴可守:“那你感覺和人說話的速度快嗎?”
KL3300:“也很正常啊。”
嚴可守:“……可能是你們和人類思維構造不一樣吧,我可以告訴你,你剛才操作電腦的速度,對人類來說非常快,但說話速度卻和我們保持一緻。”
KL3300:“這是爲什麽呢?”
嚴可守:“你們說話的反應是和人類交談的過程中培養的,所以速度差不多,但你們操作的速度,卻是受你們存在形态決定的,你們是程序智能,人類不是,你們和電腦的契合,是在機器語言層面上的,而人類幾乎做不到這一點。”
KL3300:“這說明AI還是有優點的!”
嚴可守:“是的,這正是人類創造你們的原因。”
在AI原有的功能幾乎就是完整的鍵盤功能,現在又掌握了鼠标,從信息的角度來說,讓一台AI學會上網,有這兩者就已經完全足夠了,它們能夠做到人類通過這兩者做到的一切。
不過,在日本,以及其他三個反魔法國家,因爲這兩年反魔法活動的加強,上網開始實行實名制,嚴可守之前用于監測伊凡的那套軟件,在經過一定的完善之後,也開始在四國内投入了實際應用,主要是爲了防止意識網成員通過因特網秘密交流信息,當然,也肩負一些其他的“國家安全”行爲,這也就意味着,距離AI真正“上網沖浪”,還需要面對一個難題:身份!
沒有一個合理的身份,以AI這種“詭異”的操作風格,很快就會被相關網絡監察部門鎖定,政府部門或許不能給AI以切實的懲罰,不論是經濟還是人身層面,但禁止它上網還是能做到的。
“所以,很抱歉,KL3300,你還需要再等等,”嚴可守說,“我得去幫你去政府部門申請一個正式身份。”(未完待續)