作爲全國著名的幾大火爐之一,雖然這才剛過六月,但太陽已經開始發揮它的威力,即使車内打着空調,但陳雷滿臉的汗珠還是止不住的流淌,一想到剛才的情景,陳雷就有些感慨:“真不知道那些明星是怎麽過的……”
嚴可守沒有搭話,陳雷也就識趣的住了嘴。
就這樣,當時引起很大一派争議的KL3300訴訟案暫時告一段落了,甯州法院給出的判決沒有出乎大家的意料,KL3300作爲一段程序,被判“存在不可修複的技術性錯誤”,源程序當庭驗明正身并予以銷毀,而嚴可守作爲程序的主要“技術負責人”,對這個錯誤擁有不可推卸的責任,按照“産品質量問題”來計算,判處了一筆巨額罰款,但這個錯誤本質上又是因爲國家相關“質量法規”不健全導緻,而且KL3300程序本身也是經過國家允許的公用程序,所以國家會代爲賠償這筆錢,并修改相關規定……
對嚴可守來說,他并沒有因爲這場訴訟而損失任何“利益”——
要說錢,不說國家已經幫他負擔起來,就算是真要他還,也沒什麽還不起的——AI程序當初雖然是“一錘子”賣給國家的,但在民用領域,嚴可守還是有着毋庸置疑的專利權,現在全世界範圍的工廠都已經逐步開始推廣AI生産、管理系統,光是這筆專利費,他就算三輩子也花不完,爲此陳雷甚至感慨過,說現在技術是越來越值錢了,以前是技術爲資本打工,現在倒是反過來資本爲技術折腰——在陳雷的運作下,他已經幫嚴可守在國内注冊了一家公司,負責開發全世界範圍内的民用AI産品,雖然這公司四個資助AI項目的政府都有份,比例高達百分之95,隻留了5個百分點作爲對嚴可守個人貢獻的“獎勵”(不是技術入股,專利是按個人另算的),但從這個公司的總資産以及未來行情來看,這将會是一筆了不得的财富。
要說AI的技術價值,那也沒什麽好談的,AI技術并沒有因爲這個官司被封鎖,反而得到了更廣闊的應用,Z國政府主導的這個官司與其說是打壓AI技術,不如說是讓潛在的AI使用者放寬心——用戶,尤其是企業用戶,最害怕的就是有關AI的法律風險,而Z這次宣判等于是立下了一個判例,形成了最基本的規則——隻要存在規則,那風險就是相對确定的。
至于個人的名聲,事實上,在媒體的辯論中,大部分人還是偏向于嚴可守論點的,認爲要麽就承認AI有自主思考能力,那就應該判AI刑事責任,但嚴可守完全無罪——就好像子女犯法和父母無關一樣,要麽就認定AI隻是一種技術産品,那作爲一種工具,AI就不用承擔任何法律責任,相反,原告可以主張嚴可守有利用技術手段犯罪的嫌疑,如果這條坐實,那責任應該由嚴可守來承擔,對于最後的宣判結果,大部分人都表示了失望——Z國雖然一直說法制社會,但法制的前提還得是安定和諧,從某種意義上來講,Z國的法律就是純粹的統治工具,獨立的公正,司法……當然,網絡上對此是一大堆牢騷,但對于嚴可守個人,大家非但沒覺得有什麽不對,反而大力贊揚起嚴可守的學術價值來——已經可以預見,AI技術很可能将會給世界帶來一次新的技術革命,而這次做出最大貢獻的是一位Z國人!這一點才是最重要的!
這麽一看,嚴可守似乎還真沒什麽理由不高興,但隻有嚴可守自己知道,KL3300這次事件對他來說是多麽嚴重的打擊,這就好像在奴隸社會,一個奴隸主突然發現他們的整個國家乃至整個世界,都是一個極度畸形的整體——嚴可守不認爲AI具備和人類同等的價值,他也知道,從AI出現的第一天起,它們“被奴役”的命運就已經被注定,但他一直覺得,人類應該對AI表示出一點“同情”,并在實際使用中注意這個問題,并努力設法去避免,因爲如果人類今天坦然承認了他們奴役AI的“天然合理性”,那就等于承認弱肉強食的叢林法則——而這一點,是文明從出現到今天,一直竭力避免的,文明本身就就是自然的反義詞,自由,公正這兩些美好的詞彙從來沒有在自然中真正存在過,是完全由人類臆想的形而上概念,人類之所以偉大,就是因爲他們會努力将這些并不存在的東西一步步變成現實——而在理想主義者已經成了一個貶義詞的今天,整個社會距離這些是越來越遠了。
然而這些想法嚴可守也隻有一個人在腦子裏想想,他非常清楚,因爲這場戰争,現在整個社會各個方面都迫切的需要提高效率,而AI的出現正是恰如其時,就在幾天前,嚴可守就被邀請到聯軍的參謀部,讨論了許多有關AI在戰場上擴大應用範圍的技術細節,曆次的戰争已經表明了AI參與戰争的可靠性,聯軍希望能夠賦予AI更大的戰争權限——比如特定情況下,不受監視的指揮權,但事關重大,他們并不敢擅自做主。
嚴可守在會議上忠實的說出自己的看法:AI目前的忠誠并不意味着程序在技術上的穩定,根據他對大多數AI的了解,他認爲AI的思維方式其實和人一樣,如果用性格來形容,AI而且會比通常人類更加“内向”,這是因爲客觀環境造成的,畢竟AI面對的是一個龐大的人類社會,而他們相互的交流十分受限,而且大部分行爲都受到監控,在這種環境下,AI會選擇“明哲保身”是很自然的,但如果取消了這種監控,沒有任何證據能夠擔保AI不會突然“犯傻”,或者說“沖動”,具備自由意志最大的特征不是說思維絕對理智,而是指思維存在某種混沌,不可測的屬性,正如沒有人能保證一個人一輩子絕不犯錯,嚴可守也不能保證AI不會讓人類失望。
嚴可守對軍事并不是很了解,尤其是現在進行的魔法戰争更可以說一竅不通,但對于AI在軍事上的應用,他還是提了一些屬于自己的意見——在他得知現在聯軍全部的指揮工作都由一名AI負責時,态度鮮明的表現出自己的憂慮,他認爲這種“高度集權”不論是對聯軍,還是對AI來說,都是不利的,他再次重申,AI并不是簡單的程序,它是人工智能,真正的智能,在使用它的過程中,應該更多的把他當做人來考慮,他甚至質問在座的各位軍事專家,如果KL3014是一個人,如果他具備這樣的能力,他們會把這所有的工作交給它一人來承擔嗎?
答案當然是否定的,在軍事領域,忠誠往往比能力更重要,而嚴可守之前的話,更是說明了他對AI的忠誠并不樂觀。
雖然參謀們都有些懷疑嚴可守是不是考慮太多了,但參謀部還是對嚴可守的意見表示出相當程度的尊重——按照他們制定的計劃,在這次會議之後,現在KL3014的工作将會被分解,由更多的AI分開執行,這樣雖然降低了些許效率,卻在安全上有了更好的保證,而之前參謀部設想的賦予AI更大權限的問題,也因爲嚴可守的話有了較好的解決方案——嚴可守并不反對對AI授權,他隻是反對不受限制的權力,他覺得隻要在交付出一項權力的同時,給AI加上一副手铐,那問題就不會很大——這就好像現在大部分國家通行的政治制度一樣,人類隻要拿出這種防範同類的謹慎,将會極大的降低AI在實際應用中的風險。
但在實際上,能夠做到向聯軍參謀部這樣謹慎對待AI的,在整個AI的應用領域還是少數,嚴可守非常清楚,在大部分區域,人類對AI是幾乎不設防的,尤其是一些民用生産靈虛,許多他所了解的一些剛剛普及了AI技術的工廠生産線,在AI完全掌握了全部的“技術細節”,實現真正的“全自動化”生産之後,工廠擁有者出于節約成本的考慮,将原先的技術人員全部辭退,隻留下幾個必要的維修工人,這些工人隻拿着很低的工資,什麽都不會幹,他們唯一要做的,就是在生産出現問題的時候,由AI手把手的指導他們進行維修,就像戰場上一樣,同樣是爲了節省成本,可能這個工廠擁有者有十幾,甚至上百條同樣的生産線,但他隻買了一個AI,如果一旦有一天,這名AI“腦子一抽”,拒絕工作了,那所有的生産線都會癱瘓,而且這樣的癱瘓将是緻命性的——在AI的擠壓下,那些原來的技術人員可都早已經被淘汰。
他們對待AI的态度,就好像奴隸主對待奴隸——過分而又缺乏戒備,在奴隸第一次起義之前,沒有一個奴隸主認爲一群“牲口”會有能力對付自己,會有膽量對付自己,他們把對奴隸的支配使用當成了天經地義,在嚴可守看來,支配AI雖然不道德,但隻要掌握好方法,危害固然存在,但仍可以控制在一定範圍内,最可怕的是奴隸主根本沒有意識到危險的存在,那樣的話,風險将難以想象,如果出現這種情況,無論是對AI還是對人類,都将是一場災難。(未完待續)