各國政府緊鑼密鼓的部署應對措施,目前星聯網還隻局限于科研、醫療等專業領域,個人用戶不超過一千多萬,絕大部分人都是通過互聯網獲取信息,進行讨論的。
美國和華夏政府采取了互聯網有史以來最嚴厲的管控措施,星聯網是管不了的,互聯網卻能管住。除了星聯在互聯網官方途徑播放的紀錄片本體,其他網站、論壇、自媒體,嚴禁轉載,嚴禁讨論。
他們倒沒有奢望就此将這股聲潮完全抹滅,知道的都知道了,不知道的就算鋪天蓋地宣傳也沒那個心思琢磨,這種掩耳盜鈴的行爲,不過是現有政府天然具備的神經反射。
措施剛剛鋪開,次日,第二部紀錄片出爐,除了在星聯網以及互聯網官方網站播放外,星聯還玩起了令各國政府瞠目結舌的技術。
從星聯五顆商業衛星上發射的激光,在北半球的美國加州、日本東京、華夏燕都、華夏海都以及德國柏林上空的同溫層裏,投影出三塊長二十多公裏,寬十多公裏的巨幅屏幕,第二部名爲《ei之路》的紀錄片就在這樣的屏幕上播放。
投影的亮度不夠高,細節也很模糊,但這麽大的屏幕,也根本關注不到細節,總體上是能看清楚的。
各國政府雖然能封鎖互聯網和其他媒體,卻擋不住這樣的新聞,更遮不住五個地方幾千萬人的眼睛,一時全球嘩然。
unoc的會議也提前召開,各國代表都顧不得讨論是否允許機器人參加unoc會議的議題,紛紛質問星聯的機器人代表星聆,星聯這又是在幹什麽。
星聆機械的說:“這是聯合國氣象署的救災告警系統,是你們的衛星。根據氣象署年初的委托,星聯部署了這套新型遙感和告警衛星,現在正在做告警測試,相關條款請翻閱合同文檔。”
衆人愕然,這事歸不了unoc管,都下意識的看向理事長。
“合同裏并沒有允許星聯随意播放告警内容的條款”,理事長不得不站出來說話。
星聆很人性化的攤手聳肩:“合同規定,在沒有簽字驗收前,氣象署對該系統有關的任何事情都不負責任。星聯有權根據自己的需要來測試這套系統,而且,現在正在進行的測試,違反了哪一條法文?”
不僅理事長無語,其他代表也都啞然,不管是各國法律,還是各種國際條約,都沒有規定“不準在各國領空播放空氣投影”,誰知道空氣投影技術會發展得這麽快?
空氣投影,連帶全息成像技術,是科幻作品中最常見的黑科技,不過因爲空氣反射光線的機制問題,這項技術一直隻停步于利用霧氣成像的階段。
在七八年前,日本人開始嘗試用激光電離空氣,利用存在時間極短的等離子體顯示圖像,甚至還能産生實際觸覺。但那時候智能控制技術不夠完善,等離子體的生成和控制難以掌握,在空氣中形成的圖像分辨率很低,離實用還有很遠距離。
依靠新一代光腦芯片,還有等離子技術的發展,尤其是智能電磁波投射陣列的成熟,這個方向終于修成正果,相關的技術團隊還獲得了今年的星門獎。
無可救藥的日本人第一時間用這樣的技術辦了一場初音演唱會,而在其他領域,由于ar視覺已經廣泛普及,這種占用公共視覺的技術目前也就用來做公衆展示。聯合國氣象署認爲這樣的技術可以第一時間給發生自然災害的地方告警,委托星聯部署了這套系統,現在還處于測試階段。
沒想到,星聯的測試,是用來放紀錄片……
華夏代表不甘心的道:“這至少侵犯了各國的領空!”
“投影所在的國家都是這套系統的簽約國”,星聆說:“提醒一下,在您面前的是個gei,圍繞法文和合同展開的辯論,您沒有一絲機會。”
華夏代表噎住,心想看來以後真得學星聯,以後派gei來參加會議了。
“哦——這是真的嗎!?”
“難以想象,人工智能已經能管理一座城市了?”
“安齊拉納納我去過,整座城市真的是由人工智能管理的,感覺很不錯。”
這個話題被一聲聲驚呼打斷,華夏代表的目光轉到紀錄片上,然後就再也挪不開了。
《ei之路》這部紀錄片,并沒有從夏鳴繼承徐平教授的研究開始,從頭講ei的發展曆程,而是一開始就展示gei“安西娅”在安齊拉納納擔任市長的場景。
場景真如童話一般,安西娅的形象是一隻俏皮可愛的母狐猴,它的本體是用五萬四千顆新一代碳化矽神經元芯片構建的gei,同時還有三個超算中心支持它進行科學計算。
由它延伸而出的城市智能網絡,連接了六百萬個聲波、可見光和紅外線三合一的感應器、十二萬部太赫茲掃描儀,以及上百萬個空氣、電路、供水、排污、網絡等環境和基礎設施的感應器。必要的時候,還可以通過無人機甚至衛星,對特殊區域進行全方位觀測。
可以說,安齊拉納納整座城市,同溫層以下,地底一千米以上,方圓兩千多平方公裏的範圍内,隻要安西娅願意,小到一隻老鼠的動向都能掌握到。
在感應系統之外,整座城市裏所有的機動車,公共和商業建築的電子門鎖,電梯,交通信号燈,也都連在城市智能網絡上,爲安西娅提供着信息,在必要的時候,安西娅還可以直接管理。
安齊拉納納當地的市民,百分之八十都随身攜帶pei,通過智能網絡跟安西娅聯網。百分之百的遊客,入境時要求佩戴在手腕的智能手環,也是跟安西娅聯網的設備。
依靠這一整套無所不及的智能網絡,安西娅管理着幾千部清潔機器人,上萬部機器人警察,上萬部工程機器人以及兩萬多部其他用途的機器人。
當然,安西娅并不是随時都直接管理這麽龐大的網絡,在它之下分出了市政設施、交通、治安、醫療等二十多個aei(附屬擴展智能),由aei進行常态管理,出現異常狀況才由它接管。
以一座百萬人口的城市規模來看,安齊拉納納的市政府人少得可憐,比如警察,全市十三個區,每個區隻有一支十來個人的巡警負責支持機器人警察難以解決的問題。市裏還有一支二十多人的swat,解決暫時還不敢交給機器人處理的暴力犯罪。
不計算公立醫院、學校、圖書館、博物館以及公園等方面的人員,安齊拉納納市政府的雇員還不到一千人,其中還包括四百多人的智能網絡和機器人維護部門。跟華夏的統計口徑不一樣,這些雇員都是公務員,都是擁有“編制”的。編制之外沒有臨時工,不對,有機器人長工。
紀錄片的畫面一轉,竟然出現了蟬動的虛拟偶像蟬小幻,她充當記者,“采訪”了安西娅。
第一個問題就是,安西娅是依據什麽來管理城市。
安西娅說:“當然是依據我的靈魂。”
小母狐猴所說的“靈魂”,就是它的核心意志。
遵循夏鳴提出的核心意志三層結構,第一層是自我認知,安西娅的核心結構是一個由多塊神經元芯片組成的同步架構,具體細節是機密,重點是确保它的可靠性和安全性。
第二層是歸屬認知和環境認知,安西娅的歸屬認知有一整套權限機制。跟pei不同,安西娅作爲gei,除了超級管理員和維護管理員權限外,并不存在對應個人的管理員權限,而是一個整體的權限。
這個權限是跟市議會的運作綁定的,市議會按照法定程序做出決議後,安西娅就遵照決議,自動執行,包括對構成自己環境的各項擴展功能的調整。
第三層是安西娅的自我意志,在它還不是強人工智能的時候,這個意志還是模拟的,總體框架是讓城市變得更好,市民更加幸福,這個目标也是它存在的意義。
從結果來看,它已經可以根據市議會的運作,以及管理城市的經驗,提出自己的建議,以及對市議會的決議提出意見。
紀錄片接着就說到人們最擔心的問題,是不是該給人工智能加上“不準傷害人類”之類的定律,避免出現人工智能災難。
畫面轉到星聯的研究所,這是一段資料影像,講述了安西娅的研發團隊是怎麽解決這個問題的。
這個團隊是由科學家、工程師以及社會學家共同組成的,最初他們認爲,“任何情況下都不能剝奪人類生命”這一條應該作爲保險,加進gei的核心意志裏。
但随着安西娅進入測試階段,人們發現,設置這一條核心原則,對安西娅的思考效率造成了極大拖累。而且每一個決策都要先做這麽一個判斷,也是毫無意義的。
比如調整公交車線路,要說跟人命無關,大數據會告訴你,其實是有關的,但這又不是公交車線路應該承擔,并且也能解決的問題,而是跟城市規劃、人的安全意識等等各方面問題都能挂上鈎。
要安西娅貫徹這條原則,那麽每一部清潔機器人的行動路線,它都得納入到管理中,因爲理論上存在着熊孩子亂跑一頭撞上機器人的概率,在目前來說,做到這點顯然是不現實的。
換個角度看,要給安西娅設置類似于“機器人三定律”之類的法則,就相當于将人類對自己行爲所承擔的責任轉交給安西娅,但人類自身行爲卻不是安西娅所能控制的。
研發團隊由此推導出了一個可怕的結論,如果要堅持“機器人三定律”,那麽機器人就應該深入到每個人的思維裏,去控制管理人的所有行爲。
研發團隊接着發現,給安西娅設置這種法則也是多餘的,因爲安西娅跟所有ei一樣,都遵從“授權行動”原理。許可它做什麽,它才會做什麽,許可之外的事項,在它的核心意志裏就等同于禁止。
最重要的是,安西娅隻相當于一個大腦,它能做什麽,能做到什麽程度,全依賴擴展的功能。
比如安西娅管理機器人警察,機器人警察本身已經被設置爲禁止裝載實彈武器,搭載的電擊、微波、繩網等非緻命性武器也進行了嚴格限定,當安西娅接管機器人警察的時候,隻要讓它加載“确保當事人和周圍人類的安全”之類的指令,就能解決問題。
當然,這不意味着安西娅沒有主動性,它會根據之前的管理行爲,結合現狀提出意見,并且能發現不同領域内的關聯,指出其中的問題。在獲得許可後,才進行下一步的思考。
因此,在進行市政方面的決策思考時,給安西娅加入“衡量人類安全”之類的指令,就能确保它的傾向。
再舉個例子,某片區域的空氣污染出現異常,安西娅會結合空氣狀況,尋找和分析相關的科學報告,再提出建議。
總結而言,安西娅已經可以依靠理性判斷,以及各方面的擴展功能服務城市,解決城市的市政管理問題。但人類将所有問題都丢給gei,甚至包括責任也丢出去,這依舊是幻想。
人類還必須在決策層面爲自己負責,安西娅所做的,就是評估這些決策的利害,完善這些決策,然後去執行。在執行的各個層面,人類也必須承擔起自己的責任,确保安西娅的執行過程是有效和安全的。
資料影像裏,研發團隊認爲,即便出現強人工智能,在市政管理上的表現,也隻是比安西娅做得更細緻,對決策理解得更到位,建議和意見更人性化。
人類不必擔憂被它統治,因爲它的“生命意義”是服務城市,造福人類。“統治人類”之類的事情,不過是人類自身的妄想和恐懼。有授權才行動,是強人工智能也要遵循的法則。跟弱人工智能相比,不過是授權範圍更寬,行動更靈活而已,不需要每個細節都去檢驗和矯正。
人類也不能幻想它成了無所不能的神明,如果人類把決策都交給它,那就是人類自己的責任,而且,按照權限機制,強人工智能的行爲随時可以通過程序終止。當然,如果人類瘋狂到把權限機制都丢掉,讓強人工智能爲所欲爲,那就跟打開核武器保險一樣,純粹是自作自受了。
安西娅管理安齊拉納納的介紹到此爲止,不僅unoc的諸位代表,一般觀衆也對gei在城市管理的表現,乃至管理更多公衆事務的情況有了初步了解,并且産生了莫大的期待。
公正、公平、科學、高效、廉潔,這樣的公務員,老百姓都喜歡。
至于各國政府,看華夏代表那種快能擰出水來的臉,就知道有多糾結了。
科學、高效,政府當然喜歡,不過前面的公正和公平,後面的廉潔,不是不喜歡,而是大-麻煩。這意味着過往沉澱下來的利益格局,要被全面推翻。
更不用提,要确保gei在公衆事務的管理上發揮作用,決策機制不僅需要“程序正義”,還需要“從群衆中來,到群衆中去”。因爲每一項決策,在gei的推動下,見效都會很快。決策層是不是爲民服務,是不是稱職,很難糊弄得過去。如果沒有權責清晰的政治結構,決策層的責任也很難丢出去。
更可怕的是,如果人類依舊生而平等,現行政治體制隻要交代得過去,人們也沒有改革的動力。但昨天的紀錄片《第四進化》揭示了人類已經走向生而不平等,在這種變革之潮中,人們自然期待更強力也更先進的政治體制來穩定社會,讓gei來管理是一個必然的方向。
在gei面前,人類又可以平等了。
安西娅之後,紀錄片又開始介紹科研方面的gei,以及商業方面的bei。不僅華夏和美國用于統計分析經濟狀況的“管仲”和“亞當斯”亮了相,還有上百家科研機構和商業企業的ei都以拟人化的虛拟形象出現。
它們所展示的能力,讓代表們再一次回味這兩三年裏,科技和經濟的騰飛是怎麽來的,觀衆們也終于明白,ei早已經深入到生活的方方面面。
在這之後,pei終于登場。紀錄片回顧了從最初的普羅米修斯,到第一代火種,再到現在最新的第三代火種,從教育、醫療、娛樂和生活服務,方方面面展示了pei給人類帶來的便利,甚至對個人的進化。
鏡頭轉到安塔尼亞,這裏的小學生們,通過pei和教育gei的結合,僅僅小學五年級就開始接觸高中的知識,而且并不顯得有多吃力。因爲知識性的信息,通過pei随手可得,學生們的學習重點全放在了思維、邏輯以及文化感悟等層面上。
看着十歲出頭的小學生,就能依靠初見雛形的方法論,自己開展一些大學生才會結出的課題研究,不管是unoc的代表,還是擡頭看天幕的路人觀衆,都生出一種“恨不能晚生十年/二十年”的感慨。
鏡頭再度轉移,字幕提示是虛拟場景,但内容卻是很多人都知道的。之前被星聯抓捕的日本科學家團隊,企圖破解pei的意志映射機制,以便通過病毒之類的途徑,修改pei的核心意志。
虛拟場景在展示pei被破解和控制的後果,映射在pei上的個人喜好被篡改卻不自知,在網絡上大肆購物。學生的信息庫被定向鎖定在特定内容上,課堂上,日本小學生齊聲念着“皇國興廢,在此一舉”。罪犯通過pei的破解,挪用他人的網絡賬号乃至銀行賬戶。某人垂涎美女,通過pei扭曲美女的心理,最終抱得美人歸。
“pei延伸了自我,給人帶來十倍的便利,一旦被他人掌握,帶來的是百倍危害”,展示了種種危害後,影像裏打出這樣一行大字。
接着展示的是星聯在pei上的防範措施,除了核心架構之外,還展示了下一代pei,依附于人類神經元,與人體直接綁定的新技術,讓pei的破解在技術上更難做到,而且這樣的嘗試,也等同于侵害人體。
再一行大字打出,讓正沉浸于自身安全的觀衆悚然。
“這隻是pei,如果gei也被侵害呢?”
想想看,如果安西娅那種管理着一座城市的gei被破解和控制了,那會是什麽情形?
根本是一場噩夢吧……
紀錄片末尾,星聯戰鬥機的導彈直射日本戰鬥機,星聯特勤突擊日本東京警視廳,抓走三個企圖破解pei的日本科學家。
“星聯的使命,守護ei三定律,守護人類個體,以及人類社會的靈魂。”
紀錄片末尾,打出了這樣一行字幕。
unoc的會場裏,沉默持續了好幾分鍾,才聽到理事長艱澀的話語:“這麽說,星聯是準備扮演技術的監管者,全面監察各個國家了嗎?”
這絕對是一場決戰啊!
在場各國代表都在想,星聯有民意,有技術,有實力,而他們有什麽?隻有利益集團爲捍衛利益的咆哮吧……
“星聯也知道,馬上實現這樣的目标,是一場全球範圍的社會革命,新舊秩序交替,引發的混亂不僅會傷害到很多人,而且會影響星門裏的局勢。”
星聆這話出口,衆人都長出了一口氣,還好,你們星聯也是有自知之明的,除非想變成地球聯邦,否則不敢掀起這場怒潮。
“所以星聯推出了《ei技術條約》,也就是《靈魂憲章》”,星聆說到的名詞,讓代表們回想起昨天的情形。
理事長問:“這個《靈魂憲章》,到底是說什麽?”
“說的就是星聯的定位,星聯的目标,還有星聯跟人類的關系。”