小說王-台灣最大小說網 > 科幻靈異 > 魔武機神 > (第198章三大基本原則

(第198章三大基本原則

凱莉娅嚴肅的看着常劍鋒,問道:“你們拿到了系統人工智能會主動學習、升級的實質證據了嗎?”

常劍鋒搖了搖頭,答道:“沒有,陳飛隻是通過對虛拟戰場比賽中的各種異常迹象,推演出這種可能性。而且後來系統人工智能突破底層規則框架,攻擊大本營的行動也是一個很明顯的旁證。”

凱莉娅歎了一口氣,說道“如果沒有實質證據,是無法指控星空虛拟光腦網絡公司違反《星際基本法》,開發具有自動學習、升級、擁有情感的真人工智能。”

“這個《星際基本法》我也知道,裏面有三大基本原則:第一、任何國家和組織不能開發具有主動學習、升級、擁有情感模式的真人工智能,隻能開發在限定規則框架内,服務人類的半自動人工智能。第二、任何國家和組織不能利用克隆技術大規模制造人類,隻能利用克隆技術複制醫療用人體器官,以及複制少量克隆動物作爲科研之用。第三,任何國家和組織不能開展關于無限延長人類壽命的研究,隻能作有限度延長人類壽命的研究。”

常劍鋒嘲諷的笑道:“違反以上三大基本原則,星際議會将可以将違反三大基本原則的國家、組織判定爲全人類公敵。并在十大常任星際議員國全部授權下,組織跨國星際維和部隊進行軍事幹涉,直到這些行爲終止、并銷毀所有研究成果。我知道這三大基本原則的目的,其實是爲了人類在有限的星空範圍内,能夠發展得更加長久時間。可惜《星際基本法》的約束力不怎麽樣,各大勢力之間利益盤根錯節,十大常任星際議員又分屬三大軍事聯盟,最愛互相扯後腿。等到達成協議,同意派遣星際維和部隊的時候,人家早已經将研究成果轉移、銷毀。使得星際議會空有三大基本原則,也不能及時制裁這些瘋狂的國家和組織。”

“阿鋒,星際議會隻是第一次星際大戰後,爲了協調各國利益重新分配,避免再次發生大規模戰争而成立松散國際協作組織。它沒有自己的軍隊、沒有自己的經濟來源,運作全靠議會各國自覺上交的年費,它最大作用就是爲各超級大國提供了相互扯皮的平台,對星空中各大國家和組織的約束力當然有限。但是,三大基本原則是議會各國共同認定,對全人類在這這有限星空中生存發展三個最大威脅,而制定出來的自我約束的原則。所以如果真有國家、組織逾越三大原則這條紅線,确實就是全人類公敵,而且就算維和部隊還沒派出,周邊國家軍隊也可以被臨時授權就近鎮壓的。”凱莉娅對常劍鋒的說法給以一定的糾正。

常劍鋒冷笑道:“章程是這樣定了,但違反這三大基本原則就是負責授權的十大常任星際議員國,或者與其有盤根錯節關系的四大隐形帝國呢?!其實深入一想,這三大基本原則的懲罰機制,就是爲了維護這些人類社會中頂尖勢力利益,而制定出來的最好用的工具。當頂尖勢力違反了三大原則,可以利用十大常任星際議員國身份否決懲罰,甚至提早在消息擴散前銷毀所有證據。當有不按這些頂尖勢力辦事的國家、組織出現時,他們又可以無中生有污蔑這些國家、組織違反三大基本原則,予以讨伐懲戒。執行的規則本來就有漏洞,又叫人如何去心存敬畏地去遵守呢?!”

常劍鋒歇口氣,繼續說道:“比如這次虛拟戰場系統‘出錯’事件,雖然系統提供、運作是星空虛拟光腦網絡公司,但是超級中央光腦是米爾斯坦共和國自己提供的,米爾斯坦相關信息部門不可能沒發現一點異常的蛛絲馬迹。但是你看後來官方聲明是多麽漏洞百出、多麽敷衍愚民。而且善後處理手法是由星空虛拟光腦網絡公司提供所有經濟賠償,以最快速度平息事态發展、草草結束第二輪賽事,這不是已經說明這次系統‘出錯’有很大的疑問存在嗎?!”

凱莉娅目不轉睛地盯着常劍鋒激動的臉孔,冷不防問道:“阿鋒,你這麽激動是不是想起一些,與自己有關的不愉快經曆呢?”

凱莉娅這麽一問,常劍鋒原本激動的情緒好像突然被潑了盤冷水,一下子冷靜了下來。其實談起《星際基本法》的三大基本原則,是常劍鋒想起自己接受史密斯最終改造險死還生的經曆。後來常劍鋒從多個消息渠道去了解,才發現以基因技術改造人體能力的實驗,隻能在《星際基本法》嚴格規定範圍内進行的,隻是級别沒有三大基本原則那麽高。史密斯所用的基因藥劑和劑量,非常明顯已經超過了這個範圍很多很多。可以這麽說,對常劍鋒身體的最終改造,是遊走在星際通用法律邊緣的灰色地帶的行爲。每每想起自己當初非常有可能死在最終改造台上,常劍鋒都會不由自主的因爲恐懼而顫栗。

這些事情暫時還沒到時機向凱莉娅坦白,常劍鋒愣了一會,腦中轉過數個念頭,才說道:“我之所以這麽激動是有原因的,你設想一下果然真人工智能誕生,它将會成爲光腦網絡上神一般的存在,所有鏈接網絡的設備都将被它随意控制。如果這個人工智能成長爲健全人格的‘好人’還好,如果這個人工智能成長過程中性格扭曲了怎麽辦,他将會毀掉整個人類極其依賴的光腦信息網絡,使人類文明倒退幾百年。星空虛拟光腦網絡公司這是在玩火,一不小心可不隻是燒掉他們自己這麽簡單,而是毀掉全人類的信息文明。”

“再說如果有國家冒天下之大不韪,開發大批量克隆人技術,那麽短時間就可以成人的大量克隆人,将會與自然分娩出來的人類争奪生存資源,這不是他們願不願意的問題,而是生存本來就要耗費資源。要知道人類可以探索的星空已經擴張到了極限,所以生存資源相對也是有限的。還有一個關于道德方面的問題,如果克隆人被生産出來,是否應該賦予‘他’情感和智慧呢?如果不賦予克隆人就是擁有人類肉體的空殼,是不會自主行動的。但如果賦予‘他’情感與智慧,‘他’會不會突破三大原則,自己複制更多的自己呢?!”

“還有如果有國家、組織違反第三條原則,研究出無限延長人類壽命的技術。如果從探索無限寬廣的宇宙來說,是一件大好事,但問題現在人類被困在現在的星際空域已經數百年了,到現在都無法再突破出去哪怕一光年。無限延長人類壽命就可能造成人口大爆炸,到時膨脹的人口爲了生存會爆發争奪生産資源的星際戰争。雖然控制人口政策可以延緩大爆炸的到來,但是不能停止這個趨勢。除非全人類都接受絕育措施。但是一直由老人把持、沒有新鮮血液補充的人類社會,将會走向沒有任何活力、沒有創造力的沉默世界。”

“制定三大基本原則是非常正确的,但問題是執行出現了問題,這次海選賽第二輪系統‘出錯’事件,隻是顯露出危險冰山的小小一角而已,還有更多突破三大基本原則的事件,被藏在世人看不到的陰暗角落裏呢!三公主,你說我能不激動嗎?”

追書top10

熊學派的阿斯塔特 |

道詭異仙 |

靈境行者 |

苟在妖武亂世修仙 |

深海餘燼 |

亂世書 |

明克街13号 |

詭秘之主 |

誰讓他修仙的! |

宇宙職業選手

網友top10

苟在妖武亂世修仙 |

苟在高武疊被動 |

全民機車化:無敵從百萬增幅開始 |

我得給這世界上堂課 |

說好制作爛遊戲,泰坦隕落什麽鬼 |

亂世書 |

英靈召喚:隻有我知道的曆史 |

大明國師 |

參加戀綜,這個小鮮肉過分接地氣 |

這爛慫截教待不下去了

搜索top10

宇宙職業選手 |

苟在妖武亂世修仙 |

靈境行者 |

棄妃竟是王炸:偏執王爺傻眼倒追 |

光明壁壘 |

亂世書 |

明克街13号 |

這遊戲也太真實了 |

道詭異仙 |

大明國師

收藏top10

死靈法師隻想種樹 |

乘龍仙婿 |

參加戀綜,這個小鮮肉過分接地氣 |

當不成儒聖我就掀起變革 |

牧者密續 |

我得給這世界上堂課 |

從皇馬踢後腰開始 |

這個文明很強,就是科技樹有點歪 |

熊學派的阿斯塔特 |

重生的我沒有格局

完本top10

深空彼岸 |

終宋 |

我用閑書成聖人 |

術師手冊 |

天啓預報 |

重生大時代之1993 |

不科學禦獸 |

陳醫生,别慫! |

修仙就是這樣子的 |

美漫世界黎明軌迹