“丹尼,此刻你在想什麽呢?會不會爲那場對話感到後悔?”
矽谷某處公寓的客廳裏,正在看ijcai現場直播的馬斯克問哈薩比斯。
馬斯克神色複雜地說:“看,從今天起,誰再說ai,别人都會問‘你是說ei,還是說那種跟人平起平坐,我們不知道該怎麽看待它們的ai?’,夏隻是改了一個字母,就統治了這個領域的話語權。”
“我後悔的是,或許那時候該認真跟他讨論一下deep迷nd的收購問題……”
哈薩比斯苦笑着說:“我相信,他現在這些見解,包括神經元芯片和人工智能編程體系,有不少靈感來自于和我的對話,而ei這個概念,也是我們後半截對話的焦點。”
“我怎麽也想不到,他是認真的!他的所有努力,都是爲了防範他預想那些最壞的結局,他……”
哈薩比斯感慨道:“他才是真正的科學家,有信仰的科學家。”
“或許吧,不過這裏有個問題”,馬斯克說:“也是最關鍵的問題,如何确保夏所說的ei,就是人類智慧的擴展?”
正說到這,屏幕上,夏鳴不在意“ei”這個概念是否馬上得到認同,繼續抛出問題:“大家會問,要如何确保ei是人類意志的延伸呢?不解決這個問題,ei不還是以前的ai嗎?”
“夏不是演說家”,哈薩比斯笑笑,馬斯克尴尬地摸摸鼻子。但這尴尬也馬上消散了,和哈薩比斯一樣,他也全神貫注地等待夏鳴的後文。
“我們無法徹底解決這個問題,但我們可以從技術上無限趨近答案,并且讓偏差隻限于我們人類這個集裏。也就是ei永遠隻能趨近于人類意志,而不完全等于人類意志。同時。ei也不可能跳出,或者超出于人類意志。”
“基于這一點,我們提出了‘意志映射’(vm)這個概念。”
“隻要我們在技術上,确保ei的意志完整地、純粹地來自于人類,讓ei成爲人類意志的映射,讓這個方向驅動ei的智能研究,ei就一直是ei!”
現場更沉寂了,不是冷場,而是思考。
馬斯克咬着嘴唇嘀咕道:“我有種感覺……”
哈薩比斯咬着手指甲。這是他的怪癖:“定律!需要定律!”
“爲此我們提出了一套規則,希望用它來規範ei的研究和應用。這套規則還很粗糙,但我認爲,對這些規則的每一處忽略和删減,都将動搖我們将ai變爲ei的根基,進而模糊技術造福人類的終極目的。”
夏鳴頓了頓,目光掃了會場一圈,再道:“這就是ei三定律!”
“第一。所有ei都必須有明确的映射主體,隐藏二者的關系必定抱有不可告人的目的。”
“第二。ei的完整性和私密性不容侵犯,不允許進行任何非法的窺探、破壞和修改。”
“第三,ei與主體的映射關系,不允許進行任何非法的破壞、蒙蔽和扭曲。”
夏鳴這個ei三定律丢出來後,現場繼續沉寂,絕大多數人都在沉思。
“個人的ei。還有組織的ei,夏考慮得很周全”,哈薩比斯點頭說。
馬斯克搓着手指:“我都迫不及待地想召開公司會議了,映射!夏指出了ai,好吧。ei的新方向,就是把人的意志灌輸到機器上!不管是個人意志,還是組織意志,都必須緊緊地綁在一起,這是推翻現有的商業模式,是一場商業革命!誰跑在前面最就赢了!”
然後他皺起了眉頭:“不過組織的ei這邊,商業用途還好說,公共用途的映射主體就是政府,政府要怎麽調整?”
“這不隻是商業革命,還是社會革命”,哈薩比斯聳肩:“要頭痛的是各國政府,學術界對ai的認識統一到了ei後,它就成了社會共識,ei三定律的意義就相當于阿西莫夫的機器人三定律變成現實。這是人類文明的進步,政府如果頭腦清醒,就必須服從這樣的共識。”
舊金山的上午是燕都的深夜,但多所大學的階梯教室、禮堂、影院裏卻依舊光亮大作,師生們擠得滿滿的,都在看ijcai的現場直播。
燕都理工大學的大禮堂裏,浸淫計算機幾十年,現在也在從事人工智能研究的老教授聽到ei三定律後,摘下眼鏡,欣慰地說:“人工智能的倫理問題終于解決了。”
旁邊那個洋溢着青春氣息的馬尾少女問:“羅教授,我還是不太明白,這個ei三定律到底有什麽意義?”
周圍的學生們也都紛紛發問,羅教授擦着眼鏡,笑道:“你們啊,學東西的時候也要順帶想想,學到的知識和技術跟我們人類是什麽關系。”
“我們對人工智能的恐懼,跟對核武器或者其他生物、能源技術的恐懼是完全不同的,因爲人工智能的發展,必然會叩問人類的自主意識這扇大門。”
“小夏和哈薩比斯不認同人工智能會産生自主意識,這是基于現有技術所做的判定,如果未來我們走生物計算機的路線,發展出了強人工智能呢?所以也不能完全否定人工智能對人類的威脅。”
“再加上小夏的憂慮,也就是人工智能讓人類社會變得更加不平等,總之,人類到底該怎麽看待人工智能,這個問題始終沒有明确的答案。”
“說人工智能隻是工具吧,可它在機制上具備擁有自主意識的要素,未來可能會成爲獨立的個體。那麽平等對待它們呢?非我族類,其心必異,更何況是一種認知和理解世界完全不同于我們的新生命。”
“小夏的ei三定律在倫理層面上回答了這個問題,具體的技術細節你們不必追究。大緻的意思是,就像我們人,不是無緣無故來到這個世界上的,我們有父母,我們有自己的人生意義。那麽ei呢,三定律說的就是,ei也必須有明确的,倫理上的父母,它存在的意義是與它的映射主體共同成長,共同面對這個世界。”
“ei三定律,确定了人工智能在人類社會的地位,ei就是人的附屬。就算它有了自主意識,它依舊被容納在人類社會的體系裏。”
“人的附屬?”那個少女眼睛滴溜溜轉着:“聽起來像貓啊狗啊什麽的。”
“地位上也許是,但意義卻完全不一樣”,羅教授呵呵笑道。
另一個男學生卻不太接受這個觀點:“這個三定律的重點不是在ei作爲人類意志的延伸上嗎?它是沒有自主意識的。我如果有ei的話,它完全就是我的擴展,我想什麽它就想什麽,關于有自主意識的那部分人工智能,不是不在小夏的讨論範圍内嗎?”
一個年青老師說:“第一,ei必須有主人;第二,ei不受非法侵害;第三,ei和主人的從屬關系不受非法侵害。”
他笑道:“你看,小夏這個三定律,其實已經把有自主意識的人工智能也覆蓋到了。”
羅教授點頭:“是啊,他畢竟是在ijcai上發表演說,有自主意識的強人工智能還太飄渺,那不是嚴謹學術應該去探讨的領域,所以他把範圍聚焦在弱人工智能上。”
羅教授喟歎道:“你們啊,生在這個時代是非常幸福的,技術成熟了,倫理問題也解決了,人工智能時代的到來已經不可阻擋。”
年青老師說:“教授您還不老,咱們還得指望您領路呢,硬件軟件都有了,咱們今年就能解決好幾個課題!”
“我老喽,小夏,還有那個林澄,才二十來歲,我還得跟着他們走呢,不過……希望能多走幾年吧”,羅教授戴上眼鏡,即便是鏡片也擋不住興奮和希翼的光彩。
香山腳下,那片新矗立起來的建築裏,也有一座像是電影院的建築還燈火通明。
上千人把大廳擠得滿滿當當的,研究所裏男女老幼,從科學家到清潔工都到了,掌聲已經響過了幾輪,小歡的巴掌心都拍紅了。
“其實我沒怎麽聽懂呢”,李迪羅撓着頭,依舊一臉迷茫。
“要是人工智能害人呢?這事怎麽算?”他問旁邊的武思豪。
“你笨啊!”小歡舉起扇子,啪的一下敲上李迪羅的腦袋。
“嗷……幹嘛打我!?”李迪羅叫着痛:”你手頭還挺準呢!”
小歡把扇子丢給李迪羅:“是它打的你,不是我。”
李迪羅撈着扇子,想說小姑奶奶你夠萌了,不要再裝六歲小孩的萌好不好,忽然腦子一個激靈。
“明白了吧”,武思豪充當解說:“三定律的第一條是什麽?ei必然屬于一個人,它做了什麽,責任都在那個人身上啊!”
“明白了”,李迪羅指着那把扇子耍寶:“我要控告你的主人小歡故意傷害,導緻我的智商下降5點!”
小歡咯咯笑道:“我是阿鳴的ei,你去找阿鳴索賠!”
正說着,屏幕上,會場終于響起了掌聲,而且是站起身來,熱烈鼓掌,小歡也起身鼓掌,帶動了整個影院的人都跟着站起來,屏幕和影院的掌聲似乎穿透了空間,混在了一起。
感謝大家一直以來的支持,這次起-點515粉絲節的作家榮耀堂和作品總選舉,希望都能支持一把。另外粉絲節還有些紅包禮包的,領一領,把訂閱繼續下去!
ps: 下午還有一更
...