首頁 > 文章 > 思潮 > 思潮碰撞

馮象|誰害怕人工智能?

馮象 · 2019-06-17 · 來源:保馬公眾號
收藏( 評論( 字體: / /
人工智能給人類帶來的三個挑戰:個人隱私的逐漸消亡、法律制度的硬規則化以及生活習慣和生命意義的深刻改變。人類與人工智能間的關系歸根到底取決于人與人之間的關系,人工智能既有可能成為少數人聚斂財富和社會權力的工具,進而導致徹底知識產權化的暴政,也有可能隨著數據國有化以及黨和政府堅持為人民服務,最終使我們得以展望共產主義的前景。

  保馬編者按:

  人工智能的迅猛發展使人類社會走到一個十字路口,除了“機器換人”和人工智能的軍事化,馮象老師還指出人工智能給人類帶來的三個挑戰:個人隱私的逐漸消亡、法律制度的硬規則化以及生活習慣和生命意義的深刻改變。人類與人工智能間的關系歸根到底取決于人與人之間的關系,人工智能既有可能成為少數人聚斂財富和社會權力的工具,進而導致徹底知識產權化的暴政,也有可能隨著數據國有化以及黨和政府堅持為人民服務,最終使我們得以展望共產主義的前景。

  本文為馮象老師在第132期文匯講堂暨華東師范大學第五屆思勉人文思想節上所做的演講,感謝馮象老師授權。

誰害怕人工智能?

——人工智能帶來的三個挑戰

馮象

  人工智能帶來了一些非常嚴峻且不可避免的挑戰。從人機關系的視角看,主要包括兩項巨大的挑戰,一是機器替換人類,導致一波接一波的失業浪潮。2018年已經見證了第一波失業浪潮,這背后就是人工智能帶來的革新。二是人工智能的軍事化,這也是已經發生的事件。用美國科幻文學的口號來說,未來已經來到,未來并不是將來概念,我們就生活在未來當中,包括智能武器在利比亞內戰中的大量使用。可見,人類的苦難已經與機器智能密切關聯并深受其影響。

  作為一名法學家,今天我想從法律的角度談談人工智能帶來的挑戰。

  挑戰之一:個人隱私的逐漸消亡

  人工智能帶來的首要挑戰是個人隱私信息的消亡。在傳統社會,隱私之所以被稱為“私”,是因為它可以“隱”。這一中文詞將其特點詮釋得非常完美。英文“privacy”雖然也與“私”有關,它的詞根來源于拉丁語,但加上中文的“隱”就更加生動了。

  當前社會已經普遍使用機器智能,它能夠記錄每個人的行為與信用表現,其背后涉及的法律問題就是個人的隱私權。

  在法律層面,隱私權是一項非常重要的權利。美國在經過了多年的憲法訴訟后,隱私權早已被確立為憲法上的一項基本權利,處于較高的法律位階。中國通過一系列的典型案例,也已將隱私權確立為民法中的一項重要權利。盡管憲法沒有明文規定,但也有許多學說支持權利的重要性。值得一提的是,中國編纂起草的統一《民法典》正在審核中,隱私權正是其中一項非常重要的內容。

  今天,人工智能的來臨,導致隱私從人類的日常生活中消失。那么,我們是否有必要保護這種正在消失的權利?就像臉書創始人馬克·扎克伯格說的,我們為什么需要隱私?我的客戶很樂意把隱私交給我們,因為我們的服務能給他們帶來不可抗拒的便利。這就讓我聯想到人工智能令人害怕之處,它過于便利,以致我們無法拒絕。盡管可以從哲學、倫理學、法學等各個角度切入,尋找多種理論上的應對方案,但人工智能技術實際上在現有的市場經濟條件下,必定會按照一定的商業模式涌入社會。

  通過觀察可以發現,推廣人工智能最有利的產品就是智能手機。1980年代初,我剛到美國之時,電腦已開始普及,但互聯網還僅被運用于少數大學的科研領域,普通民眾很少觸及。那時很難想象我們今天會生活在這樣一個環境中,人與人之間的交往很難排除機器的媒介。那時,人與人之間的交往還是通過電話、書信,以及面對面的方式進行。從1990年代開始,這種情況發生了巨大的變化,互聯網慢慢地從學院轉移到生活當中,并廣泛運用于商業活動。微軟、蘋果走出了第一步,帶領人類步入了手機時代。在我2009年回國之時,雖然手機已變得非常輕巧,但上網仍舊不便。但到了五六年前,每個人的生活基本上都發生了翻天覆地的變化,扎克伯格和他的團隊驚人地推出人工智能的商業模式。

  人工智能的商業模式是與知識產權相反的模式。所謂知識產權,就是在任何無形的東西上設立產權。例如,一束花并不是知識產權,但若給這束花拍照,這張照片的使用就可以成為知識產權,這朵花的香味也能做成一個具有識別性的標記,稱作商標,也就是知識產權。因此,知識產權的主要用途就是禁止他人隨意復制或使用,他人需要付費才能使用。

  最近,視覺中國將黑洞圖片說成是它的著作權,這是極其荒謬的行為。在我們目前的商業競爭和經濟活動中,知識產權是一個非常有效的競爭手段,因為它可以打擊競爭對手,通過訴訟強迫他人付費或承擔更多的成本,以至于對方不得不屈服。事實上,視覺中國是否擁有那張黑洞照片的版權并不重要,重要的是他通過訴訟逼迫他人付費,這才是他的生存之道。但若將他與扎克伯格、馬云的商業模式進行對比,就會發現其中的差別。

  當前網絡企業大平臺采用免費或廉價的付費模式,以換取便利和所謂的美好、理想化的社會環境。從本質上說,商業模式的基礎是對價交易,法律語言表述為,交易雙方需要付出對價,形成契約。而我們付出的對價就是個人信息。從我們購買手機的那一刻起,就已經提交了個人信息,并且還需不斷地提交,我稱之為硬規則,因為消費者必須接受。這些數據被企業獲取,用于建立數據庫,再轉賣給第三方或者用于其他用途,例如開發新產品等等。

  數據如此重要,以至于現有的法律無法對其進行估算。數據所蘊含的巨大價值令業界非常希望將其財產化。數據財產化后的阿里巴巴,其產值將是一個令人恐懼的數字。試想,若將數據財產化,那數據的原始主人是誰?難道不是我們每一個人嗎?難道數據不是我們的財產嗎?若是這樣思考,臉書就無法運營了,因為它需要與幾億人簽訂合同。因此,數據的財產化是個法律問題,目前無解。

  雖然利益集團的游說非常激烈,不久的將來或會進行立法,但即使沒有立法,數據事實上也已經是財產了,因為它是我們每天進行的無數次交易的標的物。法學理論認為,只要能成為交易的標的物,例如數據,那它就已享有財產的地位,只不過對它的保護缺少明文規定而已。所以,這些企業事實上已經掌握了我們每個人的隱私。

  當然,還有一位參與數據收集競爭的主導者,即政府。在擁有發達的互聯網產業之后,任何國家的政府必然深度介入數據的抓取。中國在這方面做得最好,道路每50米就安裝一個攝像頭,促使暴力犯罪大幅降低,即便在所有的發達國家中,中國也走在最前端。雖然從傳統的隱私角度來說,這或許令人不安,但從產業發展以及政府對數據的抓取來說,這可以解決諸多問題。例如,許多傳統上難辦的案件到了數據時代非常容易。

  挑戰之二:引領法律走向硬規則體系

  人工智能使我們忽視原本異常繁瑣的程序、調查,不得不接受一些硬規則,這對于法制建設的影響非常巨大。關于硬規則的定義,可以用生活中一個有趣的現象來解釋。中國的馬路中間通常都設有一排鐵欄,用于分隔兩個車道,它強迫車輛必須在它自己的那條車道里行駛,不得越界。相反,這也可以說明軟規則的失效,即傳統法律規定和政策的執行率較低。雖然政府可以選擇其他整治交通的措施,但都不如硬規則方便、廉價。國內存在非常復雜的“欄桿系統”,讓民眾不得不開始排隊。

  硬規則帶來了什么好處?它不需要像傳統的法制建設那樣由政府積極推動普法,也不用通過文藝作品向大眾宣傳規則的重要性,也無須事先征求民眾的意見。一般來說,我們國家的立法應當按照民主原則,通過人民代表大會制度進行,或通過政府有關部門制定規章。

  但硬規則不同,硬規則是商家制度,盡管政府部門也制定硬規則,但商家的硬規則是智能社會,它通過智能終端添加到我們身上,智能手機就是最佳的例子。手機硬規則通過用戶點擊同意按鍵進入系統,之后會顯示一份字體較小、內容復雜的授權合同,幾乎一面倒地將權力給予了運行商。當然,如果用戶不同意,也可以點取消鍵。這種合同在過去的人類社會中很少出現,而按照現在的制度和商業模式來看,這就是一種單方面為用戶制定規則,使之通過衡量利弊或被迫接受的格式合同。

  像阿里巴巴這樣的企業,現在已擁有非常成熟的糾紛解決機制,平臺本身提供了解決糾紛的各種可能性,政府也與之合作建立了互聯網法律。所以,整個法律制度實際上被人工智能引領著走向了硬規則體系的方向。這令人感到無比害怕和憂慮,值得引起世人的注意。因為這種情況將導致資本力量過于強大。

  在傳統和現代社會,包括工業化以來的西方社會與改革開放后的中國現代化建設的新時期,對于立法和規則的制定,在民主方面都有比較明確的要求。從中國的國情與黨和政府的立場來看,立法必須回應民眾的要求、呼聲與利益訴求,這也是中國共產黨為人民服務的宗旨。但是,如果規則的制定權大量落入企業手中,其結果就大為不同了。

  由于政府部門同樣使用智能終端,所以商家制定的規則同樣適用于政府部門。從政府的角度來說,為了避免商家成為其領導者,政府只能比過去的工業化社會更大幅度地介入商業活動,這就動搖了我們改革開放目標的基本前提。中國改革開放的目標之一是建設一個健康的社會主義市場經濟,按照經典的表述,市場經濟就是“一只看不見的手”,擁有自動調節的作用,政府應當撤出商業活動。依據市場經濟理論來說,最理想的市場經濟是政府只負責一部分的監管、注冊和維穩等傳統要求,但智能終端、智能經濟、智能技術導致政府對商業活動的介入空前加大,在一定程度上促使市場經濟不得不回歸新的計劃經濟。

  事實上,硬規則的制定權越來越多地歸于商家,這是商家非常樂于見到的結果,因為這將增加利潤收益。傳統企業例如洛克菲勒家族的興起,需經過一兩代人的努力,而以扎克伯格為例的新一代富豪,從白手起家到獲得成功用時較短,在短短的幾年中就走完過去需要一個世紀才能走完的積累路程,由此帶來的對整個社會的影響和控制是非常驚人的。它的危機表現形式就是十多年前美國發生的華爾街金融危機,其中一個運動叫做“占領華爾街”,起因就是貧富差距帶來的1%的富人與99%的窮人的矛盾。

  貧富差距不僅是中國改革開放出現的情況,亦是全世界的趨勢,而網絡技術、網絡產業極大地推動了社會的分化。不久前,美國黑石集團共同創始人、全球主席兼首席執行官蘇世民給麻省理工大學捐款建立人工智能學院,明確要求該學院必須包括關于人機倫理的研究,而這類研究必須解決貧富分化、財富過度集中的問題。可見,蘇世民已經清醒地認識到,人類社會所面臨的新挑戰,是財富的巨大分化帶來的社會難題,作為富豪,他有責任提出這個問題,而學者必須在研究科技的同時關注倫理問題。實際上,“鋼鐵俠”埃隆·馬斯克也經常提及未來社會在倫理層面對現代人類有何種要求的問題。

  所有的前沿活動都已提出了類似對人類生命的意義、社會的穩定、人機關系的建立等根本方面的問題,中國也不例外。中國“基因編輯嬰兒”事件,本質是肆意踐踏醫學和生命科學最基本的不傷害原則,暴露了國內對于科技倫理的忽視。盡管背后的投資人和合作者都是美國人,他們以研究艾滋病的名義開展試驗,一步一步突破倫理瓶頸,不斷吸引韓國、美國等其他國家的投資,進行商業冒險。

  這表明,商業資本在市場博弈中具有盲目性,缺乏倫理約束。正如馬克思說的,如果有100%的利潤,商人會怎樣選擇?如果有300%的利潤,即便上絞刑架也無所畏懼。既然如此,我們該如何注意倫理問題?一方面,必須加強政府部門和行業本身的自律和外部約束。政府部門相當于外部約束、外部監管,行業本身也有自我教育、自我培訓等自律的要求。

  挑戰之三:深刻改變生活習慣和生命意義

  從科學發展的角度來說,探索是非常必要的。對那些不得不發展的產品而言,我們必須在技術條件與科學原理上繼續探索,以便獲得對人類有益而非有害的結果。人工智能在這方面的表現特別醒目。

  當今社會顯然已離不開人工智能,可以預見五年、十年后更是如此,因為當代的孩子是與手機這類智能終端一起長大的,只是接觸多少存在差異。從上幼兒園、小學就開始添加微信,用手機在線上做作業已變得十分普遍。在人工智能深入滲透我們生活的情況下,如何正確使用是一個巨大的挑戰。

  開發人工智能的商家非常聰明,智能終端通常根據反復實驗研究人的心理和習慣,以及由基因決定的傾向性來設計界面。因此,一個出生不久還不會說話的嬰兒卻會很快發現手機或平板電腦的可愛之處,并與之互動,這是設計的成功之處。

  以麥當勞為例,麥當勞的快餐為何那么容易令小孩著迷?因為它是實驗室的產物。麥當勞提供的快餐是以工業化養殖的牛、豬、雞作為原始材料,經過混合、配方以及化學處理,調試出令全球小孩都喜歡的口味,并為此成立了一所麥當勞大學。在美國稍微年輕一點的人群,全都是它的常客,即便是含著金鑰匙出生于貴族家庭的小布什也愛吃這種垃圾食品,因為他無法拒絕這種根據人類基因構成研制出的味覺配方。

  終端界面的設計也是如此,新發布的產品也許會被用戶挑剔,比如華為制造的可折疊手機最初也受到批評,但很快就尋找到了感覺與方向。因為華為擁有全球最頂尖的設計團隊,所以對于主界面的設計細節超乎普通人的想象。但這些考慮背后的商業驅動因素并不僅僅是為了用戶使用方便,而是要讓用戶無法擺脫。

  微軟小冰作詩是個很有意思的現象,經常有人在社會、媒體上評價小冰作詩或者其他機器人作曲的事情,總體評價并不太好。如果將機器人與杜甫、李白相比,那簡直差強人意,機器人不過是把五四以來新文學運動涌現出的作家作品加以學習,然后組合,生產出幾句稱為詩的語句。

  需要注意的是,微軟研發小冰的意圖并非讓它成為杜甫,華為研發5G產品也并非想讓其成為愛因斯坦或牛頓,他們的根本目的是占領市場。AlphaGo團隊研究下圍棋并非喜歡下圍棋,而是研究作為頂級的透明規則游戲的圍棋,將其研發產品投入市場,進而實現取代人類智慧的最終目標。

  因此,我所關心的是小冰下一步如何發展,如何商業化,商業化之后如何改變我們與下一代人類對詩歌、文學以及藝術的感受。這一團隊以及它的競爭者或許已在基因層面探索人類對文字和音樂的感受,以便研發出的產品能夠改變人機關系,我將其稱作較為終極的挑戰,因為它改變了生命的意義。

  盡管科學技術發展,政治朝代更迭,不同社會存在不同的發展路徑,但自遠古人類留傳下來的宗教、倫理、法律、商業等方面的人類生活基本存在一個共識。但今后的發展可能無法預測,因為人類內心最深處的一些愛好和習慣,以及智力所能投放的領域將被取代。所以,當我看到柯潔在圍棋比賽中負于機器時痛哭的畫面,感到些許悲哀。作為世界頂級的圍棋選手,他卻被機器人擊敗了,并且在賽后說“我回去讓機器復盤檢查錯在哪里”。過去他只需自己復盤,而現在,機器會立即指出他的錯誤。這說明,機器與人力已不處于同一段位了,在機器面前,人類如同孩童一般。機器教給人類最初級的下法,而其本身的下法人類已不可理解。

  其他行業也面臨同樣的問題。如果機器學會作詩作曲,做出我們普遍喜歡的產品,如同科幻電影中那般,那人類的生活就將完全改變。可以想象那個時代,杜甫將是極少數學院派研究的對象,因為機器已經研發出完全不同的風格,讓我們從小就會喜歡。音樂、美術、戲劇表演都是如此。

  法律也可能被人工智能所改變,因為法律規則本身就很難區別其制定者。當我們知曉法律制定的來源是機器時,或許也會認為這是比較公正的,因為人類很容易通過算法獲得信息,盡管算法的背后依然存在偏見,或者算法本身被用于偏見。但想挑戰算法的合法性或合理性則相當困難,因為其過于專業。一旦機器大規模介入立法,人類將無法理清規則,因為每部機器都會將規則無限復雜化,其復雜程度就像頂級圍棋水平一樣遠超人類所能理解的范圍,只有利用機器才能與之對抗。那時,我們是否需要機器?這是一個終極挑戰,它不僅顛覆了生命的意義,也顛覆了日常生活,它提供的便利和規則正在溫水煮青蛙式地將人類逼至無法反抗的境地。

  對此,我最近撰寫的新書《我是阿爾法》中,提出了兩種最終解決方案:一是徹底知識產權化的暴政。由于財富的高度集中,必定會誘惑更多專制和硬規則的普遍約束,某種意義上就像法西斯作為一種政治制度的專制。二是數據國有化。隨著政府部門越來越深地介入商業活動,最終每次商業交易都必須由第三方政府參加,此時是否還是市場主體?每只手背后都是政府、商家以及我們心甘情愿所提供的信息,早已不是市場主體了。那時,分工將變得不太重要,機器會大規模出現,因此,我才提出共產主義的概念。前提當然是黨和政府依然堅持為人民服務。

  事實上,列寧曾說,人類將按照科學的進步程度來接受共產主義,共產主義在科學技術不發達的情況下是無法實現的,按照傳統馬克思主義觀點注定是行不通的,因為能力有限。1960年代,一位蘇聯數學家提出綜合數學模型,解說計劃經濟成功與失敗的可能性,并獲得了諾貝爾經濟學獎。受此啟發,我認為計劃經濟并非過去式,只不過不適合科技不發達的時代,將來人類有可能計劃得非常完善,考慮到每一個人的需求。

  目前許多領域已經能夠做到資源的合理分配與使用,最簡單的就是交通管制。若沒有現在的網絡和攝像監控設備,管制交通將非常困難。人類現在已初步擁有無人駕駛技術的研發手段,無人駕駛并不是一輛獨立的車,而是像人類一樣能夠轉彎、辨識方向、避開障礙物,具有自主意識的車。無人駕駛的未來目標是徹底改善整個交通系統。一位英國評論家甚至提議,考慮到過高的風險因素,在未來應當全面禁止人類駕駛。

  現在,美國研發的無人駕駛車輛,包括小汽車、載重車、拖車等,經過幾十萬公里路程的測試,證明其安全系數已經大大超過人類駕駛員。雖然無人駕駛也發生致行人死亡的事故,但經過檢測發現,這并非是系統漏洞,而是電腦經過所有數據整合之后,做出更安全的自主綜合判斷,在危機無法避免的情況下,撞死路人而非乘客的社會風險更低。這種判斷的精確是人類無法與之相比的。

  當前雄安新區建設的首要目標是疏解首都功能,但更遠大的目標是建成全方位改造的新城市系統,以便容納未來的無人駕駛。可想而知,新交通系統首先必須遍布傳感技術,然后計算投入運行的每輛車并與整個系統聯網,這就需要華為的5G技術。每輛車每毫秒的判斷都須經過系統的嚴密計算,由于人腦遠不如機器,因而機器駕駛將比人類駕駛安全得多。只是目前法律層面還未出現一個可供探討的方案,企業也不愿在投入之后引發許多糾紛。因此,新技術需要法律同步地為它提供一些規則。當然,總體上我們還是比較樂觀的,法律會逐步地提出一個解決方案。

  

聲明:文章僅代表作者個人觀點,不代表本站觀點——烏有之鄉 責任編輯:晨鐘

歡迎掃描下方二維碼,訂閱烏有之鄉網刊微信(wyzxwk101)

收藏

心情表態

今日頭條

點擊排行

  • 兩日熱點
  • 一周熱點
  • 一月熱點
  • 心情
  1. 吳銘:環球時報是立場問題還是認識問題?
  2. 為什么華為被美國針對,阿里卻安然無事
  3. 孫錫良:如何保證香港長治久安?
  4. 毛主席的擔憂:淪陷的農機產業
  5. 如果我來操刀,如何拍《八佰》?
  6. 沒有新中國你們有什么資格在這里大言不慚談“女權”
  7. 港獨李怡的嘴臉
  8. 請不要和王思聰拼爹
  9. 由歷史來證明,反毛反社者談民主,那是在侮辱自己和他人的智商
  10. 鐘南山: 公立醫院姓“公”是醫療改革的關鍵
  1. 炒作胡耀邦“批示逮捕”政治局委員之子可以休矣
  2. 報應不爽,原新京報社社長落馬
  3. 離開央視的名嘴們究竟都怎么了?
  4. 濟南農商行腐爛到這個程度,紀委監委在哪里?
  5. 大寨與小崗,“大有作為”與“小家子氣”的實景
  6. 如何反思發生在香港的這場暴亂?
  7. 走進毛主席女兒李訥的生活空間
  8. 世界歷史上最高大的那一座山——毛澤東!
  9. 郭松民 | 評電影《音樂家》中一個被剪掉的情節
  10. 師偉:豈容英名成禁詞!
  1. 看了這篇發言稿,我很氣憤!
  2. 黃奇帆先生還是太幼稚了
  3. 中國共產黨是打出來的!——欣聞魏鳳和將軍的宣戰書有感
  4. 魏平:如何看抗美援朝英雄冤案?關于網上《電影<上甘嶺>中張連長是張立春》 帖子的回復
  5. 炒作胡耀邦“批示逮捕”政治局委員之子可以休矣
  6. 蘭斌強:清華大學孫教授如此“替美國鳴不平”意欲何為?
  7. 一篇跪著的檄文
  8. 丑牛:強制扶貧強制死,葫蘆官辦葫蘆案
  9. 報應不爽,原新京報社社長落馬
  10. 郭鳳蓮在陳永貴逝世20周年紀念會上的發言
  1. 我為周總理處理后事
  2. 報應不爽,原新京報社社長落馬
  3. 大寨與小崗,“大有作為”與“小家子氣”的實景
  4. 炒作胡耀邦“批示逮捕”政治局委員之子可以休矣
  5. 運十副總師程不時:給雄鷹插上“中國翅膀”
  6. 如此醫改符合老百姓的愿望嗎?
河南11选5开奖查询今天