(原標(biāo)題:人工智能時(shí)代的法律挑戰(zhàn))
今年5月,人工智能圍棋程序“阿爾法狗”與世界圍棋第一人柯潔之間展開(kāi)一場(chǎng)“人機(jī)大戰(zhàn)”,結(jié)果人工智能以3:0的成績(jī)完勝人類棋手,引發(fā)關(guān)于未來(lái)人工智能取代人類的討論。如今,人工智能炙手可熱,今年3月,“人工智能”首次進(jìn)入《政府工作報(bào)告》。人工智能變得“擬人”和“超人”,人們?cè)绞菍?duì)其依賴和贊嘆,越是恐慌不安?,F(xiàn)實(shí)中,人工智能對(duì)現(xiàn)行法律制度的挑戰(zhàn)已初露端倪,而未來(lái)如果人工智能具有自主性和情感,其法律地位及與人的法律關(guān)系定位將成為難題。近日由亞太網(wǎng)絡(luò)法律研究中心主辦、在北京師范大學(xué)舉辦的“網(wǎng)絡(luò)與法律對(duì)話”學(xué)術(shù)沙龍上,來(lái)自法學(xué)界、網(wǎng)絡(luò)安全界的專家學(xué)者圍繞人工智能發(fā)展帶來(lái)的法律挑戰(zhàn)等問(wèn)題展開(kāi)了探討,為應(yīng)對(duì)未來(lái)挑戰(zhàn)提供了對(duì)策與建議。
胡鋼(中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心秘書(shū)長(zhǎng))
人工智能被列入各國(guó)戰(zhàn)略
人工智能(artificialintelli-gence)近年來(lái)大熱。聯(lián)合國(guó)國(guó)際電信聯(lián)盟剛剛在日內(nèi)瓦召開(kāi)了主題為“人工智能造福人類”的全球峰會(huì),這是一個(gè)非?;趾氲念}目。峰會(huì)有兩個(gè)目的,一是加速人工智能的研發(fā)和應(yīng)用,以應(yīng)對(duì)貧困、饑餓、健康、教育和環(huán)境保護(hù)等全球性挑戰(zhàn);二是探討如何確保人工智能的安全性并符合倫理規(guī)范,防止其帶來(lái)意想不到的后果。
聯(lián)合國(guó)層面對(duì)于人工智能是非常重視的,此前,聯(lián)合國(guó)也有專門的報(bào)告。例如,聯(lián)合國(guó)教科文組織與世界科學(xué)知識(shí)與技術(shù)倫理委員會(huì)2016年的報(bào)告就主要討論了機(jī)器人的制造和使用促進(jìn)了人工智能的進(jìn)步,以及這些進(jìn)步所帶來(lái)的社會(huì)與倫理道德問(wèn)題。
美國(guó)而言,特別是奧巴馬時(shí)代,美國(guó)發(fā)布了若干關(guān)于人工智能的文件。立法方面,僅在今年,美國(guó)國(guó)會(huì)就提出了三部含有“人工智能”的法案,包括《2017創(chuàng)新團(tuán)法案》、《2017全民計(jì)算機(jī)科學(xué)法案》及《2017在科學(xué)技術(shù)工程及數(shù)學(xué)領(lǐng)域中的計(jì)算機(jī)科學(xué)法案》。上述三部法案分別關(guān)注了人工智能技術(shù)對(duì)美國(guó)人生活質(zhì)量的改善價(jià)值及可能對(duì)部分工作的替代作用,并要求商務(wù)、教育等部門加強(qiáng)有關(guān)職業(yè)培訓(xùn)或者中學(xué)生的計(jì)算機(jī)科學(xué)教育,其中就特別包括了人工智能的內(nèi)容。
歐盟在數(shù)年前就開(kāi)始了有關(guān)機(jī)器人計(jì)劃及人腦計(jì)劃,力爭(zhēng)使歐盟在這兩個(gè)關(guān)鍵領(lǐng)域處于全球領(lǐng)先位置,并充分認(rèn)識(shí)到標(biāo)準(zhǔn)、規(guī)范和立法的保障措施將是有關(guān)工程的重要組成部分。去年,歐洲議會(huì)提出一項(xiàng)草案,建議賦予機(jī)器人基本的“勞工權(quán)利”,讓這些為人類服務(wù)的“電子人”今后也能享有薪酬、版權(quán)保護(hù)和社會(huì)保險(xiǎn)。雖然爭(zhēng)議很多,但非常值得關(guān)注。又如,歐盟2012年開(kāi)始做了一個(gè)“RoboLaw”(機(jī)器人法律)的項(xiàng)目,已于2014年結(jié)束。該項(xiàng)目主要研究對(duì)歐盟機(jī)器技術(shù)規(guī)制與倫理、法律及經(jīng)濟(jì)的影響。
今年3月,中國(guó)首次將“人工智能”寫(xiě)入《政府工作報(bào)告》。李克強(qiáng)總理2017年3月5日在第十二屆全國(guó)人民代表大會(huì)第五次會(huì)議上指出:加快培育壯大新興產(chǎn)業(yè)。全面實(shí)施戰(zhàn)略性新興產(chǎn)業(yè)發(fā)展規(guī)劃,加快新材料、新能源、人工智能、集成電路、生物制藥、第五代移動(dòng)通信等技術(shù)研發(fā)和轉(zhuǎn)化,做大做強(qiáng)產(chǎn)業(yè)集群。人工智能在中國(guó)同樣是一件炙手可熱的事情,聚集了眾多的眼球、人才和資金。
雖然人工智能這個(gè)概念提出來(lái)已經(jīng)有六十年了,時(shí)間很長(zhǎng),但是它現(xiàn)在這種自我學(xué)習(xí)能力,特別是機(jī)器學(xué)習(xí)能力的發(fā)展到了以前完全不可比擬的階段。中國(guó)目前對(duì)人工智能的政策法律分析已經(jīng)有了良好的開(kāi)端,這方面我們要做的事情還有很多。
續(xù)俊旗(因特爾法律政策總監(jiān))
人工智能尚未改變現(xiàn)有法律關(guān)系
人工智能是當(dāng)前的熱點(diǎn)和焦點(diǎn)議題,一個(gè)重要的原因是在應(yīng)用上有了較大的突破,比如在自動(dòng)駕駛、無(wú)人機(jī)、精準(zhǔn)醫(yī)療等方面,都取得了實(shí)質(zhì)性的進(jìn)展。我了解到工信部在牽頭制定一個(gè)人工智能的國(guó)家戰(zhàn)略,繪制人工智能產(chǎn)業(yè)生態(tài)地圖,并發(fā)布人工智能白皮書(shū)。目前,關(guān)于人工智能的產(chǎn)業(yè)聯(lián)盟也在籌建之中。在人工智能領(lǐng)域,中美兩國(guó)目前走在前列。美國(guó)已經(jīng)出臺(tái)了人工智能研發(fā)戰(zhàn)略,而且其發(fā)布的其他戰(zhàn)略比如大數(shù)據(jù)發(fā)展戰(zhàn)略也與人工智能緊密相關(guān)??梢哉f(shuō)人工智能已經(jīng)成為兩國(guó)產(chǎn)業(yè)發(fā)展的制高點(diǎn),未來(lái)的競(jìng)爭(zhēng)態(tài)勢(shì)也會(huì)趨于激烈,這將有助于人工智能的進(jìn)一步快速發(fā)展。
當(dāng)前人工智能發(fā)展很快,有幾個(gè)主要原因:首先,大數(shù)據(jù)的發(fā)展。數(shù)據(jù)是人工智能發(fā)展的前提,越來(lái)越多的應(yīng)用場(chǎng)景產(chǎn)生了海量的數(shù)據(jù),為人工智能的應(yīng)用落地提供了寶貴的素材。其次,新的算法技術(shù)進(jìn)一步提升了人工智能的發(fā)展。人工智能不是新事物,但由于算法技術(shù)的發(fā)展,包括與神經(jīng)學(xué)科、生物醫(yī)學(xué)學(xué)科等的交叉融合,人工智能越來(lái)越具備人的特征。第三是計(jì)算能力的快速發(fā)展。
人工智能的飛速發(fā)展,帶來(lái)了應(yīng)用的快速落地。但正如硬幣具有正反兩面,人工智能也是如此。一方面它降低了風(fēng)險(xiǎn),另一方面也帶來(lái)了新的風(fēng)險(xiǎn)。以自動(dòng)駕駛為例,一方面可以顯著降低由于人工駕駛產(chǎn)生的疲勞駕駛、誤操作帶來(lái)的交通致死率,另一方面也可能因?yàn)榫W(wǎng)絡(luò)侵入造成慘烈的交通事故。這時(shí)候就需要不斷地進(jìn)行場(chǎng)景測(cè)試驗(yàn)證,并賦予人工智能最為合理的選擇方案來(lái)取得最佳平衡。
人工智能的發(fā)展,將會(huì)對(duì)社會(huì)治理、法律制度、監(jiān)管乃至社會(huì)倫理等產(chǎn)生影響。比如,隨著人工智能的高度智能化,機(jī)器越來(lái)越具有人的屬性,可能對(duì)婚姻制度、家庭倫理等產(chǎn)生大的影響。對(duì)于社會(huì)治理、法制制度、政府監(jiān)管等,也會(huì)有越來(lái)越多的挑戰(zhàn)。目前還是處于前期階段,我們還不能對(duì)這些問(wèn)題有系統(tǒng)性的認(rèn)識(shí),但可以做一些前瞻性的研究,并作出預(yù)判。
人工智能會(huì)給法律造成影響。我們不會(huì)去制定一部人工智能法,而是在不同領(lǐng)域、不同產(chǎn)業(yè),探究人工智能的發(fā)展對(duì)該領(lǐng)域、產(chǎn)業(yè)的影響。哪些可以適用現(xiàn)有法律規(guī)則,哪些需要對(duì)現(xiàn)有制度進(jìn)行修正,甚至制定新的法律規(guī)則。
人工智能會(huì)給法律制度帶來(lái)挑戰(zhàn),但現(xiàn)階段無(wú)需過(guò)于擔(dān)心。其實(shí),它沒(méi)有從根本上改變現(xiàn)有的法律關(guān)系。法律關(guān)系是在社會(huì)活動(dòng)中人與人之間產(chǎn)生的權(quán)利義務(wù)的分配關(guān)系。人工智能迄今還是一個(gè)輔助工具,其產(chǎn)生的問(wèn)題,比如自動(dòng)駕駛的侵權(quán)問(wèn)題,歸根結(jié)底還是可以在自動(dòng)駕駛方案提供者、汽車廠商或者使用者之間進(jìn)行歸責(zé)而解決。未來(lái)也許人工智能通過(guò)不斷學(xué)習(xí)會(huì)產(chǎn)生新的法律關(guān)系主體,但是這會(huì)是一個(gè)過(guò)于遙遠(yuǎn)的話題??傊?,人工智能的法律挑戰(zhàn)是一個(gè)既有現(xiàn)實(shí)性也具有前瞻性的話題,現(xiàn)在希望給出系統(tǒng)的法律解決方案、監(jiān)管框架乃至監(jiān)管模式都還為時(shí)過(guò)早。
劉金瑞(中國(guó)法學(xué)會(huì)法治研究所研究員)
“時(shí)空壓縮”疊加人工智能的風(fēng)險(xiǎn)
討論需要一個(gè)前瞻性,也需要一個(gè)限制性。對(duì)于將來(lái)發(fā)生的事情我們可以做一個(gè)探討,但也不必遙遠(yuǎn)到科幻甚至玄幻的程度,這是我的一個(gè)基本判斷。從法律角度看,考慮到自主意識(shí),我認(rèn)為人工智能發(fā)展要分為三個(gè)階段:
第一階段,AI處于增強(qiáng)輔助人類的階段。這個(gè)階段不管是siri也好其他也好,還是純粹工具的階段,對(duì)它的使用是為了增強(qiáng)人類本身;
第二階段,AI與人類共生共存。這個(gè)階段比起上個(gè)階段,人類離不開(kāi)它了,人類對(duì)人工智能產(chǎn)生深刻的依賴;
第三階段,AI可能會(huì)控制人類。這個(gè)就到了我所說(shuō)的科幻玄幻階段了,電影里面也有所呈現(xiàn)。而這個(gè)場(chǎng)景是否會(huì)發(fā)生,也是我們?nèi)祟愒谒伎嫉囊粋€(gè)問(wèn)題。
目前我們處于第一階段,機(jī)器還屬于工具,當(dāng)前的法律屬于基于自己的自主行為,我們討論的問(wèn)題都屬于第一階段。如今中國(guó)的發(fā)展處于一個(gè)時(shí)空壓縮的階段,其特點(diǎn)在于我們需要在短時(shí)間內(nèi)走過(guò)一些國(guó)家很長(zhǎng)時(shí)間里走過(guò)的很多路,并且還要面對(duì)一系列新問(wèn)題,比如技術(shù)應(yīng)用、法律問(wèn)題、社會(huì)問(wèn)題的疊加。我國(guó)要關(guān)注的幾個(gè)最主要的問(wèn)題是:
第一,人口問(wèn)題:機(jī)器人的使用和人工智能的使用對(duì)我們?nèi)丝诶淆g化或者人口未來(lái)結(jié)構(gòu)調(diào)整有什么影響;
第二,法律問(wèn)題:在我們目前處于的第一階段,人工智能仍然是人類的工具,就像侵權(quán)責(zé)任法中的物件責(zé)任,物體傷害了別人,還是需要你負(fù)責(zé)。法律只需做細(xì)微的調(diào)整就可以適應(yīng)人工智能帶來(lái)的法律問(wèn)題,特殊產(chǎn)品責(zé)任、知識(shí)產(chǎn)權(quán)、大數(shù)據(jù)等都是常見(jiàn)問(wèn)題;
第三,財(cái)務(wù)分配問(wèn)題:隨著機(jī)器生產(chǎn)能力的提升,生產(chǎn)力得到了較大的解放,我們會(huì)對(duì)馬克思經(jīng)濟(jì)學(xué)產(chǎn)生新的理解,對(duì)未來(lái)財(cái)務(wù)分配產(chǎn)生新的思考,比如人類是否還為了生存而工作將成為值得思考的問(wèn)題。
由第一階段邁向第二階段的時(shí)候,程序員的作用十分關(guān)鍵,人類可能只有一次機(jī)會(huì)設(shè)定程序,這個(gè)初始設(shè)定是很重要的。我們給機(jī)器人設(shè)定的紅線是什么?人類的價(jià)值觀能不能教給機(jī)器?機(jī)器會(huì)不會(huì)嚴(yán)格執(zhí)行?計(jì)算機(jī)成為一個(gè)嚴(yán)格的執(zhí)法者會(huì)不會(huì)對(duì)人類造成傷害?這些都是我們要討論的問(wèn)題。
劉德良(北京師范大學(xué)法學(xué)院教授、亞太網(wǎng)絡(luò)法律研究中心主任)
控制引導(dǎo)人工智能的發(fā)展
從當(dāng)前技術(shù)的發(fā)展和人工智能概念的界定等方面來(lái)看,人類已經(jīng)邁入人工智能時(shí)代了。從技術(shù)上來(lái)講,人工智能原本是作為人類的工具被開(kāi)發(fā)設(shè)計(jì)出來(lái)的,但是在未來(lái)有沒(méi)有一種可能,人工智能會(huì)超越工具的范疇,站在人類的對(duì)立面?
國(guó)際競(jìng)爭(zhēng)層面,中國(guó)、美國(guó)和歐洲等在國(guó)家戰(zhàn)略和產(chǎn)業(yè)發(fā)展方面存在博弈,比如當(dāng)前美國(guó)對(duì)人工智能的態(tài)度是扶植這個(gè)產(chǎn)業(yè)的發(fā)展。如果放在整個(gè)人類層面,人工智能會(huì)不會(huì)被一些別有用心的人開(kāi)發(fā)設(shè)計(jì)出來(lái),最后致使人類無(wú)法控制?既然人工智能的開(kāi)發(fā)與利用在未來(lái)有這種不可控的可能性,那么人工智能作為一個(gè)策略,國(guó)家產(chǎn)業(yè)發(fā)展政策或者整個(gè)人類社會(huì)該怎樣去引導(dǎo)?顯然當(dāng)我們所站在的利益層面不一樣,從不同的格局來(lái)看待,人工智能確實(shí)會(huì)帶來(lái)一些問(wèn)題,特別是當(dāng)人工智能有情感、有意識(shí)并有自我學(xué)習(xí)能力的時(shí)候。將來(lái)一些婚姻倫理問(wèn)題、情感問(wèn)題,諸如人類和機(jī)器人結(jié)婚,在立法上可以不承認(rèn),但是當(dāng)這些確實(shí)又存在,就會(huì)成為一個(gè)問(wèn)題。
從現(xiàn)階段來(lái)看,人工智能仍然屬于一種工具層面的東西。如果從法律層面如民法層面上講,我們可以把它作為一種工具,一種物。但是對(duì)于其中一些有特殊情感的人工智能,在立法上我們將其作為一種特殊物來(lái)對(duì)待。當(dāng)我們站在未來(lái)發(fā)展的角度來(lái)講,我們現(xiàn)在對(duì)AI產(chǎn)業(yè)發(fā)展的規(guī)制,就是要保障未來(lái)人工智能能朝著一個(gè)健康的、可預(yù)測(cè)的方向發(fā)展,所以人工智能發(fā)展一定需要國(guó)家政策的監(jiān)管和引導(dǎo)。
人工智能最關(guān)鍵的東西,實(shí)際上就是它的算法。未來(lái),我國(guó)乃至整個(gè)人類社會(huì)如何實(shí)現(xiàn)對(duì)這個(gè)算法的監(jiān)管,讓它朝著一個(gè)安全可控的方向去發(fā)展?當(dāng)然在研究這個(gè)算法的時(shí)候不僅需要相關(guān)領(lǐng)域的技術(shù)專家,還需要社會(huì)學(xué)等專家學(xué)者的共同參與,從而保障它的安全可控。宏觀上,我認(rèn)為整個(gè)國(guó)際社會(huì)都應(yīng)該朝著這個(gè)方向努力。
從民法層面來(lái)講,人工智能不僅會(huì)產(chǎn)生人工智能致人損害的問(wèn)題,還包括人工智能被損害的問(wèn)題。其被損害的不僅是硬件,可能還有軟件,比如非法入侵對(duì)人工智能造成損害的,未來(lái)還有人與人工智能共同生活時(shí),人工智能遭受侵害的。按照我的理解,人工智能實(shí)際上就是民法上的特殊物,那么他人造成人工智能損害的,不僅要給予其物質(zhì)損害的賠償,還應(yīng)當(dāng)給予其精神損害賠償。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- 合合信息2024年前三季度業(yè)績(jī)穩(wěn)?。籂I(yíng)收增長(zhǎng)超21%,凈利潤(rùn)增長(zhǎng)超11%
- 臺(tái)積電四季度營(yíng)收有望再攀高峰,預(yù)計(jì)超260億美元刷新紀(jì)錄
- 韓國(guó)三星電子決定退出LED業(yè)務(wù),市值蒸發(fā)超4600億元
- 鴻蒙概念龍頭大漲超9倍,北交所與新能源板塊引領(lǐng)A股強(qiáng)勢(shì)行情
- 京東金融回應(yīng)“擠兌”傳聞:稱相關(guān)言論完全失實(shí),資金安全受監(jiān)管保護(hù)
- 光刻機(jī)巨頭阿斯麥業(yè)績(jī)爆雷,股價(jià)遭重創(chuàng)拖累全球股市
- A股半導(dǎo)體并購(gòu)熱潮洶涌,36家企業(yè)引領(lǐng)產(chǎn)業(yè)整合新篇章
- 英偉達(dá)股價(jià)創(chuàng)歷史新高,市值逼近3.4萬(wàn)億美元
- 新大陸正式成為華為鴻蒙開(kāi)源系統(tǒng)A類捐贈(zèng)者,深度布局鴻蒙生態(tài)
- 蘋(píng)果第三季度出貨量創(chuàng)歷史新高,無(wú)限接近全球第一
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。