人工智能監(jiān)管立法趨勢(shì)前瞻

人工智能技術(shù)是本世紀(jì)最重要的技術(shù)創(chuàng)新之一，如何對(duì)其進(jìn)行法律規(guī)制，考驗(yàn)著各國(guó)立法者的智慧。任何新興技術(shù)發(fā)展都面臨控制風(fēng)險(xiǎn)的難題。監(jiān)管者控制風(fēng)險(xiǎn)的同時(shí)，往往會(huì)給技術(shù)發(fā)展套上枷鎖。為把握好新技術(shù)帶來(lái)的風(fēng)險(xiǎn)與收益間的平衡，必須立足于以下價(jià)值立場(chǎng)展開制度設(shè)計(jì)。其一是私權(quán)保障。在人類文明史上，新興技術(shù)往往會(huì)對(duì)既有權(quán)利格局造成沖擊。人工智能對(duì)私權(quán)保障帶來(lái)挑戰(zhàn)，表現(xiàn)為機(jī)器具有一定的智能性和自主性，人機(jī)混同下不能直接析出人工的作用成分，私權(quán)侵害變得更加隱蔽性和規(guī)?；?。其二是國(guó)家安全。數(shù)據(jù)跨境流通時(shí)，各國(guó)面臨著重要數(shù)據(jù)、隱私數(shù)據(jù)泄露以及算法模型參數(shù)泄密等風(fēng)險(xiǎn)。其三是產(chǎn)業(yè)發(fā)展。各國(guó)正面臨經(jīng)濟(jì)增長(zhǎng)放緩的困擾，而人工智能技術(shù)當(dāng)下最有希望成為推動(dòng)新一輪經(jīng)濟(jì)驅(qū)動(dòng)的力量。以上價(jià)值的權(quán)衡將影響規(guī)范出臺(tái)的密度、頻率以及權(quán)利保障的方式。

各國(guó)人工智能監(jiān)管現(xiàn)狀比較

在全球范圍內(nèi)，人工智能技術(shù)的發(fā)展并不均衡。一些國(guó)家是技術(shù)的主要引領(lǐng)者，一些國(guó)家緊隨其后，還有一些國(guó)家主要是作為技術(shù)應(yīng)用產(chǎn)品的消費(fèi)者。這決定了不同國(guó)家會(huì)采取不同的人工智能監(jiān)管立場(chǎng)?？v觀當(dāng)今的人工智能技術(shù)產(chǎn)業(yè)發(fā)展格局，中國(guó)、美國(guó)和歐盟已然構(gòu)成“三足鼎立”的局面。

美國(guó)的監(jiān)管特點(diǎn)是內(nèi)部對(duì)象和寬松規(guī)范。應(yīng)當(dāng)承認(rèn)，美國(guó)在人工智能領(lǐng)域具有全球領(lǐng)先的地位。算力方面，以英偉達(dá)公司為代表的芯片公司獨(dú)占高端芯片的生產(chǎn)市場(chǎng)；數(shù)據(jù)方面，其優(yōu)勢(shì)主要源于英語(yǔ)世界的影響力和海量語(yǔ)料；算法方面，ChatGPT以及之前的深度學(xué)習(xí)算法框架BERT、PyTorch等均出自美國(guó)公司。美國(guó)是人工智能技術(shù)的輸出國(guó)，但是其技術(shù)優(yōu)勢(shì)主要集中于OpenAI、微軟、谷歌、Meta、英偉達(dá)等少數(shù)公司。美國(guó)人工智能監(jiān)管的對(duì)象相對(duì)集中，一旦新設(shè)公法或者私法義務(wù)，或者對(duì)違法事件作出處罰，矛頭都直指那幾家巨頭公司。因此，美國(guó)的監(jiān)管者一方面需要考慮如何保持巨頭公司在人工智能領(lǐng)域的先發(fā)技術(shù)優(yōu)勢(shì)，另一方面也會(huì)受到巨頭公司的游說(shuō)影響，故采取相對(duì)寬松的監(jiān)管政策。

歐盟的監(jiān)管特點(diǎn)是外部對(duì)象和嚴(yán)格規(guī)范。相對(duì)美國(guó)而言，歐盟不具有人工智能領(lǐng)域的技術(shù)優(yōu)勢(shì)，因此歐盟各國(guó)更多是作為人工智能技術(shù)和產(chǎn)品的輸入地存在，基本呈現(xiàn)出“本國(guó)公民作為下游客戶和消費(fèi)者，美國(guó)公司為之提供技術(shù)和服務(wù)”的產(chǎn)業(yè)格局。在此背景下，實(shí)施人工智能領(lǐng)域的監(jiān)管，歐盟是以外國(guó)公司尤其是美國(guó)公司為規(guī)制對(duì)象的，其所保護(hù)的是本國(guó)公民的私權(quán)利益和作為技術(shù)輸入地的國(guó)家法益。歐盟當(dāng)前處在技術(shù)競(jìng)爭(zhēng)的下風(fēng)，這是理解歐盟的人工智能監(jiān)管政策時(shí)必須具備的基本認(rèn)知。

中國(guó)的監(jiān)管特點(diǎn)是借鑒比較法經(jīng)驗(yàn)，追蹤前沿技術(shù)并針對(duì)性立法。我國(guó)立法最為重要的借鑒對(duì)象是歐盟相關(guān)法律，2018年歐盟出臺(tái)《通用數(shù)據(jù)保護(hù)條例》（GDPR）之后，我國(guó)于2021年出臺(tái)了《個(gè)人信息保護(hù)法》，后者的很多內(nèi)容都學(xué)習(xí)借鑒了前者。當(dāng)前，我國(guó)已經(jīng)在人工智能領(lǐng)域形成了初步的監(jiān)管規(guī)范體系，包括《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等不同層級(jí)的監(jiān)管依據(jù)。若考察這些規(guī)范出臺(tái)時(shí)的背景會(huì)發(fā)現(xiàn)，它們大部分是針對(duì)當(dāng)時(shí)的前沿技術(shù)熱點(diǎn)而制定的。最為典型的例子是，OpenAI發(fā)布ChatGPT數(shù)月之后，我國(guó)就頒布了《生成式人工智能服務(wù)管理暫行辦法》。

探尋我國(guó)人工智能監(jiān)管立法方向

在數(shù)字法領(lǐng)域，過(guò)度依賴域外立法經(jīng)驗(yàn)必然是行不通的。改革開放后的一段時(shí)期內(nèi)，我國(guó)立法對(duì)于域外法借鑒較多，存在以下背景。其一，我國(guó)屬于后發(fā)國(guó)家，發(fā)展經(jīng)濟(jì)所采取的工業(yè)模式基本與歐美類似，我國(guó)的城市組織框架、工作和生活方式逐漸在向其靠攏。其二，當(dāng)時(shí)處于全球化浪潮之中，我國(guó)需要通過(guò)進(jìn)出口拉動(dòng)生產(chǎn)和經(jīng)濟(jì)，因此需要構(gòu)建一套能夠與西方對(duì)話的規(guī)則語(yǔ)言。其三，我國(guó)當(dāng)時(shí)處于社會(huì)治理規(guī)范轉(zhuǎn)型時(shí)期，自身的法律規(guī)范還有許多空白之處。然而，數(shù)字文明是和工業(yè)文明同等重要的劃時(shí)代節(jié)點(diǎn)，亦步亦趨的立法模式在數(shù)字法領(lǐng)域并不可取。

當(dāng)前，人工智能領(lǐng)域的國(guó)際競(jìng)爭(zhēng)日趨激烈，基于不同的國(guó)情和立場(chǎng)，人工智能監(jiān)管必然具有國(guó)別性差異。我國(guó)要走獨(dú)立自主的人工智能監(jiān)管立法道路，具體應(yīng)考慮以下幾個(gè)方面。其一，我國(guó)的人工智能技術(shù)發(fā)展面臨國(guó)際圍堵的嚴(yán)峻形勢(shì)。在算力方面，我國(guó)受到美國(guó)最新一版《芯片法案》的限制，已經(jīng)出現(xiàn)高端芯片采購(gòu)困難的困境。在算法方面，以ChatGPT為代表的生成式大模型出現(xiàn)非開源化趨勢(shì)。其二，我國(guó)的人工智能技術(shù)的開發(fā)和應(yīng)用主體主要是國(guó)內(nèi)公司，包括傳統(tǒng)的互聯(lián)網(wǎng)企業(yè)、專門從事人工智能產(chǎn)業(yè)的企業(yè)和高?？蒲性核?。其三，在制定人工智能監(jiān)管政策時(shí)，必須將國(guó)家安全放在重要位置。

今后，在我國(guó)人工智能監(jiān)管立法中，應(yīng)關(guān)注以下重要議題。一方面，主體的權(quán)利邊界與歸屬問(wèn)題。我們需要盡快厘清算法的開發(fā)過(guò)程和輸出結(jié)果中的各項(xiàng)權(quán)益分配和主體關(guān)系。其中，存在熱議的主要有兩項(xiàng)：其一，用于算法訓(xùn)練的數(shù)據(jù)所承載的權(quán)益及分配。理論界對(duì)于數(shù)據(jù)權(quán)屬有數(shù)據(jù)財(cái)產(chǎn)權(quán)說(shuō)、數(shù)據(jù)資產(chǎn)說(shuō)、有限產(chǎn)權(quán)說(shuō)等不同觀點(diǎn)，主流觀點(diǎn)認(rèn)為數(shù)據(jù)財(cái)產(chǎn)權(quán)說(shuō)不符合網(wǎng)絡(luò)信息社會(huì)發(fā)展的需要，可能產(chǎn)生數(shù)據(jù)壟斷等巨大的外部性。但對(duì)于數(shù)據(jù)權(quán)益如何正面定性及分配的問(wèn)題，至今仍無(wú)定論。其二，人工智能生成的內(nèi)容在主體權(quán)利間的分配問(wèn)題。人工智能具有一定的創(chuàng)造能力，但是其創(chuàng)造能力是基于輸入的語(yǔ)料，這些語(yǔ)料可能是具有版權(quán)的信息。如何定位機(jī)器學(xué)習(xí)和人工學(xué)習(xí)的差異，機(jī)器如何使用他人具有知識(shí)產(chǎn)權(quán)的知識(shí)屬于合理使用，侵權(quán)邊界如何認(rèn)定等議題，已成為知識(shí)產(chǎn)權(quán)領(lǐng)域面臨的時(shí)代命題。

另一方面，人工智能侵權(quán)如何歸責(zé)問(wèn)題。算法決策造成的侵權(quán)歸責(zé)，至少有四方面內(nèi)容有待明確，即應(yīng)當(dāng)向誰(shuí)進(jìn)行追責(zé)？采用何種追責(zé)原則？如何向適格的法律主體歸責(zé)？責(zé)任承擔(dān)形式為何？這些問(wèn)題會(huì)直接影響侵權(quán)歸責(zé)的合法性與合理性。其一，應(yīng)當(dāng)向誰(shuí)進(jìn)行追責(zé)。關(guān)于人工智能侵權(quán)的責(zé)任主體，存在兩點(diǎn)爭(zhēng)論：（1）自動(dòng)化決策的人工智能能否獨(dú)立承擔(dān)責(zé)任。（2）法律主體之間的責(zé)任如何分配。人工智能應(yīng)用領(lǐng)域涉及的法律主體包括技術(shù)開發(fā)者、服務(wù)提供者和使用者，對(duì)于相關(guān)責(zé)任如何在三者之間進(jìn)行合理分配的問(wèn)題，學(xué)術(shù)界尚未形成共識(shí)。其二，采用何種追責(zé)原則。不同類型人工智能的風(fēng)險(xiǎn)不同，應(yīng)用領(lǐng)域也有差別，技術(shù)研發(fā)者、服務(wù)提供者往往承擔(dān)差異化義務(wù)，以上因素導(dǎo)致難以適用統(tǒng)一的追責(zé)原則。其三，如何向適格的法律主體歸責(zé)。人工智能主要通過(guò)“人機(jī)交互”的方式，在具體場(chǎng)景中進(jìn)行應(yīng)用，所以要向適格的法律主體歸責(zé)，必須通過(guò)司法證明厘清人機(jī)分工，確定人工介入的行為是否直接屬于法律上的不法行為。其四，責(zé)任承擔(dān)形式。責(zé)任承擔(dān)形式是人工智能侵權(quán)歸責(zé)繞不開的一個(gè)問(wèn)題，這關(guān)乎責(zé)任最終如何落實(shí)以及產(chǎn)生何種效能。

（作者：周翔  浙江大學(xué)光華法學(xué)院特聘研究員）