編者按

作為全球首部全面規(guī)制人工智能的重點(diǎn)法律，歐盟《人工智能法》的重要性不言而喻。一方面，它具有域外效力，將對(duì)包括在歐盟以外運(yùn)營、開發(fā)和使用 AI 系統(tǒng)或模型的企業(yè)產(chǎn)生重大影響；另一方面，我國已將“人工智能立法”提上日程，歐盟《人工智能法》在AI監(jiān)管領(lǐng)域的先行探索，或?qū)⒂绊懳爷浏鋰⒎ǖ谋O(jiān)管路徑。

《互聯(lián)網(wǎng)法律評(píng)論》本次刊登北京航空航天大學(xué)法學(xué)院副教授王天凡的文章《人工智能監(jiān)管的路徑選擇——?dú)W盟人工智能法的范式、爭(zhēng)議及影響》（經(jīng)作者授權(quán)，轉(zhuǎn)載自《歐洲研究》2024年第3期）。該文對(duì)歐盟《人工智能法》進(jìn)行了?cè)娼馕?，篇幅較長，本文將分為三個(gè)主題進(jìn)行刊載。今日刊載第一部分——?dú)W盟《人工智能法》背景及進(jìn)程。

通過對(duì)歐盟“數(shù)字十年”和人工智能戰(zhàn)略的分析，以及對(duì)《人工智能法》的立法進(jìn)程的梳理，作者王天凡認(rèn)為，歐盟對(duì)人工智能技術(shù)雖然打著“強(qiáng)規(guī)制”的旗號(hào)，其背后的根本態(tài)度依然是“促進(jìn)”。這一洞見，對(duì)于深刻理解《人工智能法》具體監(jiān)管規(guī)則的廣泛性和靈活性、制定相應(yīng)的合規(guī)體系將大有裨益。

此外，今日《互聯(lián)網(wǎng)法律評(píng)論》二條提供了2份關(guān)于歐盟《人工智能法》的資料（iapp整理），一份是《人工智能法》實(shí)施的后續(xù)步驟，一份是《人工智能法》與其他法律文件形成的監(jiān)管交叉網(wǎng)絡(luò)圖。希望能夠?yàn)樽x者學(xué)習(xí)和研究《人工智能法》提供便利。

人工智能及其監(jiān)管對(duì)人類而言是新生事物，世界各主要法域都在嘗試制定監(jiān)管規(guī)則以應(yīng)對(duì)這一挑戰(zhàn)。中國《國務(wù)院2024年度立法工作計(jì)劃》也已將人工智能立法列入預(yù)備提請(qǐng)審議項(xiàng)目。目前，立法應(yīng)采用何種監(jiān)管路徑尚無定論，而各法域的前期探索對(duì)這一問題具有參考價(jià)值。

歐盟《人工智能法》（AI Act）的制定集合了歐盟范圍內(nèi)科技界、產(chǎn)業(yè)界、宗教界、法學(xué)界、哲學(xué)界、政治界等諸多領(lǐng)域及人群的代表性觀點(diǎn)、權(quán)衡以及妥協(xié)，也在很大程度上反映了歐盟民眾對(duì)待人工智能的社會(huì)心理，可以說是最前沿、最具代表性的立法嘗試之一。深入研究歐盟人工智能立法的背景、監(jiān)管范式、規(guī)制要點(diǎn)及立法過程中的核心爭(zhēng)議等，有助于學(xué)界理解人工智能法律規(guī)制的核心問題，對(duì)中國人工智能的立法和研究亦有所裨益。

一、歐盟的數(shù)字立法版圖

從歷史圖景來看，歐洲私法為了適應(yīng)社會(huì)數(shù)字化發(fā)展經(jīng)歷了?cè)ɡ顺保?/p>

第一波始于20世紀(jì)90年代末，旨在使法律規(guī)則適應(yīng)電子商務(wù)的要求；

第二波目前方興未艾，主要是為了應(yīng)對(duì)新技術(shù)條件下商業(yè)模式的法律規(guī)制，包括對(duì)數(shù)字內(nèi)容或服務(wù)和智能產(chǎn)品交易的規(guī)制；

第三波則初露端倪，主要聚焦于私法如何應(yīng)對(duì)自主運(yùn)行的人工智能。

圖片：歐盟數(shù)字十年指南針（來源：歐盟官網(wǎng)）

在戰(zhàn)略層面，歐盟將2020-2030年定為“數(shù)字十年”，制定了明確的數(shù)字戰(zhàn)略目標(biāo)，指出了提高數(shù)字技能、實(shí)現(xiàn)行政和商業(yè)數(shù)字化、促進(jìn)研究和創(chuàng)新、縮小數(shù)字差距以及升級(jí)數(shù)字基礎(chǔ)設(shè)施等發(fā)展方向。與此同時(shí)，歐盟在個(gè)人信息保護(hù)、數(shù)字市場(chǎng)治理和數(shù)據(jù)資源利用等數(shù)字化發(fā)展的關(guān)鍵領(lǐng)域不斷推進(jìn)立法，意圖在數(shù)字化未來的法律規(guī)制方面發(fā)揮領(lǐng)導(dǎo)作用。

在個(gè)人信息保護(hù)、數(shù)據(jù)隱私和數(shù)字身份方面，自2018年《一般數(shù)據(jù)保護(hù)條例》（GDPR）生效后，歐盟委員會(huì)于2021年提出《數(shù)字身份條例框架》草案（eID），據(jù)此，所有歐盟公民、居民和企業(yè)都可以使用歐洲數(shù)字身份錢包。新框架修訂了2014年生效的歐盟《內(nèi)部市場(chǎng)電子交易的電子識(shí)別和信任服務(wù)條例》（eIDAS），這一條例為歐盟安全獲取公共服務(wù)和進(jìn)行在線跨境交易奠定了基礎(chǔ)。2023年，歐盟理事會(huì)和歐洲議會(huì)就歐盟數(shù)字身份問題達(dá)成臨時(shí)協(xié)議，這標(biāo)志著歐盟朝著“2030數(shù)字十年”公共服務(wù)數(shù)字化目標(biāo)邁出了重要一步，被認(rèn)為是歐盟成為數(shù)字領(lǐng)域全球參考樣本、保護(hù)歐盟的民眾權(quán)利和價(jià)值觀的關(guān)鍵進(jìn)展。

在數(shù)字市場(chǎng)治理方面，隨著2022年《數(shù)字市場(chǎng)法》和《數(shù)字服務(wù)法》的通過，歐盟在數(shù)字平臺(tái)監(jiān)管與數(shù)字市場(chǎng)競(jìng)爭(zhēng)方面樹立了監(jiān)管標(biāo)桿。前者對(duì)大型平臺(tái)課以“守門人”義務(wù)，防止其對(duì)其他企業(yè)和消費(fèi)者施加不公平條件。后者對(duì)施行逾20年的歐盟《電子商務(wù)指令》（2000/31/EC）進(jìn)行了重大修訂，從內(nèi)容管理、廣告推送、透明度等方面構(gòu)建數(shù)字平臺(tái)“階梯式”監(jiān)管模式，力圖使歐盟的單一市場(chǎng)在數(shù)字領(lǐng)域更加體現(xiàn)公平、消費(fèi)者友好和競(jìng)爭(zhēng)力。

在數(shù)據(jù)資源的利用方面，2022年，歐盟委員會(huì)提出了歐盟《數(shù)據(jù)法案》（Data Act）草案，并于2023年12月正式獲得通過并發(fā)布。該法案是繼2022年的《數(shù)據(jù)治理法案》（Data Governance）后，歐盟委員會(huì)在“歐洲數(shù)據(jù)戰(zhàn)略”之下的第二項(xiàng)主要立法舉措。歐盟《數(shù)據(jù)法案》規(guī)定了數(shù)據(jù)持有者在符合條件時(shí)向用戶和第三方提供數(shù)據(jù)的義務(wù)、向公共部門和機(jī)構(gòu)提供數(shù)據(jù)的義務(wù)、用戶在不同的數(shù)據(jù)處理提供商之間切換的權(quán)利、非個(gè)人數(shù)據(jù)的國際傳輸、禁止不公平合同條款等。該法案旨在通過促進(jìn)跨部門和利益相關(guān)者的數(shù)據(jù)共享，確保數(shù)字環(huán)境中參與者之間數(shù)據(jù)價(jià)值分配的公平性，刺激數(shù)據(jù)市場(chǎng)競(jìng)爭(zhēng)，使歐盟成為數(shù)據(jù)驅(qū)動(dòng)型社會(huì)的領(lǐng)導(dǎo)者。

二、《人工智能法》的立法背景：歐盟的人工智能戰(zhàn)略

作為已經(jīng)展開的數(shù)字立法版圖的“第三步”，歐盟在過去五年間密集出臺(tái)了數(shù)十份涉及人工智能的法規(guī)（Regulation）、指令（Directive）、準(zhǔn)則（Guideline）、決議（Resolution）等。尤其在2020年之后，相關(guān)內(nèi)容更是呈現(xiàn)“井噴”之勢(shì)，盡顯歐盟對(duì)人工智能關(guān)注之密切。歐盟對(duì)人工智能技術(shù)的態(tài)度在此期間也發(fā)生了轉(zhuǎn)變，由一邊倒的“促進(jìn)”和“推動(dòng)”轉(zhuǎn)變至“促進(jìn)與規(guī)制并舉”。

2018年，歐盟委員會(huì)先后出臺(tái)了兩份關(guān)于人工智能的重磅文件——“歐洲人工智能戰(zhàn)略”及“人工智能協(xié)調(diào)計(jì)劃”。二者的核心目標(biāo)均在于促進(jìn)人工智能在歐洲的發(fā)展。

在“歐洲人工智能戰(zhàn)略”中，歐盟委員會(huì)指出，人工智能是歐盟委員會(huì)“工業(yè)數(shù)字化戰(zhàn)略”和“新產(chǎn)業(yè)政策戰(zhàn)略”的一部分，計(jì)算能力的增長、數(shù)據(jù)的可用性和算法的進(jìn)步使人工智能成為21世紀(jì)最具戰(zhàn)略意義的技術(shù)之一。歐洲領(lǐng)導(dǎo)人已將人工智能列為首要議程，認(rèn)為歐盟應(yīng)該采取協(xié)調(diào)一致的方法，充分利用人工智能提供的機(jī)遇并應(yīng)對(duì)其帶來的新挑戰(zhàn)。歐洲保持競(jìng)爭(zhēng)力的主要挑戰(zhàn)之一是確保人工智能技術(shù)在其工業(yè)經(jīng)濟(jì)中的應(yīng)用。歐盟委員會(huì)認(rèn)為，歐洲可以憑借其價(jià)值觀和工業(yè)優(yōu)勢(shì)，包括利用世界一流的研究人員、實(shí)驗(yàn)室和初創(chuàng)公司、數(shù)字單一市場(chǎng)、豐富的工業(yè)、研究和公共部門數(shù)據(jù)等，在開發(fā)和使用人工智能方面發(fā)揮帶頭作用。“歐洲人工智能戰(zhàn)略”的三大支柱分別是：增加對(duì)人工智能的公共和私人投資，為社會(huì)經(jīng)濟(jì)變革做好準(zhǔn)備，以及確保人工智能的開發(fā)和應(yīng)用在符合歐洲價(jià)值觀的框架內(nèi)進(jìn)行，包括尊重基本權(quán)利、倫理規(guī)則、透明度及責(zé)任承擔(dān)等。這一戰(zhàn)略制定了雄心勃勃的目標(biāo)：歐盟必須加大對(duì)人工智能的公共和私人投資，以實(shí)現(xiàn)未來十年每年投資超過200億歐元的目標(biāo)。

歐盟委員會(huì)在“人工智能協(xié)調(diào)計(jì)劃”中指出，歐洲目前在人工智能領(lǐng)域的私人投資方面處于落后地位。如果不做出重大努力，歐盟就有可能失去人工智能帶來的機(jī)遇，面臨人才流失的挑戰(zhàn)，只能成為其他國家開發(fā)的解決方案的消費(fèi)者。而監(jiān)管機(jī)構(gòu)的重要職責(zé)則在于消除分散市場(chǎng)造成的障礙，避免人工智能等戰(zhàn)略領(lǐng)域的市場(chǎng)碎片化。該計(jì)劃在政策層面上包括：建立歐洲人工智能公私合作模式，為初創(chuàng)企業(yè)和創(chuàng)新型中小企業(yè)提供更多融資；提高國家研究能力，促進(jìn)歐洲最好的研究團(tuán)隊(duì)之間的合作；促進(jìn)人工智能在經(jīng)濟(jì)中最廣泛的應(yīng)用；調(diào)整教育與職業(yè)培訓(xùn)體系，吸引人才，支持勞動(dòng)力市場(chǎng)轉(zhuǎn)型；以《一般數(shù)據(jù)保護(hù)條例》為支柱，建立包括公共部門在內(nèi)的對(duì)人工智能發(fā)展至關(guān)重要的歐洲數(shù)據(jù)空間，解決數(shù)據(jù)訪問、非個(gè)人數(shù)據(jù)流動(dòng)等問題，并以“歐洲高性能計(jì)算計(jì)劃”（EuroHPC）和“歐洲處理器計(jì)劃”為保障；制定具有全球視野的倫理準(zhǔn)則，確保相關(guān)法律框架有利于創(chuàng)新、人工智能應(yīng)用和基礎(chǔ)設(shè)施的安全，并促進(jìn)國際安全。

2019年由歐盟人工智能高級(jí)別專家組起草的“值得信賴的人工智能倫理準(zhǔn)則”，正是為回應(yīng)前述文件中對(duì)人工智能監(jiān)管之需要而擬定。這標(biāo)志著歐盟對(duì)人工智能的規(guī)制開始“加碼”。該準(zhǔn)則提出，要實(shí)現(xiàn)“可信賴的人工智能”，必須具備三個(gè)要素：（1）合法；（2）符合道德原則；（3）穩(wěn)健。以此為核心，該準(zhǔn)則列明了七項(xiàng)關(guān)鍵要求：人工機(jī)構(gòu)和監(jiān)督、技術(shù)魯棒性和安全性、隱私和數(shù)據(jù)管理、透明度、多樣性和非歧視及公平性、環(huán)境和社會(huì)福祉、問責(zé)制。需要注意的是，該準(zhǔn)則不具有約束力，因此不會(huì)產(chǎn)生新的法律義務(wù)。歐盟的許多現(xiàn)有法律已經(jīng)反映了其中一項(xiàng)或多項(xiàng)關(guān)鍵要求，例如安全、個(gè)人數(shù)據(jù)保護(hù)、隱私或環(huán)境保護(hù)等。

2020年，歐盟委員會(huì)發(fā)布《人工智能白皮書》。白皮書中明確指出，盡管在發(fā)布上述倫理準(zhǔn)則時(shí)采用了軟法方式，但歐盟委員會(huì)認(rèn)為，適用于人工智能系統(tǒng)的道德準(zhǔn)則和現(xiàn)有法律已不足以解決人工智能開發(fā)和部署所帶來的風(fēng)險(xiǎn)，因此，歐盟決定轉(zhuǎn)向強(qiáng)制立法，并呼吁制定一項(xiàng)新的針對(duì)人工智能的強(qiáng)制性法規(guī)。白皮書重申“人工智能應(yīng)該為人類服務(wù)，成為社會(huì)造福的力量”，其指導(dǎo)原則是創(chuàng)建卓越生態(tài)系統(tǒng)（“政策框架”）和信任生態(tài)系統(tǒng)（“監(jiān)管框架”）。在規(guī)制的強(qiáng)度方面，白皮書認(rèn)為應(yīng)以“有效性”和“不過分規(guī)范”為標(biāo)準(zhǔn)。雖未涉及具體措施，但白皮書認(rèn)為應(yīng)遵循基于風(fēng)險(xiǎn)的方法，確保干預(yù)適當(dāng)并足夠靈活，以適應(yīng)技術(shù)進(jìn)步并精確提供法律之確定性。但該白皮書也遭到了諸多批評(píng)，如有觀點(diǎn)認(rèn)為白皮書以及整個(gè)歐盟的戰(zhàn)略模棱兩可缺乏遠(yuǎn)見。

2022年，歐盟委員會(huì)發(fā)布了《人工智能責(zé)任指令》草案，建議引入專門針對(duì)人工智能系統(tǒng)所造成損害的新規(guī)則，對(duì)歐盟責(zé)任框架進(jìn)行補(bǔ)充和現(xiàn)代化，包括構(gòu)建“同等保護(hù)”原則、“因果關(guān)系推定”規(guī)則等。這一指令出臺(tái)的直接原因是，鑒于人工智能侵權(quán)案件與傳統(tǒng)侵權(quán)案件的不同，歐盟各國國內(nèi)法院在法律適用上面臨困境和不統(tǒng)一，如果歐盟不及時(shí)采取行動(dòng)，成員國必將各自調(diào)整其國家責(zé)任規(guī)則，這會(huì)進(jìn)一步加劇該領(lǐng)域法律的碎片化，損害歐盟單一市場(chǎng)，并導(dǎo)致跨境貿(mào)易企業(yè)和中小企業(yè)成本過高。另外，鼓勵(lì)對(duì)新興數(shù)字技術(shù)的信任，并為歐盟人工智能產(chǎn)品和服務(wù)的發(fā)展創(chuàng)造必要的投資穩(wěn)定性，也是歐盟委員會(huì)提議背后的重要?jiǎng)右?。?/p>

上述針對(duì)人工智能系統(tǒng)相關(guān)責(zé)任問題的新規(guī)則只是歐盟一系列舉措中的一部分，而通過《人工智能法》制定適用于所有在歐盟市場(chǎng)投放或使用的人工智能系統(tǒng)的共同規(guī)則，正是歐盟關(guān)于人工智能法律規(guī)制的重點(diǎn)。

三、歐盟《人工智能法》的立法進(jìn)程

早在2021年4月，歐盟委員會(huì)就提出了?cè)蚴讉€(gè)人工智能法律框架提案——?dú)W盟《人工智能法》草案。為使“歐洲成為值得信賴的人工智能全球中心”，該草案充分回應(yīng)了上述歐洲議會(huì)及理事會(huì)的多項(xiàng)呼吁，包括解決某些人工智能系統(tǒng)的不透明性、復(fù)雜性、偏差、一定程度的不可預(yù)測(cè)性和部分自主行為等問題。

2024年1月，歐洲議會(huì)正式發(fā)布了《人工智能法》草案的修正案（以下稱為“一讀修正案”）。一讀修正案中包含了大量修改，這是三方會(huì)談密集談判的結(jié)果，也是對(duì)歐盟委員會(huì)草案所受到的各種批評(píng)的回應(yīng)。

2024年3月，歐洲議會(huì)正式通過了《人工智能法》。議會(huì)通過版在一讀修正案基礎(chǔ)上又做出大量修改，最終于2024年5月得到歐盟理事會(huì)的批準(zhǔn)。

作為一部監(jiān)管人工智能的全面性、強(qiáng)制性法律，《人工智能法》的立法目標(biāo)在于：

（1）確保進(jìn)入歐盟市場(chǎng)和使用的人工智能系統(tǒng)是安全的，并尊重有關(guān)基本權(quán)利和符合歐盟價(jià)值觀的現(xiàn)行法律；

（2）實(shí)現(xiàn)法律的確定性，以促進(jìn)人工智能領(lǐng)域的投資和創(chuàng)新；

（3）加強(qiáng)對(duì)適用于人工智能系統(tǒng)的基本權(quán)利和安全要求的現(xiàn)行法律的管理和有效執(zhí)行；

（4）促進(jìn)合法、安全和可信的人工智能應(yīng)用單一市場(chǎng)的發(fā)展，防止市場(chǎng)分散。

在規(guī)則的設(shè)置上，草案體現(xiàn)出“平衡”與“適度”的監(jiān)管思想，將干預(yù)限制在解決人工智能相關(guān)風(fēng)險(xiǎn)和問題的最低必要性之上，避免過度限制或阻礙技術(shù)發(fā)展，或不成比例地增加將人工智能技術(shù)投放市場(chǎng)的成本。

由此，歐盟建構(gòu)了以《人工智能法》為核心，包括《人工智能責(zé)任指令》《產(chǎn)品責(zé)任指令》等以特別問題為規(guī)制對(duì)象的指令，針對(duì)平臺(tái)但也涉及人工智能的法規(guī)（如《數(shù)字服務(wù)法》和《數(shù)字市場(chǎng)法》等），以及不涉及具體人工智能技術(shù)的法規(guī)（如《一般數(shù)據(jù)保護(hù)條例》等）作為支柱的對(duì)人工智能系統(tǒng)的監(jiān)管體系。

圖片：歐盟人工智能監(jiān)管部分大事件（來源：歐盟官網(wǎng)）

歐盟對(duì)待人工智能技術(shù)雖然打著“強(qiáng)規(guī)制”的旗號(hào)，其背后的根本態(tài)度依然是“促進(jìn)”。其“強(qiáng)規(guī)制”的實(shí)際目標(biāo)在于促進(jìn)人工智能技術(shù)達(dá)至“可信”，從而為歐盟企業(yè)、公共部門及民眾對(duì)人工智能的接納鋪平道路，拓展歐盟的人工智能技術(shù)市場(chǎng)及數(shù)據(jù)空間；遠(yuǎn)期目標(biāo)則關(guān)系到歐盟的整體戰(zhàn)略、核心利益、價(jià)值觀和話語權(quán)的實(shí)現(xiàn)。

（待續(xù)）

相關(guān)閱讀

生效！歐盟《人工智能法案》是紙老虎嗎？

全球AI監(jiān)管丨歐盟《人工智能法案》的通過“不是歐盟AI立法終點(diǎn)”

吳沈括：歐盟《人工智能法案》的出臺(tái)意味著什么？

作者：王天凡

《互聯(lián)網(wǎng)法律評(píng)論》特約專家

北京航空航天大學(xué)法學(xué)院副教授

【免責(zé)聲明】此文僅代表作者個(gè)人觀點(diǎn)，與本平臺(tái)無關(guān)。本平臺(tái)對(duì)文中陳述、觀點(diǎn)判斷保持中立，不對(duì)所包含內(nèi)容的準(zhǔn)確性、完整性或可靠性提供任何明示或暗示的保證。

《互聯(lián)網(wǎng)法律評(píng)論》提供業(yè)界解決方案

互聯(lián)網(wǎng)法律國際監(jiān)管動(dòng)態(tài)研究

互聯(lián)網(wǎng)產(chǎn)業(yè)投資和政策監(jiān)管研究

合作聯(lián)系

021yin.com

互聯(lián)網(wǎng)法律評(píng)論

《互聯(lián)網(wǎng)法律評(píng)論》是一個(gè)全新的法律自媒體平臺(tái)，持續(xù)關(guān)注中國及全球互聯(lián)網(wǎng)科技發(fā)展、產(chǎn)業(yè)發(fā)展和法律監(jiān)管合規(guī)問題，尤其是數(shù)據(jù)安全與個(gè)人隱私保護(hù)、知識(shí)產(chǎn)權(quán)、反壟斷等政策監(jiān)管主題。

該公號(hào)運(yùn)營團(tuán)隊(duì)包括：國際國內(nèi)互聯(lián)網(wǎng)政策和法律研究、財(cái)經(jīng)媒體資深主編、互聯(lián)網(wǎng)企業(yè)公關(guān)戰(zhàn)略和品牌運(yùn)營等不同的專業(yè)人士，致力于打造一個(gè)持續(xù)輸出政策法律前瞻信息研究、且具有傳播優(yōu)勢(shì)的精品平臺(tái)。