騰訊研究院發布2019年10-11月網絡法專報
作者 | 曹建峰 騰訊研究院高級研究員
熊辰 騰訊研究院法律研究中心助理研究員
《騰訊網絡法專報》匯集每月全球網際網路法律政策新動態，涉及範圍有網絡安全、人工智慧、數字產業、GDRP等各方面，旨在從法律政策角度，為新興技術帶來的社會問題進行專業解讀。2019年10-11月《騰訊網絡法專報》涉及智慧財產權保護、平臺責任、未成年人保護、人工智慧、隱私保護、數據治理、虛擬財產等主題。
本文為精選Part1《人工智慧與平臺責任篇》，2019年10-11月《騰訊網絡法專報》全部內容將於近期發布，敬請關注騰訊研究院公眾號。
//人工智慧 //
德國發布AI和數據倫理的75項建議，提出數據和算法協同治理、分級監管等理念
關鍵詞：數據、算法、應用倫理、算法問責
2018年，德國成立了數據倫理委員會，負責為德國聯邦政府制定數字社會的道德標準和具體指引。2019年10月10日，委員會發布「針對數據和算法的建議」（以下簡稱《建議》），旨在回答聯邦圍繞數據和人工智慧算法提出來的系列問題並給出政策建議。[1]《建議》圍繞「數據」和「算法系統」展開，包括「一般倫理與法律原則」、「數據」、「算法系統」、「歐洲路徑」四部分內容。德國數據倫理委員會認為，人格尊嚴、自我決策、隱私、安全、民主、正義、團結、可持續發展等應被視為德國不可或缺的數字社會行為準則，這一理念也應在「數據」和「算法系統」的監管中加以貫徹。
數據治理方面，《建議》指出在一般治理標準指導下，對個人數據與非個人數據分別監管，平衡數據保護與數據利用。《建議》提出了治理的一般標準，包括數據質量應符合其用途；信息安全標準與信息風險水平相適應；以利益為導向的透明度義務（Interest-oriented transparency）。因此在數據治理中，必須建立具有預見性的責任分配機制，尊重數據主體以及參與數據生成的各方權利。總體而言，數據倫理委員會認為數據是由各方的貢獻生成的，不能基於這種對數據生成的貢獻來主張對數據的所有權，但是各方可享有對具體數據生成和利用的參與、共同決定等數據權利，反過來可能導致其他各方承擔相應的義務，這意味著承認服務提供者對服務提供活動中產生的各類數據享有法律權益。具體而言，數據監管需要區別個人數據和非個人數據，因為不同類型的數據權利和義務是不同的。就個人數據而言，個人在多大程度上享有權利應取決於如下因素:對數據生成的貢獻程度；在數據權益中個人權益所佔的比重；與第三方可能存在的利益衝突；公共利益以及當事人利益的平衡。就非個人數據而言，《建議》提出在歐洲改進數據基礎設施(例如平臺、應用程式接口標準和示範合同等)，防止過度依賴第三方的基礎設施，防止歐洲創新型公司外流。此外，《建議》還提出要建立和推廣政府數據開放平臺（open government data (OGD)），支持私營部門自願的共享數據安排。同時，委員會認為非個人數據保護在推動數據開放與加強數據保護之間存在緊張關係，因此推動開放數據應審慎評估其對數據保護、商業投資的影響。當兩者發生衝突時，國家應優先數據的保護。
數據驅動下，算法治理重點在於「算法監督」以及「算法責任」。委員會認為以人為本，與核心價值觀相符合，系統的可持續性、穩健性和安全性，減少偏見和算法歧視等理念是算法系統設計應遵循的基本原則。以上述基本原則為基礎，《建議》提出制定算法評估方案，其核心設想在於建立數字服務企業使用數據的5級風險評級制度，對不同風險類型的企業採取不同的監管措施[2]：
（1）對於具有較低潛在危害的系統例如飲料製作機，不應監管；
（2）對於具有潛在危害的系統，例如電子商務平臺的動態定價機制應該放寬管制，可以採用事後控制機制，加強披露義務等來降低其潛在危險；
（3）對於具有一般或明顯危害的系統，應考慮以發放許可證的方式，促使審批、監管常規化；
（4）對於具有相當潛在風險的系統，例如在信用評估方面具有準壟斷地位的公司，應公布其算法細節，包括計算所參考的因素及其權重，算法所使用的數據，以及對算法模型的內在邏輯進行解釋；
（5）對於自動化武器等具有潛在不合理危險的系統，則應該「完全或者部分」禁止。
對於二級以上的企業，委員會建議引入強制性標記系統（mandatory labelling scheme），要求運營商明確是否、何時以及在何種程度上使用算法系統。一旦運營商接受該強制性要求，就必須嚴格遵守該標記，否則其負責人需承擔責任。數據倫理委員會將在「可解釋人工智慧」(旨在提高算法系統，特別是自主學習系統的解釋能力)的框架下開展工作，包括編制和發布風險評估建議、解釋數據的處理過程、衡量數據質量以及算法模型準確性的方法等。委員會認為，以上機制能成立的前提是細化GDPR第22條中自動化決策的適用範圍和法律後果；並在算法規則以外引入外部保護機制，比如加強反歧視立法。此外，《建議》還就政府機構、媒介中介使用算法系統提出了具體的建議。在算法系統的責任方面，委員會建議必要時對《產品責任指令》以及其他責任法進行修訂，增加針對數字產品和數字服務的侵權責任規則。最後，《建議》認為，即使是高度自主的算法系統也不能獲得法律上的獨立地位，經營者使用高度自主的算法技術產生的賠償責任應當與以往輔助設備的負責人需要承擔的替代賠償責任制度相一致。
《建議》是德國數據倫理委員會設立以來的主要研究成果，為德國下一階段數據和算法的監管提供了較為清晰的思路。鑑於數據生態系統的複雜性和動態性，《建議》在數據以及算法的監管中突出了協同治理，分級監管，多樣化監管的理念。治理手段不僅包括立法和標準化建設，還包括各方利益的協調以及行業自律。此外，數據和算法技術本身也可作為治理工具發揮作用。
《建議》側重於數據與算法的監管，其所提議的監管舉措也引發了對阻礙創新的擔憂。如美國數據創新中心認為，該建議將會對人工智慧的發展產生寒蟬效應：「德國希望在全球數字經濟的發展中更具有競爭力，但不應該以監管來代替創新。這一政策將使在德的外國企業處於不利競爭地位，以這樣的方式加強歐洲的數據主權是不可取的。」[3]
德國的立法動議往往影響廣泛，此次《建議》中有關數據和算法的監管思路很有可能被納入歐盟未來的人工智慧規則構建之中，並進而影響全球的數據保護政策。德國數據倫理委員會在論及歐洲未來的發展時提出，在未來的全球競爭中，面對技術和商業模式的快速更迭，捍衛數字主權（the digital sovereign-ty）不僅是一種政治上的遠見，還是一種必要的道德責任外化（ expression of ethicalresponsibility）。德國乃至全歐盟成員國，應努力成為全球規則的制定者而不是接受者。[4]
AI版權保護成國際社會關注焦點，美國USPTO推進AI智慧財產權政策的明確化
關鍵詞：人工智慧、AI生成作品、人類幹預、新型數據權利
隨著人工智慧（AI）持續影響內容創作、發明創造等人類智力創造領域，開始更多扮演「創作者」「發明者」等角色，國際社會已在著力應對人工智慧對版權、專利、商標、商業秘密等智慧財產權制度的影響。8月27日，美國專利商標局（USPTO）就AI對專利制度的影響，向美國各界公開徵求意見。[5]10月30日，USPTO再次發布通知，將公開徵求意見的範圍擴大到了AI對版權、商標及其他智慧財產權的影響。[6]此次公開徵求意見表明美國在AI智慧財產權保護立場上的重大轉變，因為在此前的猴子自拍案中美國法院認為，美國版權法只保護人類作者的獨創性表達。美國版權局此前也明確表示，「機器或純粹的機械程序在沒有人類作者的創造性輸入或幹預的情況下，隨機或自動運行而產生的作品」不具有可版權性。此次公開徵求意見對AI創作物的智慧財產權保護的影響還未可知，但未來USPTO可能就AI智慧財產權保護問題發布指南，進一步闡明AI智慧財產權保護規則。在此基礎上，USPTO最終可能對美國的IP法律和政策作出調整。
就此次公開徵求意見而言，USPTO主要關注以下方面。一是專利方面，如何界定AI發明（包括使用AI的發明和AI開發的發明）；如何認定自然人對AI發明的貢獻，如設計、調整算法，組織數據，訓練算法等；開發訓練用於進行發明創造的AI程序的公司是否可以獲得專利權：AI發明相關的可專利性條件、披露條件、據以實施要件、本領域技術人員、現有技術等事項有何特殊變化；AI專利是否需要新形式的智慧財產權保護，如數據保護。
二是版權方面，最核心的問題即是AI創作物的可版權性：AI算法或程序在沒有自然人參與創作情況下產生的作品是否受版權保護？如果需要自然人的輸入和參與，需要貢獻到何種程度才能獲得版權保護？具體可能有哪些貢獻，如設計開發AI算法或程序或者為設計開發做出貢獻，為訓練算法等目的收集、選擇數據，訓練AI算法或程序的公司是否可以獲得版權？此外，還涉及AI的版權侵權問題，即AI算法或程序通過攝入大量的版權內容來精進其功能，是否屬於合理使用？作者能否控制其作品的此種使用方式？如果AI算法或程序生產的作品侵犯了他人著作權，如何分配侵權責任？
三、商標、商業秘密、數據保護等方面，AI如何影響商標法和商業秘密法，既有的商標法和商業秘密法是否足以應對在市場中使用AI的風險？AI如何影響資料庫、數據集的保護訴求？既有的法律是否足以保護此類數據？
可以看出，美國智慧財產權界已在全面審視人工智慧對智慧財產權制度的影響，並尋求應對之策。除了美國之外，國際社會也在加速推進AI智慧財產權保護規則的建立。例如，國際智慧財產權保護協會（AIPPI）已於今年9月通過「關於AI生成作品版權保護的決議」，其中提出了AI生成作品獲得版權保護的標準，核心即是存在人類幹預（human intervention）的AI生成作品可以獲得版權保護，不存在人類幹預的則可獲得鄰接權保護。[7]12月13日，WIPO也發布了「關於人工智慧與智慧財產權政策的文件」，就AI相關的專利、版權、數據、設計等問題向各界公開徵求意見。[8]此外，歐盟、日本等也在制定人工智慧相關的智慧財產權保護規則。
顯然，在當前階段，AI尚不能在脫離人類幹預的情況下，完全獨立自主地從事文學藝術創作活動。從AI算法或程序的設計開發，到相關數據的選擇和輸入，再到對輸出結果的控制，都離不開人類的實質性參與和貢獻。因此現階段人工智慧本質上仍屬創作工具或手段。完全可以比照「法人作品」的規定，由設計開發AI算法或程序的公司享有著作權。更進一步，除了版權問題，數據作為AI的核心，未來是否需要針對數據創設新的權利，也需要進一步的探討。
// 平臺責任 //
歐盟法院裁定各成員國可要求Facebook在全球範圍內篩選和刪除非法內容，《電子商務指令》適用範圍引爭議
關鍵詞：不法信息、平臺監管、Facebook、《電子商務指令》
10月3日，歐盟法院（CJEU）通過了一項裁定：各成員國可要求Facebook在全球範圍內篩選和刪除被認定為非法的內容。該裁定源於2016年奧地利綠黨議會前主席格勞琴向奧地利法院提起的一起訴訟，要求Facebook愛爾蘭公司刪除其平臺用戶發布的一條涉及其本人的誹謗性言論。奧地利法院支持了其訴訟請求，隨後Facebook刪除了該條內容。該案後上訴到海牙法院和奧地利維也納高等法院，最終雙方均向CJEU提起上訴。CJEU被要求裁定，針對社交網絡運營商的刪除命令是否也可以擴展到具有相同措辭或相似表述的內容，以及這種刪除是否在全球範圍內適用。由於該問題涉及對歐盟法律的解釋，CJEU決定暫停訴訟程序，並分別就以下三個問題做出初步裁決：[9]
一是《歐盟電子商務指令》（Directive2000/31/EC）（下文簡稱《指令》）第15(1)條是否一般性地排除了所有在線中間服務者（Online Intermediaries）的主動刪除非法信息義務；二是此處所指的非法信息是否不僅包括《指令》第14(1)(a)條的情形[10]，還應包括其他相似措辭的等同信息（equivalent meaning）；三是若對等同信息也同樣適用，那麼一旦平臺知曉這些「等同信息」的存在，是否也需要採取刪除等措施。
針對前兩個問題，CJEU認為，不排除讓Facebook等平臺在全球範圍內刪除被法院認定為非法的內容及其等同信息。《指令》第15(1)條規定，提供管道、緩存、主機服務的網絡服務提供商不需要承擔主動監督信息存儲和傳輸的一般性義務，也不需要主動收集表明違法活動的事實或情況。此條免除了特定在線服務商的主動檢測與刪除義務。然而本案中，CJEU認為，鑑於當下網際網路信息傳播速度快，覆蓋範圍廣，各成員國應當及時決策並採取必要措施處理非法信息，減小其傳播的負面影響。且《指令》在中間服務提供者責任一章中，要求在線服務商在一定情況下對網站內容承擔責任的規定旨在制止任何可能的侵權行為並防止任何可能的進一步利益損害。從文義解釋的角度出發，CJEU認為「任何」意味著在遵守國際法的前提下，這些措施不應當有地域範圍的適用限制。
根據移交的材料，法院認為原告格勞琴所稱的「等同信息」是指傳達了同樣的內容，但是在措辭上與被法院認定為非法信息略有不同的信息，具體而言，可包括侵權人的姓名、侵權行為的情況以及與宣布為非法內容相同的內容等要素。如上解釋，為了防止任何可能的進一步損害，該強制令在內容上也必須擴大到對「等同信息」的監管。否則，此類等同信息很容易逃脫禁令的限制，當事人可能需要啟動多個程序去制止這種侵害。
基於對前兩個問題的判斷，對於最後一個問題——一旦平臺知曉這些等同信息的存在，是否也需要採取刪除等措施，CJEU的答案是肯定的。同時CJEU進一步解釋到，網絡平臺需要刪除的是相對於原始內容而言基本不變的內容，因此不需要Facebook進行獨立評估，只需使用自動搜索技術即可篩選。
由於《電子商務指令》規定，對於在線平臺侵權責任的豁免，不影響法院對其發布特定的行為禁令，這為本案中禁令適用的擴張提供了正當性。CJEU做出上述裁定後，將就該案件的實體問題繼續審理。Facebook對該裁定表示強烈的抗議，其在一份聲明中表示，希望法院細化該裁定的具體適用標準，否則這一裁定不僅會加重平臺義務，且由於各國在隱私保護和言論自由規則上的出入，還可能面臨難以在全球範圍內實施的尷尬。
歐盟《電子商務指令》已經實施20餘年，重點協調各國關於在線中間服務商就第三方非法內容（包括智慧財產權侵權、誹謗或者誤導性廣告等信息）免責的條件，《指令》曾為歐洲電子商務的發展掃除了障礙，營造了較為寬鬆的產業發展環境。伴隨商業模式的更迭以及數位技術的快速發展，歐盟認為需要採取更加嚴厲的內容監管措施。新一屆歐盟委員會正在商議制定《數字服務法案》（The Digital Services Act），根據連任歐委會競爭專員的瑪格麗特·維斯塔格在質詢會上透露的信息，《數字服務法案》將針對在線內容分享平臺設定新的責任，包括強制在線平臺刪除包含種族主義、仇恨言論等在內的非法內容，否則將面臨巨額罰款。該法案如出臺將會取代目前的《電子商務指令》，在打擊仇恨言論和非法內容方面做出更嚴厲的規定。[11]從某種程度上來講，這一系列裁決也是在為《數字服務法案》鋪平道路。
無論是《電子商務指令》的再擴張，還是擬制定的《數字服務法案》，或是已經頒布的《單一數字市場版權指令》、GDPR，以及持續推進中的數字稅、平臺治理規則、網際網路反壟斷調查等，都是歐盟實施「單一數字市場戰略」的重要舉措。一直以來，歐盟各成員國國內立法和司法的差異阻礙歐盟的統一運作，尤其是妨礙了跨國界數字服務的發展，導致歐盟在網際網路領域長期缺乏競爭力。因此歐盟希望通過立法、法律解釋以及司法裁判等方式，來構建歐盟內部統一的網際網路監管模式，以此促進內部數字市場的發展，並制衡美國等國際網際網路產業力量。歐盟法院此次判決進一步體現了這一趨勢，尤其是在涉及假新聞、仇恨言論等非法內容的治理上，歐盟頻頻給美國大型網際網路平臺施壓。歐盟接下來出臺的《數字服務法案》，將可能代表未來一段時間歐盟針對網際網路監管的整體思路，值得密切關注。
參考資料
[1]https://www.bmjv.de/SharedDocs/Downloads/DE/Themen/Fokusthemen/Gutachten_DEK_EN.pdf?__blob=publicationFile&v=2
[2]https://algorithmwatch.org/en/germanys-data-ethics-commission-releases-75-recommendations-with-eu-wide-application-in-mind/
[3]https://www.datainnovation.org/2019/10/german-recommendations-for-ai-regulation-will-have-a-chilling-effect-on-ai-adoption/
[4]https://algorithmwatch.org/en/germanys-data-ethics-commission-releases-75-recommendations-with-eu-wide-application-in-mind/
[5]https://www.federalregister.gov/documents/2019/08/27/2019-18443/request-for-comments-on-patenting-artificial-intelligence-inventions。
[6]https://www.federalregister.gov/documents/2019/10/30/2019-23638/request-for-comments-on-intellectual-property-protection-for-artificial-intelligence-innovation。
[7]http://www.aippi.nl/nl/documents/Resolution_Copyright_in_artificially_generated_works_English.pdf
[8]https://www.wipo.int/pressroom/en/articles/2019/article_0017.html
[9]http://curia.europa.eu/juris/document/document.jsf?docid=218621&text=&dir=&doclang=EN&part=1&occ=first&mode=DOC&pageIndex=0&cid=2108884。
[10]《指令》第14(1)(a)條規定，信息存儲服務提供商在對違法活動或違法信息不知情的情況下，成員國應確保服務提供者不會因此擔責。
[11]https://netzpolitik.org/2019/leaked-document-eu-commission-mulls-new-law-to-regulate-online-platforms/。
--END--
騰訊網絡法專報編委會
騰訊網絡法專報總編輯：司曉
執行主編：張欽坤
責任編輯：曹建峰 朱開鑫 田小軍
編委會：蔡雄山 杜曉宇 王融 柳雁軍 彭宏潔 巴潔如 溫博欣 喬婷婷
掃描上方二維碼，
填寫問卷，訂閱網絡法專報