隨著移動互聯(lián)基礎(chǔ)設(shè)施的大力建設(shè)和移動終端設(shè)備的廣泛普及，以海量數(shù)據(jù)為基礎(chǔ)的算法推薦技術(shù)與網(wǎng)約車、網(wǎng)絡(luò)購物、靈活用工等應(yīng)用場景的深度融合，給數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展注入強(qiáng)大動能。然而，算法推薦服務(wù)的廣泛應(yīng)用也可能引發(fā)算法黑箱、算法歧視、信息繭房等問題，對市場秩序、消費(fèi)者福利以及經(jīng)營者權(quán)益產(chǎn)生不利影響。

近期，全國首例算法推薦案——北京市海淀區(qū)人民法院對北京愛奇藝科技有限公司（下稱“愛奇藝”）訴北京字節(jié)跳動科技有限公司（下稱“字節(jié)”）侵害《延禧攻略》（下稱“延劇”）信息網(wǎng)絡(luò)傳播權(quán)一案作出判決。案中，原告愛奇藝訴稱，字節(jié)將用戶上傳的截取自延劇的短視頻向公眾傳播并推薦，侵害了愛奇藝對延劇享有的信息網(wǎng)絡(luò)傳播權(quán)。經(jīng)審理，法院認(rèn)定字節(jié)構(gòu)成幫助侵權(quán)，并判定賠償200萬元。

該案作為全國首例算法推薦案，引發(fā)了對提供算法推薦服務(wù)的平臺應(yīng)承擔(dān)何等注意義務(wù)及責(zé)任的廣泛探討，對算法推薦侵權(quán)責(zé)任的明確，將更有利于算法推薦技術(shù)的合理合法應(yīng)用，同時也為算法推薦服務(wù)提供者提出了警醒，有助于引導(dǎo)有關(guān)行業(yè)和平臺合規(guī)運(yùn)營。

算法推薦侵權(quán)歸責(zé)面臨困境

當(dāng)前，算法推薦侵權(quán)案件面臨“責(zé)任鴻溝”，所謂“責(zé)任鴻溝”是算法自主學(xué)習(xí)使得算法的設(shè)計者和運(yùn)營者未能預(yù)測未來及其運(yùn)行產(chǎn)生的后果，人對機(jī)器的行動并沒有足夠的控制權(quán)，因此無法要求其承擔(dān)傳統(tǒng)的機(jī)器制造者和操作者的過錯責(zé)任。依照傳統(tǒng)的歸責(zé)原則，一個法律主體只有在其知曉自己的行為及其后果，并且可以自由選擇是否作為的時候，才應(yīng)該承擔(dān)法律責(zé)任。

“責(zé)任鴻溝”在愛奇藝訴字節(jié)一案中亦有體現(xiàn)，在案中字節(jié)在辯稱其已盡到合理注意義務(wù)時提出，涉案信息流推薦技術(shù)不會識別視頻具體內(nèi)容，其無選擇推薦涉嫌侵權(quán)內(nèi)容的主觀意愿，不存在法律意義上的推薦行為。總體而言，其意在主張推送侵權(quán)視頻是算法推薦技術(shù)所為，字節(jié)不具有主觀過錯。

由此，算法推薦的“技術(shù)中立”成為了許多平臺企業(yè)規(guī)避侵權(quán)責(zé)任的抗辯理由，若放任平臺借助技術(shù)中立規(guī)避其應(yīng)承擔(dān)的相應(yīng)責(zé)任，不僅可能導(dǎo)致受害者無法得到其應(yīng)有的補(bǔ)償，還有可能導(dǎo)致算法推薦技術(shù)泛濫，成為平臺企業(yè)規(guī)避法律責(zé)任的“擋箭牌”，不利于相關(guān)行業(yè)的健康有序發(fā)展。那么應(yīng)如何認(rèn)定算法推薦侵權(quán)的法律責(zé)任呢？

算法推薦侵權(quán)歸責(zé)的類型化簡析

算法推薦侵權(quán)的法律責(zé)任認(rèn)定應(yīng)當(dāng)結(jié)合個案具體情形進(jìn)行判斷，此處將區(qū)分幾種情形進(jìn)行分析，明確不同類型的情形中算法推薦侵權(quán)的責(zé)任認(rèn)定、責(zé)任分配以及責(zé)任承擔(dān)的方式。

在涉及算法推薦侵權(quán)的案件中，侵權(quán)行為的發(fā)生通常可能牽涉三個主體，包括算法開發(fā)者、算法使用者、算法消費(fèi)者。其中，算法開發(fā)者是指開發(fā)設(shè)計算法推薦技術(shù)的主體；算法使用者是指使用算法推薦技術(shù)為用戶提供算法推薦服務(wù)，對算法的運(yùn)行過程具有控制力、支配力的主體；算法消費(fèi)者則是在數(shù)字經(jīng)濟(jì)背景下應(yīng)運(yùn)而生的一種新型的消費(fèi)者，是通過智能算法接入互聯(lián)網(wǎng)、物聯(lián)網(wǎng)等網(wǎng)絡(luò)空間，并在算法作用下為生活消費(fèi)購買商品或接受服務(wù)的消費(fèi)者，其具有身份上的多重性。

在人工智能算法技術(shù)廣泛適用的情景下，所有參與其中的主體，無論是開發(fā)者、使用者抑或消費(fèi)者，其身份和作用的界定只是相對的，是一個動態(tài)變化的過程。故在實(shí)踐中對算法推薦侵權(quán)責(zé)任的認(rèn)定和承擔(dān)，須結(jié)合個案發(fā)生場景予以分析，特別是對責(zé)任主體的識別需抱持開放多元的態(tài)度，再根據(jù)算法推薦是否直接導(dǎo)致侵權(quán)行為發(fā)生，以及不同主體在該算法推薦服務(wù)場景下的角色和作用予以責(zé)任劃分，大抵分為兩類情形予以考察。

1.算法推薦直接導(dǎo)致侵權(quán)發(fā)生。

在此情形中，損害結(jié)果是算法推薦技術(shù)運(yùn)行所致而非人為所致。此時，侵權(quán)行為法律責(zé)任的認(rèn)定與分配，首先，需要考察算法推薦技術(shù)在設(shè)計上是否存在導(dǎo)致侵權(quán)損害發(fā)生的因素，并考察這些因素是否源于算法開發(fā)者的主觀方面。即便算法推薦技術(shù)的自動化運(yùn)行和深度學(xué)習(xí)過程無需人為干預(yù)，但在算法推薦技術(shù)的開發(fā)與設(shè)計中能夠嵌入算法開發(fā)者的主觀意圖，使得算法能夠在無需人為幫助的情況下，實(shí)現(xiàn)算法開發(fā)者欲達(dá)到的特定目的。若算法推薦技術(shù)本身存在導(dǎo)致侵權(quán)損害發(fā)生的因素，則可以推定算法開發(fā)者存在主觀過錯，其應(yīng)當(dāng)對侵權(quán)損害的發(fā)生負(fù)有一定的法律責(zé)任。

其次，需要考察算法使用者是否存在主觀過錯。當(dāng)平臺企業(yè)作為算法使用者而非開發(fā)者時，即便其因算法黑箱無從得知算法可能潛在的侵權(quán)風(fēng)險，其對算法的運(yùn)行也具有實(shí)際的控制力，因此，負(fù)有一定的注意義務(wù)，當(dāng)其在知道或應(yīng)當(dāng)知道算法推薦技術(shù)的運(yùn)行會導(dǎo)致侵權(quán)行為發(fā)生，仍放任該侵權(quán)算法運(yùn)行時，存在主觀過錯，同樣需要承擔(dān)相應(yīng)的法律責(zé)任。

在此類情形中，一般不涉及算法消費(fèi)者的法律責(zé)任，因?yàn)樗惴ㄏM(fèi)者僅是接受算法推薦服務(wù)的對象，對算法推薦技術(shù)無直接控制力。當(dāng)然，在算法互動場景中，無論是開發(fā)者、使用者抑或消費(fèi)者的身份皆可能發(fā)生變化，因此，在一些情形中，算法消費(fèi)者的身份也會發(fā)生轉(zhuǎn)化而需要承擔(dān)相應(yīng)的法律責(zé)任。譬如，用戶主動上傳內(nèi)容或主動關(guān)閉個性化推薦都會對算法推薦的精準(zhǔn)性產(chǎn)生影響，此時算法消費(fèi)者與算法使用者的身份發(fā)生交融，成為算法推薦行為的共同實(shí)施者，由此可能需要對相應(yīng)的行為效果承擔(dān)責(zé)任。

再如，若算法消費(fèi)者獲得的是開源算法，當(dāng)其在原算法基礎(chǔ)上進(jìn)行編輯時，可能會改變算法的原有運(yùn)行邏輯和用途，此時算法消費(fèi)者會轉(zhuǎn)變?yōu)樗惴ㄩ_發(fā)者，若侵權(quán)行為的發(fā)生與其編輯行為有關(guān)，則需要承擔(dān)法律責(zé)任。

此外，還需要注意的是，人工智能算法的自學(xué)習(xí)能力，會基于算法消費(fèi)者的行為或者上傳的數(shù)據(jù)不斷調(diào)整和優(yōu)化算法，此時，算法消費(fèi)者其實(shí)也在參與算法的開發(fā)，可視為算法的輔助開發(fā)者，然而，與真正的算法開發(fā)者不同，其是被動地參與算法的開發(fā)，無法真正參與算法的編輯過程，由此形成的算法并不包含算法消費(fèi)者的主觀意圖。

因此，即便算法因自動化學(xué)習(xí)導(dǎo)致侵權(quán)行為發(fā)生，這些被動的算法開發(fā)者并不存在主觀過錯，因而無需承擔(dān)與真正的算法開發(fā)者相同的法律責(zé)任，但是如果存在該類算法消費(fèi)者主觀故意的上傳虛假信息，誘導(dǎo)算法使用的情況，甚至存在利用算法獲取不正當(dāng)利益，將算法消費(fèi)行為演化為妨礙、破壞算法的行為時，則應(yīng)承擔(dān)相應(yīng)的侵權(quán)責(zé)任，甚至嚴(yán)重的將面臨刑事責(zé)任。

對于侵權(quán)責(zé)任的分配，則需要考察對侵權(quán)發(fā)生存在主觀過錯的主體數(shù)量，若侵權(quán)行為由兩個或者兩個以上的主體所致，當(dāng)這些主體存在共同故意或者過失時，或者雖無共同故意、共同過失，但其侵害行為直接結(jié)合發(fā)生同一損害后果的，構(gòu)成共同侵權(quán)，則需由這些主體承擔(dān)連帶責(zé)任。若兩個或兩個以上的主體沒有共同故意或者過失，但其分別實(shí)施的數(shù)個行為間接結(jié)合發(fā)生同一損害后果的，應(yīng)根據(jù)過失大小或者原因力比例，各自承擔(dān)相應(yīng)的法律責(zé)任。

2.算法推薦間接致使侵權(quán)發(fā)生。

在此類情形下算法推薦技術(shù)和服務(wù)并非是導(dǎo)致侵權(quán)損失發(fā)生的直接原因，僅起到間接作用。前述愛奇藝訴字節(jié)一案則屬于此類案件，字節(jié)所采用的信息流推薦技術(shù)，僅起到了向用戶精準(zhǔn)、高效推薦的作用，其本質(zhì)上是該公司向用戶提供網(wǎng)絡(luò)服務(wù)的輔助工具，不會直接導(dǎo)致侵權(quán)損失的發(fā)生，只會導(dǎo)致侵權(quán)結(jié)果進(jìn)一步擴(kuò)大。

與第一類情形類似，在第二類情形中同樣需要對算法開發(fā)者、算法使用者以及算法消費(fèi)者的法律責(zé)任進(jìn)行區(qū)分認(rèn)定。與第一類情形不同的是，在第二類情形中的侵權(quán)損失主要由人為所致。以愛奇藝訴字節(jié)為例，作為發(fā)布涉案侵權(quán)短視頻的消費(fèi)者，其在明知或應(yīng)知愛奇藝擁有該作品獨(dú)家版權(quán)的情況下，發(fā)布涉案侵權(quán)視頻，具有一定的主觀過錯，侵害了愛奇藝的作品信息網(wǎng)絡(luò)傳播權(quán)。

值得注意的是，字節(jié)所使用的算法是協(xié)同過濾推薦算法，該方法的核心思路是用戶喜好相似，則點(diǎn)擊行為也接近。通過內(nèi)容推薦收集到一定的用戶點(diǎn)擊量后，就會進(jìn)行協(xié)同過濾推薦。這意味著，瀏覽和搜索涉案侵權(quán)視頻的算法消費(fèi)者，實(shí)際上也參與到了算法的使用過程中，同時具備算法使用者的身份。

然而，算法使用者的身份并不當(dāng)然導(dǎo)致這些消費(fèi)者承擔(dān)法律責(zé)任，因?yàn)榇税钢兴惴ㄊ褂谜叩哪康膬H為瀏覽而非傳播涉案侵權(quán)視頻，且其被動參與算法使用過程，算法推薦特定涉案視頻并不屬于這些算法消費(fèi)者（使用者）的主觀意愿，僅是源于協(xié)同過濾推薦算法原有設(shè)計者的初衷。

故此，雖然該案中算法消費(fèi)者和算法使用者對侵權(quán)損失的發(fā)生、擴(kuò)大、加重共同發(fā)揮了作用，但是由于算法消費(fèi)者與算法使用者在主觀意圖、過錯，應(yīng)負(fù)有的相關(guān)義務(wù)，以及對算法推薦的實(shí)際控制及行為效果的獲益等方面均有不同，即對侵權(quán)損失的形成、原因及效果比例上不盡相同，故在責(zé)任認(rèn)定、分配及承擔(dān)上亦應(yīng)不同。值得注意的是，未來對算法消費(fèi)者的相應(yīng)責(zé)任應(yīng)予關(guān)注。

一般情況下，網(wǎng)絡(luò)服務(wù)提供者對用戶個體的侵權(quán)行為適用“通知—刪除規(guī)則”，然而，在愛奇藝訴字節(jié)一案中，平臺在侵權(quán)過程中獲得了巨大流量收益和競爭優(yōu)勢，即取得競爭優(yōu)勢與流量、經(jīng)濟(jì)利益與引發(fā)更大侵權(quán)風(fēng)險并存，故從比例原則來看，理應(yīng)承擔(dān)更高的注意義務(wù)，采取更加有效的措施來阻止侵權(quán)行為發(fā)生，若僅要求其承擔(dān)“通知-刪除”義務(wù)，并不能達(dá)到有效制止、預(yù)防侵權(quán)行為發(fā)生的實(shí)質(zhì)效果。

算法（推薦）使用者積極扎實(shí)做好合規(guī)

愛奇藝訴字節(jié)一案作為我國算法推薦侵權(quán)第一案，不僅為將來隨著算法推薦技術(shù)廣泛應(yīng)用而增多的算法推薦侵權(quán)案件提供指引，也為算法推薦服務(wù)行業(yè)作出了警示，“技術(shù)中立”已難以為算法推薦服務(wù)提供者提供“避風(fēng)港”，其需承擔(dān)更多的注意義務(wù)以規(guī)避法律風(fēng)險。

今年1月4日，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(下稱《規(guī)定》)進(jìn)一步細(xì)化了算法推薦服務(wù)者的義務(wù)。《規(guī)定》于今年3月1日起施行。

《規(guī)定》明確要求算法推薦服務(wù)提供者應(yīng)當(dāng)建立健全用于識別違法和不良信息的特征庫，完善入庫標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)違法信息的，應(yīng)當(dāng)立即停止傳輸，采取消除等處置措施，防止信息擴(kuò)散。這對作為算法推薦服務(wù)提供者或使用者的平臺企業(yè)提出了更高的責(zé)任承擔(dān)、義務(wù)履行及風(fēng)險防范要求。

鑒于此，作為算法使用的主要主體和推薦服務(wù)的主要提供者，平臺企業(yè)應(yīng)不斷提升算法推薦合規(guī)水平和合規(guī)能力，嚴(yán)格遵守《規(guī)定》所明確的義務(wù)，建立事前審查和實(shí)時完善多場景合規(guī)的立體、動態(tài)的規(guī)則體系，加強(qiáng)算法推薦服務(wù)版面頁面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，尤其是對于在首頁首屏、熱搜、精選、榜單類、彈窗等重點(diǎn)環(huán)節(jié)應(yīng)當(dāng)重點(diǎn)把關(guān)，避免侵權(quán)行為影響進(jìn)一步擴(kuò)大化。同時，也需加大對自動識別違法侵權(quán)內(nèi)容的算法識別技術(shù)的研發(fā)。總體而言，平臺企業(yè)在享受算法技術(shù)為企業(yè)帶來巨大紅利的同時，也需承擔(dān)相應(yīng)的義務(wù)與責(zé)任，提升防范算法侵權(quán)風(fēng)險的技術(shù)水平和治理能力。

（陳兵系南開大學(xué)競爭法研究中心主任、法學(xué)院教授，中國新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員；林思宇系南開大學(xué)競爭法研究中心博士生）

標(biāo)簽： 算法推薦 侵權(quán)責(zé)任 平臺企業(yè) 算法技術(shù) 技術(shù)中立