試論生成式人工智能侵權(quán)的責(zé)任主體---以ChatGPT為例

一、問題提出

作為討論規(guī)范治理的邏輯起點(diǎn)，法律主體資格是指在法律關(guān)系中享有權(quán)利、履行義務(wù)、承擔(dān)責(zé)任的資格或能力。隨著人工智能時(shí)代的到來，以聊天機(jī)器人ChatGPT為代表的生成式人工智能將廣泛應(yīng)用于各大場(chǎng)景中，在豐富與便利生產(chǎn)生活，創(chuàng)造更多創(chuàng)新發(fā)展機(jī)會(huì)的同時(shí)，也引發(fā)了諸多侵權(quán)損害與法律挑戰(zhàn)，如數(shù)據(jù)合規(guī)風(fēng)險(xiǎn)、生成內(nèi)容濫用風(fēng)險(xiǎn)、算法濫用風(fēng)險(xiǎn)、隱私保護(hù)風(fēng)險(xiǎn)等。其中最大的風(fēng)險(xiǎn)是數(shù)據(jù)來源與生成內(nèi)容以假亂真等引發(fā)的侵權(quán)問題，需要我們?cè)诜缮献龀霰匾幕貞?yīng)。以AI孫燕姿侵權(quán)案為例，從生成式人工智能的技術(shù)邏輯和行為特征可以看出，其內(nèi)容的輸入與輸出都是基于對(duì)海量數(shù)據(jù)樣本的分析、訓(xùn)練和學(xué)習(xí)，這就可能涉及包含個(gè)人信息、知識(shí)產(chǎn)權(quán)等內(nèi)容的數(shù)據(jù)。故在其數(shù)據(jù)收集或內(nèi)容生成的過程中，就可能對(duì)他人的隱私權(quán)、人格尊嚴(yán)、知識(shí)產(chǎn)權(quán)等構(gòu)成侵權(quán)。[1]另外，以布萊恩·胡德訴ChatGPT誹謗案為例，生成式人工智能對(duì)海量多源數(shù)據(jù)的分析與學(xué)習(xí)既無法真正實(shí)現(xiàn)全部由人工檢查、標(biāo)注和監(jiān)督，在運(yùn)行時(shí)也無法保證每一次都能識(shí)別使用者的惡意誘導(dǎo)，從而導(dǎo)致可能生成侵犯他人名譽(yù)的虛假文本、圖片、視頻信息。

有損害就要有救濟(jì)，那么為切實(shí)保障受到侵害的合法權(quán)益，應(yīng)當(dāng)由誰(shuí)來承擔(dān)侵權(quán)責(zé)任就成為一個(gè)不可避免的問題。然而，我國(guó)以往關(guān)于人工智能的法治研究與規(guī)范，主要集中在自動(dòng)駕駛和智慧醫(yī)療等領(lǐng)域。近年來，學(xué)者們對(duì)生成式人工智能的研究也主要集中在風(fēng)險(xiǎn)治理方面，侵權(quán)責(zé)任方面的研究較少。另外，生成式人工智能領(lǐng)域的相關(guān)法律規(guī)范尚未健全。2023年7月發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》盡管規(guī)定了生成式人工智能服務(wù)提供者的責(zé)任，即明確了生成式人工智能的技術(shù)開發(fā)商、提供可編程接口等接入服務(wù)的組織和個(gè)人均需對(duì)其生成的內(nèi)容承擔(dān)責(zé)任，但并未對(duì)生成式人工智能侵權(quán)的具體責(zé)任承擔(dān)主體進(jìn)行細(xì)化和規(guī)范。因此，對(duì)生成式人工智能侵權(quán)責(zé)任主體的研究具有現(xiàn)實(shí)意義?；诖?，本文將從對(duì)生成式人工智能非責(zé)任主體的論證出發(fā)，進(jìn)一步剖析賦予生成式人工智能服務(wù)提供者、使用者與第三方責(zé)任主體地位的合理性，以期學(xué)界能有更深入的研究與規(guī)范。

二、生成式人工智能的非責(zé)任主體地位

隨著人工智能的出現(xiàn)、應(yīng)用與發(fā)展，其智能性、自主性、創(chuàng)造性日益增強(qiáng)。其中人工智能是否具有法律主體地位，能否承擔(dān)侵權(quán)責(zé)任，是責(zé)任劃分的前提性條件，也是世人關(guān)注的焦點(diǎn)。因此，在這一問題上，理論界就人工智能的法律主體資格展開了激烈討論，各有不同觀點(diǎn)。通過梳理有關(guān)文獻(xiàn)資料，可發(fā)現(xiàn)國(guó)內(nèi)學(xué)者大致分為兩種流派。

第一種是否定說，即人工智能不具備類似自然人的思維和獨(dú)立自由的意識(shí)，也不存在似法人一般的社會(huì)價(jià)值，人工智能只能作為法律客體，不具備成為法律主體的條件。這也是國(guó)內(nèi)法學(xué)界的主流意見。譬如，白玉杰和張昱提出法律制度的核心始終在于以人為中心，而人工智能本質(zhì)上仍只是一種機(jī)器，不具備作為法律主體的資格。[2] 

第二種是肯定說，即不同于否定說對(duì)人工智能的保守看法，它認(rèn)為應(yīng)突破“二元主體論”，在自然人和法人之外將人工智能設(shè)立為新的法律主體。但對(duì)于賦予人工智能以何種法律主體資格的問題上，學(xué)者們各抒己見，主要包括完全人格說、擬制人格說、電子人格說、有限主體資格說等。例如，2017年沙特阿拉伯確認(rèn)機(jī)器人索菲亞與自然人同等的公民地位，享有與履行和自然人同等的權(quán)利與義務(wù)。袁曾主張生成式人工智能已經(jīng)具備類人類意識(shí)能力與行為能力特征，在法人這一擬制主體的現(xiàn)實(shí)借鑒下，可考慮給予它以特殊的法律主體地位，但由于其智能機(jī)器的身份限制以及以人為本的倫理基礎(chǔ)，決定了其自身法律人格的限度。[3]

無論否定說，還是肯定說，都從理論邏輯出發(fā)展開了較為深入的研究并具有一定的說服力。以筆者之見，人工智能作為提升人們生活水平和生產(chǎn)效率的技術(shù)工具，現(xiàn)階段無論其多么智能，本質(zhì)上仍只是受人支配的輔助物，并不具備享有法律主體資格的條件。主要基于如下幾點(diǎn)考慮：

第一，人工智能缺乏自然人的理性自主意識(shí)。在判斷人工智能的法律主體資格時(shí)，其是否具備理性自主意識(shí)是其中的核心要素。當(dāng)前，以ChatGPT為代表的生成式人工智能相比傳統(tǒng)人工智能自主性和智能性都有了明顯提升，可以在與人類交流互動(dòng)的同時(shí)，“創(chuàng)作”出文本、繪畫、視頻等內(nèi)容物。但結(jié)合其技術(shù)邏輯和運(yùn)行原理可知，其行為完全是基于數(shù)據(jù)樣本及算法模型下實(shí)施的，而原始數(shù)據(jù)離不開人類的采集和整理，算法模型是由人類預(yù)先設(shè)計(jì)且建構(gòu)而成的，其運(yùn)作也依賴于人類下達(dá)指令。因此，生成式人工智能本身內(nèi)在價(jià)值觀的產(chǎn)生及其基本行為方式的選擇，完全可以歸咎于該人工智能的設(shè)計(jì)研發(fā)者、服務(wù)提供者等。換句話說，其并不具備像自然人一樣的獨(dú)立自主意識(shí)，體現(xiàn)的只是背后設(shè)計(jì)開發(fā)者與服務(wù)提供者的主觀判斷和價(jià)值取向，這也是目前AIGC普遍帶有偏見與歧視風(fēng)險(xiǎn)的原因之一。此外，以ChatGPT為代表的大語(yǔ)言模型之所以會(huì)出現(xiàn)“幻覺”通病，主要原因就在于其并無所謂的人類思維與理性意識(shí)，對(duì)于情感抒發(fā)與語(yǔ)言表達(dá)，它并非能像人類一樣理解，而只能是基于訓(xùn)練數(shù)據(jù)的高度模仿。因此，不可避免地會(huì)出現(xiàn)一本正經(jīng)的胡說八道，編造“看起來合理，本質(zhì)上卻不正確或不存在”的信息。

第二，人工智能與法人組織不同，不能自主承擔(dān)法律責(zé)任。法人是擬制的法律主體，是由人集合而成的實(shí)體，它的意志是由下轄的組織機(jī)關(guān)及其成員共同形成，獨(dú)立財(cái)產(chǎn)也由其成員共同出資構(gòu)成。與此同時(shí)，即便法人憑其獨(dú)有財(cái)產(chǎn)獨(dú)立承擔(dān)了法律責(zé)任，從實(shí)踐中可以看出，歸根結(jié)底也只是由其成員承受被懲罰的痛苦。相反，人工智能是人為了滿足生活和工作需要而創(chuàng)造的機(jī)械工具。以ChatGPT為例，其只是由GPT3.5模型架構(gòu)的、能與使用者進(jìn)行對(duì)話互動(dòng)的智能應(yīng)用，并非由人組合而成。也就說，設(shè)計(jì)研發(fā)者、服務(wù)提供者、使用者等并非是其成員。同時(shí)，人工智能也不像法人擁有負(fù)擔(dān)法律責(zé)任的獨(dú)立財(cái)產(chǎn)，也沒有規(guī)范認(rèn)識(shí)和理解能力，即不會(huì)認(rèn)識(shí)到所犯錯(cuò)誤，更無法感知懲罰帶來的痛苦，故若讓其承擔(dān)法律責(zé)任則沒有任何意義。一方面，無法發(fā)揮法律的救濟(jì)作用，不能讓受害人得到實(shí)質(zhì)性的彌補(bǔ)。另一方面，無法實(shí)現(xiàn)法律的懲戒效用，難以避免再犯罪的危險(xiǎn)。

綜上，人工智能不應(yīng)被賦予法律主體資格。究其根本，人工智能作為新時(shí)代信息技術(shù)革命的產(chǎn)物，無論是傳統(tǒng)人工智能，抑或是生成式人工智能始終都以服務(wù)人類、服務(wù)社會(huì)而非實(shí)現(xiàn)自我為目標(biāo)，正如張凌寒所言：“在鼓勵(lì)我國(guó)生成式人工智能發(fā)展的思路下，應(yīng)將生成式人工智能定位為基礎(chǔ)設(shè)施，”[4]而非人類社會(huì)中法律主體中的一員，否則人類將沒有理由把人工智能作為一種服務(wù)工具來使用。

三、生成式人工智能服務(wù)提供者、使用者和第三方的責(zé)任主體地位

在生成式人工智能不具備法律主體資格的前提下，需要重新考慮其侵權(quán)的責(zé)任承擔(dān)者。在傳統(tǒng)網(wǎng)絡(luò)侵權(quán)中，根據(jù)《民法典》第七編的相關(guān)規(guī)定往往涉及三方侵權(quán)責(zé)任主體，即網(wǎng)絡(luò)用戶、網(wǎng)絡(luò)服務(wù)提供者和第三人。對(duì)應(yīng)到生成式人工智能領(lǐng)域中，可歸責(zé)之主體可以細(xì)分為生成式人工智能服務(wù)提供者、使用者、第三方等多方責(zé)任承擔(dān)者。首先，數(shù)據(jù)來源與算法設(shè)計(jì)等是決定人工智能生成內(nèi)容質(zhì)量與可信度的關(guān)鍵，生成式人工智能服務(wù)提供者在這一核心要素上充當(dāng)著把關(guān)人和決定者的角色。因此，根據(jù)“誰(shuí)支配，誰(shuí)負(fù)責(zé)”的原則，明確其是生成式人工智能侵權(quán)行為的責(zé)任主體具有合理性，理由如下。

一是，由于生成式人工智能輸出結(jié)果的準(zhǔn)確性依賴于海量多源的數(shù)據(jù)，而根據(jù)《辦法》第七條規(guī)定，高質(zhì)量的數(shù)據(jù)離不開人為干預(yù)，服務(wù)提供者應(yīng)當(dāng)落實(shí)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》等法律法規(guī)的監(jiān)管要求，對(duì)生成式人工智能的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)等訓(xùn)練數(shù)據(jù)類型與來源的合法性負(fù)責(zé)。同時(shí)，《辦法》第九條強(qiáng)調(diào)服務(wù)提供者對(duì)輸出內(nèi)容承擔(dān)生產(chǎn)者責(zé)任和個(gè)人信息處理者責(zé)任，故當(dāng)篩選數(shù)據(jù)和輸出內(nèi)容過程中出現(xiàn)了合法性與真實(shí)性偏差時(shí)，監(jiān)管者可依據(jù)責(zé)任規(guī)范來判定有關(guān)主體的責(zé)任。

二是，以ChatGPT為例，生成式人工智能所依賴的基礎(chǔ)數(shù)據(jù)和算法使用方式由其服務(wù)提供者控制和決定，其可以在對(duì)數(shù)據(jù)進(jìn)行標(biāo)注或設(shè)計(jì)算法時(shí)，將某些價(jià)值觀嵌入其中。故而，在生成式人工智能自身缺乏理性意識(shí)的前提下，其生成行為本質(zhì)上仍體現(xiàn)著數(shù)據(jù)把關(guān)者和算法程序編制者---生成式人工智能服務(wù)提供者的主觀意志與價(jià)值選擇。具而言之，生成式人工智能服務(wù)提供者在很大程度上可以決定和支配人工智能輸出成果的合法合規(guī)性。如此，可以將生成式人工智能與其服務(wù)提供者之間的關(guān)系類比為“委托-代理”的法律關(guān)系，其中人工智能的生成行為可以視為“代理”其服務(wù)提供者從事行為或作出決定。據(jù)《民法典》第162條，相應(yīng)的就應(yīng)當(dāng)由服務(wù)提供者對(duì)人工智能的侵權(quán)行為承擔(dān)法律責(zé)任。

其次，以ChatGPT為例，生成式人工智能內(nèi)容的輸出不僅依賴于系統(tǒng)本身的訓(xùn)練數(shù)據(jù)和算法邏輯，亦取決于不同使用者的個(gè)性化需求以及對(duì)生成內(nèi)容所作的反饋。加之，即便生成式人工智能服務(wù)提供者履行了審慎注意義務(wù)，因其沒有審查監(jiān)管生成內(nèi)容全過程的能力，從而無法避免不良用心的使用者利用其服務(wù)制造侵犯他人權(quán)益的內(nèi)容。例如，據(jù)美國(guó)新聞可信度評(píng)估與研究機(jī)構(gòu)對(duì)ChatGPT所做的測(cè)試，虛假信息研究人員對(duì)它提出充滿誤導(dǎo)性敘述的問題，發(fā)現(xiàn)它能在極短時(shí)間內(nèi)對(duì)信息進(jìn)行改編，生成大量有說服力但又不真實(shí)的信息。[5]這一特點(diǎn)可能導(dǎo)致ChatGPT被有心之人所利用，成為高效的犯罪工具，侵害個(gè)人權(quán)益，甚至可能會(huì)引發(fā)整個(gè)社會(huì)信任體系的崩潰。故不僅存在生成式人工智能自動(dòng)侵權(quán)的情況，也有使用者輸入相關(guān)指令“調(diào)教”生成式人工智能對(duì)外生成含有違法性內(nèi)容的情況。根據(jù)“誰(shuí)的行為支配生成式AI引發(fā)了侵害結(jié)果，誰(shuí)就應(yīng)當(dāng)對(duì)該結(jié)果負(fù)責(zé)”的責(zé)任承擔(dān)機(jī)制，在使用者故意誘導(dǎo)致侵權(quán)結(jié)果發(fā)生的情形下，使用者作為過錯(cuò)一方，理應(yīng)承擔(dān)侵權(quán)的責(zé)任。

另外，生成式人工智能侵權(quán)風(fēng)險(xiǎn)與各環(huán)節(jié)主體均有關(guān)系，包括貌似無關(guān)的第三方。如智能系統(tǒng)遭遇黑客侵入，并被惡意操控與篡改，使得系統(tǒng)程序紊亂而無法按照正當(dāng)?shù)某绦蛟O(shè)計(jì)運(yùn)行，正常且合理問題下出現(xiàn)了仇視性或暴力攻擊性言論，通過傳播由此給他人造成了嚴(yán)重威脅。聊天機(jī)器人Meta AI便有類似經(jīng)歷。[4]在這種情況下，據(jù)《民法典》第1175條規(guī)定，黑客作為造成損害的第三人，理應(yīng)承擔(dān)侵權(quán)責(zé)任。

四、結(jié)語(yǔ)

科學(xué)技術(shù)是把雙刃劍。人們?cè)谙硎芤訡hatGPT為代表的生成式人工智能為人類社會(huì)提供便利的同時(shí)，也要正視其帶來的多樣性侵權(quán)風(fēng)險(xiǎn)，以及復(fù)雜的責(zé)任承擔(dān)問題。本文基于對(duì)我國(guó)現(xiàn)行法律基礎(chǔ)和法律價(jià)值的考慮，結(jié)合ChatGPT等的技術(shù)邏輯和運(yùn)行原理論證生成式人工智能侵權(quán)的責(zé)任主體。一方面，生成式人工智能作為數(shù)字時(shí)代的產(chǎn)物，缺乏獨(dú)立自主意識(shí)和責(zé)任承擔(dān)能力，其存在只是為了服務(wù)于現(xiàn)實(shí)人類的生存與發(fā)展。因此，應(yīng)將其定位為法律客體，不享有責(zé)任主體地位。另一方面，根據(jù)“誰(shuí)支配，誰(shuí)負(fù)責(zé)”原則，綜合分析服務(wù)提供者、使用者和第三方對(duì)侵權(quán)行為的實(shí)質(zhì)作用，合理承擔(dān)責(zé)任，為目前法律體系下無法賦予生成式人工智能獨(dú)立法律主體地位的問題提供解決途徑；也為進(jìn)一步構(gòu)建安全有序、科學(xué)合理、惠及人民的未來智能生態(tài)系統(tǒng)提供了法律保障。

本文來源：《產(chǎn)品可靠性報(bào)告》http://m.12-baidu.cn/w/kj/32519.html