01.

三大義務(wù)，不是選擇題

做生成式 AI服務(wù)，Zui常被問(wèn)到的三個(gè)詞是：算法備案、安全評(píng)估、內(nèi)容標(biāo)識(shí)。很多創(chuàng)業(yè)者把它們當(dāng)成上線(xiàn)后再補(bǔ)的手續(xù)，結(jié)果在監(jiān)管檢查或融資盡調(diào)時(shí)卡殼。其實(shí)這三項(xiàng)在現(xiàn)行規(guī)則里是并列的硬義務(wù)，尤其對(duì)具有輿論屬性或者社會(huì)動(dòng)員能力的服務(wù)，缺一不可。

02.

灣谷科普：什么是算法備案與深度合成標(biāo)識(shí)

算法備案，通俗理解就是：把你的推薦或生成算法登記在冊(cè)——向監(jiān)管部門(mén)填報(bào)服務(wù)名稱(chēng)、應(yīng)用領(lǐng)域、算法類(lèi)型、自評(píng)估報(bào)告等，相當(dāng)于給算法發(fā)一張身份證。安全評(píng)估則是對(duì)算法可能帶來(lái)的內(nèi)容安全、社會(huì)穩(wěn)定風(fēng)險(xiǎn)做自評(píng)與整改。

內(nèi)容標(biāo)識(shí)，是指 AI 生成的圖片、視頻等必須打上這是 AI做的標(biāo)記（顯式水印或隱式元數(shù)據(jù)），讓用戶(hù)一眼能分辨真假，防止深度合成內(nèi)容被當(dāng)成真實(shí)信息流傳。

03.

備案不是走形式：三大義務(wù)的邊界

《生成式人工智能服務(wù)管理暫行辦法》第十七條把邊界說(shuō)得很清楚：提供者應(yīng)當(dāng)根據(jù)算法推薦相關(guān)規(guī)定的要求，開(kāi)展安全評(píng)估、算法備案；提供具有輿論屬性或社會(huì)動(dòng)員能力的服務(wù)，必須做安全評(píng)估并履行算法備案及變更、注銷(xiāo)手續(xù)。第十二條進(jìn)一步要求，對(duì)圖片、視頻等生成內(nèi)容按深度合成規(guī)定進(jìn)行標(biāo)識(shí)。

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十四條給出操作細(xì)節(jié)：具有輿論屬性或社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者，應(yīng)在提供服務(wù)之日起十個(gè)工作日內(nèi)，通過(guò)算法備案系統(tǒng)填報(bào)名稱(chēng)、服務(wù)形式、應(yīng)用領(lǐng)域、算法類(lèi)型、自評(píng)估報(bào)告、擬公示內(nèi)容等。遲報(bào)、漏報(bào)，本身就是違規(guī)。

奧特曼形象 AI 生成侵權(quán)案（某 AI 平臺(tái)服務(wù)提供者責(zé)任）（廣州互聯(lián)網(wǎng)法院）

案號(hào)：(2024)粵0192民初113號(hào)

法院認(rèn)定，用戶(hù)通過(guò)生成式 AI 服務(wù)輸出的圖片實(shí)質(zhì)性再現(xiàn)了享有著作權(quán)的「奧特曼」形象，構(gòu)成侵權(quán)；同時(shí)明確生成式 AI服務(wù)提供者未盡到合理注意義務(wù)（如未建立投訴舉報(bào)機(jī)制、未對(duì)明顯侵權(quán)內(nèi)容進(jìn)行過(guò)濾）的，應(yīng)承擔(dān)幫助侵權(quán)責(zé)任，為「平臺(tái)責(zé)任邊界」提供裁判指引。

04.

企業(yè)Zui容易踩的坑

我們整理了服務(wù)型企業(yè)Zui高頻的幾種踩坑姿勢(shì)。

1. 以為只是內(nèi)部工具不用備案：一旦功能具備輿論屬性（如公域內(nèi)容生成、評(píng)論推薦），備案義務(wù)就觸發(fā)。

2. 標(biāo)識(shí)形同虛設(shè)：只在頁(yè)面角落寫(xiě)一行小字，或水印可被一鍵抹除，監(jiān)管口徑下不算有效標(biāo)識(shí)。

3. 訓(xùn)練數(shù)據(jù)不合規(guī)連帶影響評(píng)估：《暫行辦法》第七條要求使用合法來(lái)源數(shù)據(jù)、不得侵害知識(shí)產(chǎn)權(quán)、涉及個(gè)人信息須合規(guī)——這直接關(guān)系安全評(píng)估能否通過(guò)。

4. 算法一改就忘備案：模型或應(yīng)用場(chǎng)景重大變更后，未及時(shí)辦理變更或注銷(xiāo)備案，留下合規(guī)缺口。

05.

一份合規(guī)落地路線(xiàn)圖

建議按先評(píng)估、再備案、持續(xù)標(biāo)識(shí)的順序推進(jìn)：上線(xiàn)前完成安全自評(píng)估并整改隱患；同步通過(guò)算法備案系統(tǒng)提交材料；產(chǎn)品側(cè)把內(nèi)容標(biāo)識(shí)做成默認(rèn)能力而非可選開(kāi)關(guān)；內(nèi)部設(shè)專(zhuān)崗跟蹤算法變更與備案狀態(tài)。把這三項(xiàng)當(dāng)成產(chǎn)品發(fā)布的出廠(chǎng)設(shè)置，遠(yuǎn)比事后補(bǔ)票省心。

06.

文章參考文獻(xiàn)

【文獻(xiàn)出處】

· 灣谷科普參考：國(guó)家網(wǎng)信辦《生成式人工智能服務(wù)管理暫行辦法》官方解讀、算法備案系統(tǒng)填報(bào)指南

· 《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》條文及監(jiān)管答記者問(wèn)

【參考案例】

· 本文為規(guī)則梳理，無(wú)單一對(duì)應(yīng)案號(hào)；合規(guī)義務(wù)依據(jù)上述部門(mén)規(guī)章。

· 奧特曼形象 AI 生成侵權(quán)案(2024)粵0192民初113號(hào)（廣州互聯(lián)網(wǎng)法院，服務(wù)提供者未盡注意義務(wù)承擔(dān)幫助侵權(quán)，凸顯安全評(píng)估/內(nèi)容標(biāo)識(shí)義務(wù)的價(jià)值）

【法條原文】

《生成式人工智能服務(wù)管理暫行辦法》第十七條：提供者應(yīng)當(dāng)根據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的有關(guān)規(guī)定，開(kāi)展安全評(píng)估、算法備案。提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷(xiāo)備案手續(xù)。

《生成式人工智能服務(wù)管理暫行辦法》第十二條：提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識(shí)。

《生成式人工智能服務(wù)管理暫行辦法》第七條：生成式人工智能服務(wù)提供者（以下稱(chēng)提供者）應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)，遵守以下規(guī)定：（一）使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型；（二）涉及知識(shí)產(chǎn)權(quán)的，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)；（三）涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；（四）采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀(guān)性、多樣性。

《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》第二十四條：具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱(chēng)、服務(wù)形式、應(yīng)用領(lǐng)域、算法類(lèi)型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息，履行備案手續(xù)。