在當今數(shù)字化浪潮中，人工智能如一股強勁的洪流，席卷了社會的每一個層面，如果不踏浪前行，可能下一秒就要被拍死在沙灘上。人們輕輕地“嗨，XXX”，就能喚醒智能語音助手，圖像軟件憑借AI合成一張張不曾存在過的“真相”，智能客服為電商以及推廣降本增效。AI的觸角所及，正深刻改寫著我們的生活與工作圖景。

但深度合成類AI技術在迅猛發(fā)展的同時，也暗藏風險。為引導AI安全有序地發(fā)展，防止AI的使用突破倫理桎梏和公序良序，我國頒布了《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《生成式人工智能服務管理暫行辦法》以及國標《生成式人工智能服務安全基本要求》等，深度合成類服務算法備案工作勢在必行。有了備案這一有力抓手，能有效遏制虛假信息傳播、隱私侵犯等亂象，為公眾權益和社會穩(wěn)定筑牢防護堤。

然而，備案之路絕非坦途，因為從業(yè)者和監(jiān)管一樣對于人工智能的監(jiān)管也是摸著石頭過河，已經(jīng)備案的算法多少都有被重新打回的經(jīng)歷。備案往往由法務同學進行主動推進，但這之中會有很多行業(yè)壁壘的問題，比如算法功能與應用范圍界定，復雜算法邏輯梳理以及算法自評估的深度。因此，筆者根據(jù)自己的實操經(jīng)歷，匯總成深度合成類服務算法備案快問快答26問，這26問雖然沒有辦法完全解決備案過程遇到的難題，但期望借由這26個問答為亟待備案的公司及主體點亮一盞燈。

主體備案填報

1.問：整體的備案流程及時限？

答：生成式算法服務提供者和技術支持者需要在提供服務之日起10個工作日內進行備案，備案內容包括算法主體信息、產品及功能信息、算法信息。提交備案后，網(wǎng)信部門會在30個工作日內反饋備案結果。

墾丁實踐：實際上，若公司首次進行算法備案的，還應當先做主體備案，當然做主體備案的同時，可以同步進行算法備案的材料準備。其間若被網(wǎng)信部門打回，則有可能延長相應的備案流程，但總體來說根據(jù)我們的實踐，公司從備案立項到拿到備案號一般為3-6個月的時間是比較合理的。

2.問：哪些主體需要備案？

答：在中華人民共和國境內應用向中華人民共和國境內公眾提供生成式人工智能服務、深度合成服務、深度合成服務技術支持，且具有輿論屬性或者社會動員能力的主體。

墾丁實踐：在公司內網(wǎng)向員工提供一項AI服務，提升員工的工作效率，這是否算向公眾提供呢？不算。

3.問：“具有輿論屬性或者社會動員能力”如何認定？

答：根據(jù)《具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務安全評估規(guī)定》第二條，具有輿論屬性或社會動員能力的互聯(lián)網(wǎng)信息服務，包括下列情形：（1）開辦論壇、博客、微博客、聊天室、通訊群組、公眾賬號、短視頻、網(wǎng)絡直播、信息分享、小程序等信息服務或者附設相應功能；（2）開辦提供公眾輿論表達渠道或者具有發(fā)動社會公眾從事特定活動能力的其他互聯(lián)網(wǎng)信息服務。

墾丁實踐：關于是否“具有輿論屬性或社會動員能力”目標對象主要是大部分網(wǎng)絡用戶涉及的具有互動功能的服務平臺。但我們在給產品做合規(guī)上架的過程中，了解到目前部分應用商店已將算法備案作為特定類型應用上架其應用市場的資質審核條件。實踐中對于這類應用的主要的判斷方式為產品有用戶交互的對話框，存在信息輸出能力以及是否存在AI相關的介紹。如電商行業(yè)存在的智能客服、AI智能體。

4.問：服務提供者和服務技術支持者有什么區(qū)別？

答：算法備案主體分為服務提供者和服務技術支持者兩大類，前者直接面向用戶，后者則為企業(yè)端客戶提供技術支持，目前已公示的主體，兩者比例接近，體現(xiàn)了深度合成服務在直接消費市場與B端市場的廣泛應用。

墾丁實踐：在實踐中我們常遇到這樣一類客戶，他們對外提供的AI服務并非自己研發(fā)，可能就直接套用第三方大模型，為了匹配產品做了一些UI適配的工作，就包裝成一個生成式服務對外提供服務了。這種情況下，前端對外提供服務的主體也是需要進行備案的，作為服務提供者。

5.問：什么場景下的APP、網(wǎng)站、AI開放平臺等需要備案？

答：目前備案的產品形式呈現(xiàn)多樣性，包括APP、網(wǎng)站、小程序、AI平臺等，覆蓋了娛樂、社交、教育、法律咨詢、數(shù)字人生成等多個領域，涉及社會生活的方方面面，但主要集中在集中于圖像生成、文本生成、語音合成、視頻生成等，主要針對滿足個性化內容創(chuàng)作、智能對話、數(shù)字人開發(fā)等方面的需求，一個產品有多種形態(tài)的，可在同一套材料中進行備案。

墾丁實踐：在實踐中，可能存在爭議的是語音轉文字這類，單純只用到了NLP，認為這沒有生成新內容，只是不同內容的形式轉換，那這類用到NLP的場景是否需要備案呢？我們認為是需要備案的，目前像出門問問、百度語音、科大訊飛這類都是語音轉文字的識別都進行了備案。

6.問：主體備案需要提供哪些信息？

答：公司的基本信息、證件信息、法定代表人信息、算法安全責任人信息、算法備案承諾書、算法安全主體責任基本情況。

墾丁實踐：算法安全責任人一般建議由算法開發(fā)相關的技術人員擔任，因為這類員工對算法和技術更了解，也更容易處理算法中發(fā)生的安全問題。

7.問：算法安全主體責任情況具體要包含哪些內容？

答：該基本情況說明需要對公司算法安全專職機構、算法安全自評估制度、算法安全監(jiān)測制度、算法違法違規(guī)處置制度、算法安全事件應急處置制度以及數(shù)據(jù)安全和個人信息安全相關制度做總結性的說明以及附相應的規(guī)則文本供審核。

墾丁實踐：對于規(guī)上的公司而言，有相應的制度儲備這一申報內容可能不難拿下，但對于一些AI創(chuàng)新公司等初創(chuàng)公司或中小規(guī)模的公司而言，可能平時有零散的管控措施，但要形成有體系的制度可能會成為申報的卡點。

8.問：公司具體要有哪些制度呢？

答：建議覆蓋以下制度：算法安全自評估制度、算法安全監(jiān)測制度、算法安全事件應急響應規(guī)范、算法違法違規(guī)處置制度、信息安全和個人信息保護制度、用戶數(shù)據(jù)權益處置流程指引、科技倫理審查制度。

墾丁實踐：監(jiān)管是否會就制度是否落實做實質審查呢？只能說目前實踐中沒有遇到實質審查的卡點，但建議這類制度都應當實施并留存相應的實施日志，一方面保障了算法的安全，一方面也是考慮到監(jiān)管備查。

算法備案填報

9.問：什么是算法備案？

答：算法備案是指通過中央網(wǎng)信辦互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)填報，由線上提交申請，由中央網(wǎng)信辦進行審核，通過后可在算法備案系統(tǒng)查詢算法備案號。備案的法律依據(jù)是《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第十九條，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。算法備案號的樣式為網(wǎng)信算備1101155364552xxxxxxx號。

墾丁實踐：生成合成類算法需要通過網(wǎng)信辦算法備案平臺進行備案，這一備案實質性審查的內容相對較少，較易獲得，也是生成合成式服務提供者可以先嘗試拿下的備案。

10.問：什么是生成式人工智能的安全評估備案？

答：生成式人工智能的安全評估備案是指通過線下方式向省級網(wǎng)信辦申請?zhí)峤粋浒覆牧?，省級網(wǎng)信辦、中央網(wǎng)信辦負責審核，除材料審核外，會對實際產品進行測試。必要時，可能進入企業(yè)實地評估，通過安全評估后，產品將納入常態(tài)化監(jiān)管范疇，（季度性抽檢已通過算法）；

安全評估備案號無統(tǒng)一查詢入口，各省級網(wǎng)信辦公示方式、時間不一。備案的法律依據(jù)為《生成式人工智能服務管理暫行辦法》第十七條，提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。備案號的樣式為Shanghai-MetaLLM-20231106。

墾丁實踐：目前做安全評估備案的公司還是比較少的，從目前各大產品算法備案號和安全評估備案號的公示數(shù)量和情況也不難看出。一方面這個需要更多的人力物力線下提交材料，同時省級網(wǎng)信部門對材料的審核將更為嚴格。各省級網(wǎng)信辦對人工智能上線前的安全評估工作的要求和流程都有所細化。目前各個地方網(wǎng)信辦公布的備案咨詢電話僅接受公司實名制的咨詢，相應的備案材料模板也需要線下找省級網(wǎng)信辦領取。

來源：北京市互聯(lián)網(wǎng)信息辦公室

11.問：這兩種備案是否都需要做？

答：兩者依據(jù)的法規(guī)不同，如果相關產品是提供生成合成類的人工智能服務的，則算法備案和安全評估備案均需要做。

墾丁實踐：這兩個備案有部分內容的重合，但是側重的方向略有不同，算法備案可能更注重備案主體在提供服務的過程中對算法安全采取的措施，包括制度的安全保障、算法原理以及前端頁面的提示等。安全評估備案則更注重算法模型本身是否安全，包括訓練語料、測試題庫等均需要明確。

12.問：如果生成式算法服務套用的是第三方已經(jīng)備過案的大模型，如公司直接套用Shanghai-MetaLLM-20231106，只是調整了prompt，還需要重新做算法備案和安全評估備案嗎？

答：公司套用第三方已經(jīng)備案的大模型提供生成式的人工智能服務，作為服務提供者是需要做算法備案。

墾丁實踐：算法備案針對不同的服務主體和產品是需要重新做備案的。就生成式人工智能的安全評估備案而言，考慮到安全評估備案整體流程更為復雜，且需要到地方網(wǎng)信辦線下提交材料，若直接調用第三方大模型的，可以直接進行上線登記。上線登記就是監(jiān)管給企業(yè)直接調用第三方已備案大模型設計的便捷流程。盡管無需開展完整的生成式人工智能服務上線前安全評估與備案工作，但仍有必要與省網(wǎng)信辦取得聯(lián)系，以申請上線編號。

13.問：算法大模型備案可以直接調用境外第三方的算法模型，如Meta（原 Facebook）的 LLaMA？

答：不可以。

墾丁實踐：因為境外的大模型較容易出現(xiàn)意識形態(tài)相關問題，可能造成嚴重后果。線上的算法備案大概率也會被駁回，因為目前未見通過備案的算法公示信息有自己或自己使用的境外的算法模型。不過，根據(jù)境外算法模型自研可以，但也需要注意這些模型的開源協(xié)議要求和國內法規(guī)的平衡。

（圖片來源于Google搜索）

14.問：算法備案的名稱該如何設置？

答：深度合成服務算法命名傾向于明確其應用場景。

墾丁實踐：如“數(shù)字人合成”“圖像生成”，體現(xiàn)算法在圖像、視頻、語音合成方面的具體應用。也有直接用“XX大模型算法”作為名稱，故在命名上并無嚴格限制。也有部分算法名稱后面帶有數(shù)字（如-1“”-2），根據(jù)公示內容我們發(fā)現(xiàn)這通常表示同一算法系列或功能的多個版本或變體。每個數(shù)字可能代表算法針對特定場景、優(yōu)化目標或迭代更新的不同版本。

15.問：算法安全自評估需要包含哪些內容？

答：算法自評估需要包含算法基本情況、服務情況、風險研判、風險防控情況、用戶權益保護、內容生態(tài)治理、數(shù)據(jù)安全防護以及數(shù)據(jù)安全保障等。

墾丁實踐：自評估可以說是整個算法備案的重中之重，需要法務同學、產品同學以及技術同學共同來發(fā)力完成。這部分材料也是監(jiān)管備案資料中重點關注的內容，也是因不符合要求或內容有誤駁回率Zui高的材料。

16.問：風險研判和風險防控情況應該如何表述？

答：風險研判中列舉的風險應當和風險防控情況一一對應，否則將會被監(jiān)管駁回。

墾丁實踐：我們在實踐就遇到了沒有一一對應被駁回的情況，這一點尤其要提醒技術人員，因為該部分主要由技術人員填寫。如風險研判中提到算法惡意利用的問題，那么風險防控情況中就應當說明公司已建立反的制度，通過對單個用戶流量、單位時間內請求數(shù)等方面進行確認。在發(fā)現(xiàn)異常請求和流量之后，及時預警，必要時候針對性進行熔斷保護，不響應異常用戶的請求。如前面提到數(shù)據(jù)存儲安全問題，那么需要明確說明是否進行增量備份、容災備份以及加密存儲等，需做到一一對應。

17.問：怎樣算達到了算法使用主體實名認證的要求？

答：自評估報告中需要對是否對用戶實名認證進行說明，移動電話號碼、身份證件號碼、統(tǒng)一社會信用代碼或者國家網(wǎng)絡身份認證公共服務，平臺只要掌握其中之一就屬于完成了實名的要求。

墾丁實踐：很多企業(yè)不清楚實名認證的程度，怕實名認證太嚴格影響用戶體驗，又怕沒有達到實名要求，存在風險。其實這個實名認證要求的程度并不高，因為我們的手機號是實名制的，因此境內用戶用手機號注冊賬號并登錄后即可使用AI功能。

18.問：生成式的輸入內容和輸出內容的審核是否可以接入第三方服務商進行？

答：可以，但應當在自評估報告中提供與第三方簽訂的合同等內容作為佐證。

墾丁實踐：實踐中很多備案主體認為自己只要接入了第三方內容審核的供應商就可以做“甩手掌柜”了。其實備案主體作為服務提供者不能完全依賴于第三方，也需要建立自己的內容審核機制、流程，依據(jù)信安標委技術文件《生成式人工智能服務安全基本要求》建立相應的測試題庫、關鍵詞庫、拒答題庫等。

19.問：顯性水印怎么做能夠通過備案？

答：根據(jù)《TC260-PG-20233A網(wǎng)絡安全標準實踐指南－生成式人工智能服務內容標識方法》的要求，顯性水印是在交互界面內或背景中添加的半透明文字。在人工智能生成內容的顯示區(qū)域中，應在顯示區(qū)域下方或使用者輸入信息區(qū)域下方持續(xù)顯示提示文字，或在顯示區(qū)域的背景均勻添加包含提示文字的顯式水印標識。提示文字應至少包含“由人工智能生成”或“由AI 生成”等信息。

墾丁實踐：我們在申報過程中，在自評估報告中一般需要將前端提示的界面截圖向監(jiān)管進行說明。但我們在實際備案過程中以及查閱已備案的產品會發(fā)現(xiàn)有一些特定場景下產品雖然備案了生成式算法，但產出的內容并未標注AI生成。如全能掃描王中的圖像美化算法，因為根據(jù)其屬性其主要的作用是智能擦除，若在用戶期望輸出的消除圖中強行生成一個AI標識，可能對于用戶的使用體驗也不太好。若采取其他替代方式保障輸出圖的合法合規(guī)，一定程度上也能達到備案的要求。

20.問：隱形水印怎么做能夠通過備案？

答：根據(jù)《TC260-PG-20233A網(wǎng)絡安全標準實踐指南－生成式人工智能服務內容標識方法》的要求，隱性水印是通過修改圖片、音頻、視頻內容添加的，人類無法直接感知、但可通過技術手段從內容中提取的標識。隱式水印標識中至少包含服務提供者名稱，也可包含內容ID 等其他內容。

①圖片的隱式水印標識應通過空域水印或變換域水印的方式實現(xiàn)，含有隱式水印的原始生成圖片應滿足任意連續(xù)50%以上面積且分辨率大于等于384×384 的切片均包含完整標識信息；

②視頻的隱式水印標識應通過時空域水印或變換域水印的方式實現(xiàn)，含有隱式水印標識的原始生成視頻應滿足任意連續(xù)5秒以上視頻內容中均包含完整標識信息；

③音頻的隱式水印標識應通過時域水印或變換域水印的方式實現(xiàn)，含有隱式水印標識的原始生成音頻應滿足任意連續(xù)10秒以上音頻內容中均包含完整標識信息；

④服務提供者應具有從該服務所生成內容中提取隱式水印標識的接口或工具。

墾丁實踐：隱形水印主要針對產出內容是圖片、音頻、視頻。我們在實踐中就遇到了隱形水印沒有補充相關后臺日志截圖等方式進行佐證的情況下監(jiān)管駁回并要求補充的情況。因此，上述隱形水印除進行技術原理說明外，溯源標識還補充相關后臺日志截圖。

21.問：什么情況下需要說明訓練數(shù)據(jù)相關內容和標注相關規(guī)則？

答：若生成式算法模型屬于企業(yè)自研的大模型時，需要提供相應的訓練數(shù)據(jù)來源說明，如通過什么地址下載，什么方式采購，若涉及個人信息的，還需要在報告中說明已獲取數(shù)據(jù)主體的同意并佐證，標注規(guī)則亦是如此。

墾丁實踐：在實踐中，如果直接套用第三方大模型的可以根據(jù)第三方的開源數(shù)據(jù)說明算法原理，不涉及訓練數(shù)據(jù)和標注規(guī)則。若在算法為自研模型的情況下，需要提供的信息可能非常多，除了訓練數(shù)據(jù)、標注規(guī)則、標注人員培訓、標注人員數(shù)量，還有模型的更新升級頻率等內容均需要明確，也包括了算法微調。

擬公示內容填報

22.問：擬公示內容中的算法基本原理如何描述？

答：算法基本原理通常表達為：通過x行為，利用x技術/模型，達成x結果。如“通過對用戶輸入的圖片，進行內容理解，利用深度神經(jīng)網(wǎng)絡和擴散模型等技術，結合分割等模型，生成商品展示圖片?！北匾獣r也可以在開頭加上“為了x目的”。

23.問：擬公示內容中的算法運行機制如何描述？

答：我們通常是將「算法基本原理」的內容拆分為多個步驟，從技術角度分點說明（可以1、2、3分段，也可以一整段按序說明），必要時也可以用流程圖進行說明。

24.問：擬公示內容中的算法目的意圖如何描述？

答：該段落主要表達該算法期望解決的問題，或實現(xiàn)的目的。存在多場景或多個目的意圖時可分點描述，目的較為單一時也可簡單描述，如閑魚搜索算法的一句話描述目的“幫助用戶快速找到想要的商品或信息”，再如智能修圖美顏算法的一句話描述目的“幫助用戶編輯、美化和發(fā)布圖片”。

墾丁實踐：我們也遇到過擬公示內容未明確說明原理、算法運營機制和意圖被駁回的情況，若直接調用第三方大模型的可以直接找開源材料予以說明。

產品及服務信息填報/技術服務方式填報  

25.問：多個產品需要單獨做備案嗎？

答：答案是否定的，多個產品不是必須單獨做備案的。

墾丁實踐：備案主要基于算法本身，若多個產品基于同一算法運營，可以放在一起備案。

26.問：對于還沒有上線的產品，產品相關信息中的用戶量信息（月活、日活、總量等）應該怎么填報？

答：這里的用戶量信息可以根據(jù)我們相關產品的受眾和我們歷史類似產品的用戶數(shù)量進行預估填寫。

墾丁實踐：如果有APP又有小程序或者網(wǎng)頁，算多個產品形態(tài)要分別填寫。