什么是算法備案？

算法備案的全稱為互聯(lián)網(wǎng)信息服務(wù)算法備案，算法備案是由網(wǎng)信辦主導(dǎo)，與公安部、工信部、市監(jiān)總局一起聯(lián)合發(fā)布出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》后的具有強(qiáng)制性的備案制度，自2022年3月起施行。若未辦理備案，隨時(shí)面臨網(wǎng)站APP程序產(chǎn)品下架和xingzhengchufa的風(fēng)險(xiǎn)，算法備案異常復(fù)雜，時(shí)間超長，目前備案進(jìn)度一般在3-4個(gè)月內(nèi)完成，但是近人工智能AI風(fēng)口到來，國家加強(qiáng)監(jiān)管措施，新發(fā)布的《生成式人工智能服務(wù)管理辦法》意見稿規(guī)定生成類算法必須備案和實(shí)名，所以可能因?yàn)樵絹碓蕉嗳松暾?qǐng)備案而加長審核時(shí)間，并且沒有經(jīng)驗(yàn)的提交上去，每次審核的工作人員不一定會(huì)把問題全部給到你來整改，可能面臨多次駁回風(fēng)險(xiǎn)。另外，若是成合成類的，是使用他人API算法的，也是需要備案，在備案的身份里應(yīng)選擇"服務(wù)提供者"，而不是“服務(wù)支持者”。

哪些企業(yè)需要進(jìn)行算法備案？

見下圖1-2，需要注意的是深度合成服務(wù)提供者、深度合成服務(wù)技術(shù)支持者。需要算法備案實(shí)施屬地管理，也即環(huán)境外主體在中國環(huán)境內(nèi)提供算法推薦服務(wù)及達(dá)至備案要求的也需要履行計(jì)算備案義務(wù)。根據(jù)互聯(lián)網(wǎng)信息服務(wù)計(jì)算方法備案系統(tǒng)公開的環(huán)境互聯(lián)網(wǎng)信息服務(wù)計(jì)算方法備案清單，截圖至2023年1月，完成交互聯(lián)網(wǎng)信息服務(wù)計(jì)算方法的計(jì)算方法共計(jì)223項(xiàng)，完成方法的計(jì)算方法主要分為如下圖所示。通過之前記載的備案清單，不難發(fā)現(xiàn)各主要互聯(lián)網(wǎng)頭部企業(yè)已經(jīng)進(jìn)行了相關(guān)算法備案，備案應(yīng)用產(chǎn)品以行業(yè)內(nèi)名網(wǎng)站、APP、小程序?yàn)橹?，同一個(gè)主體名下完成備案的算法高達(dá)13項(xiàng)。

使用同一種算法的不同產(chǎn)品類型可否一起備案？

使用同一種算法的不同產(chǎn)品類型可以一起啟動(dòng)備案，當(dāng)前算法備案適用的產(chǎn)品類型包APP、網(wǎng)站、小程序，截圖2023年1月完成算法備案的產(chǎn)品類型主要分為如下圖所示。算法備案以算法為核心、以算法類型為基礎(chǔ)進(jìn)行分類管理，備案主體就不同算法類型項(xiàng)下的不同算法分開備案。也就是說，若同一種應(yīng)用產(chǎn)品涉及不同算法，則需要就各算法分開進(jìn)行備案；而若同一種算法適用于多種產(chǎn)品類型（比如APP、網(wǎng)站、小程序），則可同時(shí)備案（在備案時(shí)添加相應(yīng)產(chǎn)品信息即可）。環(huán)境互聯(lián)網(wǎng)信息服務(wù)計(jì)算備案公示清單，可以看到一些的互聯(lián)網(wǎng)企業(yè)已經(jīng)經(jīng)就其APP所使用的個(gè)性化推送類、檢測過濾類、排序精選類、生成合成類和/或調(diào)節(jié)決策類算法別進(jìn)進(jìn)行了備案，并針對(duì)所涉性化推送類、檢查過濾類和/或生成合成類項(xiàng)下不同算法分別進(jìn)行了備案。

結(jié)合《算法推薦管理規(guī)范》《算法備案清單》我們認(rèn)為以下要點(diǎn)值得關(guān)注

一、算法備案以算法技術(shù)為單位。首批備案清單包24家企業(yè)共30項(xiàng)計(jì)算法。同一種算法可能被用于不同應(yīng)用產(chǎn)品時(shí)，只需要一項(xiàng)備案即可；同一款產(chǎn)品如果觸及多類算法，應(yīng)當(dāng)申請(qǐng)備案。

二、個(gè)性化推薦類算法為監(jiān)控重點(diǎn)。首批備案清單涵蓋了《算法推薦管理規(guī)范》列舉的五大類技術(shù)：生成成類（2）、個(gè)性化推薦類（17）、排序精選類（4）、檢查過濾類（4）、調(diào)節(jié)決策類（3），其中一個(gè)性化推送類計(jì)算方法占一半以上。

三、“具有言論屬性或社員能力”的情勢泛泛。網(wǎng)信辦于2018年發(fā)布的《具有言論屬性或社員能力的互聯(lián)網(wǎng)信息信息服務(wù)安全全面評(píng)價(jià)規(guī)定》中規(guī)定，論壇、博客、微博客、聊天室、通訊群、公眾賬號(hào)、短視頻、網(wǎng)絡(luò)直播、信息分享、小程序均屬于"具有言論屬性或社員能力"的情況。而本次公開的算法應(yīng)用產(chǎn)品中，除公眾所熟悉的"大廠"大平臺(tái)企業(yè)外，還包括招聘網(wǎng)站、育兒資訊網(wǎng)站以及智能電視應(yīng)用程序，與之前的文規(guī)的范圍一致。因此我他們理解"具有航空論屬性或社會(huì)動(dòng)員能力"并非以有效論，而是以渠的可能性為判斷標(biāo)準(zhǔn)，潿及情勢將十分廣泛。

哪些企業(yè)需要進(jìn)行算法推薦服務(wù)安全評(píng)估？

在中國環(huán)境提供算術(shù)推薦服務(wù)的具有航天屬性或社會(huì)動(dòng)員能力（相關(guān)評(píng)審標(biāo)準(zhǔn)分析參考以上算術(shù)備案部分）的算法推薦服務(wù)提供者平均需要進(jìn)行安全評(píng)價(jià)。就深度合成技術(shù)而言，例如（1）在中國環(huán)境開發(fā)線上具有航天屬性或社交能力的新產(chǎn)品、新應(yīng)用、新功能的深度合成服務(wù)提供者；

（2）在中國環(huán)境提供工具有（i）生成或編輯人臉、人聲等生物知識(shí)別信息的；（ii）生成或編輯可能涉及國家安全、國家形象、國家利益和社會(huì)公共利益的特殊物質(zhì)、場景等非生物信息的功能的模型、模板等工具的深度合成服務(wù)提供者和技術(shù)支持者。如同計(jì)算法備案，計(jì)算法推薦服務(wù)安全評(píng)價(jià)要請(qǐng)求亦實(shí)施屬地管理原則。

算法推薦服務(wù)安全評(píng)估的要求是什么？

基于《算法推薦管理規(guī)范》項(xiàng)下算法安全評(píng)估實(shí)際操作細(xì)節(jié)尚不明確，通過對(duì)上市案例的調(diào)查，我們注意到也存在于部分模擬發(fā)行人現(xiàn)場按照《安全評(píng)價(jià)規(guī)定》通過全國互聯(lián)網(wǎng)安全管理服務(wù)平臺(tái)向主管網(wǎng)信部和公共安全機(jī)關(guān)提供安全評(píng)價(jià)報(bào)告，以滿足《算法推薦管理規(guī)范》項(xiàng)下算法推薦服務(wù)安全評(píng)價(jià)要請(qǐng)求。但如前所述，我們理應(yīng)理解兩項(xiàng)安全評(píng)估應(yīng)屬于相互獨(dú)立的監(jiān)控要求。

如同算法備案，目前算法推薦服務(wù)安全評(píng)估的監(jiān)控實(shí)踐也主要是企業(yè)對(duì)照相關(guān)規(guī)定與自身實(shí)際情況自主判斷、依法依規(guī)進(jìn)行安全評(píng)價(jià)，但不排除主管部門主要聯(lián)系和要求相關(guān)企業(yè)進(jìn)行算法推薦服務(wù)安全評(píng)價(jià)的可能性。因此，若相關(guān)企業(yè)是否需要進(jìn)行算法推薦服務(wù)/深度合成服務(wù)安全評(píng)價(jià)以及如何進(jìn)行安全評(píng)價(jià)存在疑問，建議進(jìn)入下一步咨詢主管部門進(jìn)入執(zhí)行機(jī)構(gòu)確認(rèn)。

另外，需要注意的是，為了加強(qiáng)深度合成技術(shù)監(jiān)控，《深度合成管理規(guī)范》還進(jìn)一步要求“互聯(lián)網(wǎng)應(yīng)用商店等應(yīng)用程序分發(fā)布平臺(tái)”應(yīng)當(dāng)落實(shí)上架審查、日常管理、應(yīng)緊急處理等安全管理責(zé)任，核驗(yàn)深度合成類應(yīng)用程序的安全評(píng)估、備案等情況；對(duì)違反國家有規(guī)定的，應(yīng)及時(shí)采取不予上架、警告、暫停服務(wù)或者下架等處設(shè)置措施，國家對(duì)深度合成技術(shù)實(shí)施常態(tài)化監(jiān)控的狀態(tài)也可從中窺知一二。

備案后義務(wù)有哪些？

結(jié)語

隨著ChatGPT的橫空出世，AIGC業(yè)務(wù)正以超乎想象的速度發(fā)展，加上深度合成技術(shù)由于其自身屬性可能存在或帶來的各種法律風(fēng)險(xiǎn)，深度合成類算法推薦服務(wù)與應(yīng)用程序必將成為各級(jí)網(wǎng)絡(luò)信息部門的監(jiān)控重點(diǎn)之一。自《算法推薦管理規(guī)范》于2021年末生效及互聯(lián)網(wǎng)絡(luò)信息服務(wù)計(jì)算系統(tǒng)自2022年3月1日上線以來，在不到一年的時(shí)間里，相應(yīng)數(shù)額的互聯(lián)網(wǎng)企業(yè)逐步完成各類算法，算法備份監(jiān)控管理規(guī)定的落地與執(zhí)行情況已經(jīng)趨于成熟。盡管目前算法推薦服務(wù)安全全面評(píng)價(jià)相關(guān)實(shí)際操作要求還有待主管理部門出臺(tái)一步實(shí)施細(xì)則或指南，考慮到網(wǎng)信部監(jiān)控口徑與狀態(tài)趨嚴(yán)，建議相關(guān)企業(yè)也提出高對(duì)算法推薦服務(wù)合規(guī)（尤其是算法備案與安全評(píng)估）估）的重視度。