人工智能內(nèi)容監(jiān)管領(lǐng)域出現(xiàn)標(biāo)志性判例：某平臺用戶因發(fā)布內(nèi)容被系統(tǒng)判定為“未標(biāo)識的內(nèi)容 AI生成內(nèi)容”，遭平臺隱藏內(nèi)容并禁言1天。被判用戶起訴后，生成訴完善算北京互聯(lián)網(wǎng)法院近日一審判決平臺構(gòu)成服務(wù)合同違約，而遭需撤銷處理措施并刪除違規(guī)記錄。屏蔽平臺該案系國內(nèi)首起因平臺判定用戶發(fā)布內(nèi)容為 AI生成而引發(fā)的用戶案件。

　　內(nèi)容被屏蔽引發(fā)訴訟

　　在某科技公司運營的起訴知名網(wǎng)絡(luò)平臺上，用戶李某發(fā)布了一段生活建議：“打工并不能讓你真的獲勝衡創(chuàng)護(hù)賺到多少錢，但可以開啟你的法治新視角……”

　　平臺算法將該內(nèi)容標(biāo)記為“包含AI生成內(nèi)容但未標(biāo)識”，隨即隱藏內(nèi)容并對賬號禁言1天。理平李某申訴無果后訴至北京互聯(lián)網(wǎng)法院，新保主張其并未使用 AI創(chuàng)作，內(nèi)容某科技公司的被判行為構(gòu)成違約，請求法院判令撤銷隱藏涉案內(nèi)容和禁言賬號1天的生成訴完善算違規(guī)處理，并在后臺系統(tǒng)中刪除違規(guī)處理記錄。而遭

　　某科技公司辯稱，其有權(quán)依據(jù)雙方網(wǎng)絡(luò)服務(wù)合同審核認(rèn)定李某使用平臺服務(wù)時的違規(guī)行為并采取必要治理措施，不構(gòu)成違約。涉案平臺規(guī)范中明確規(guī)定：“創(chuàng)作者在發(fā)布包含人工智能生成內(nèi)容時，應(yīng)主動使用‘人工智能生成內(nèi)容’的標(biāo)簽進(jìn)行聲明，未主動聲明的內(nèi)容，平臺將采取適當(dāng)措施進(jìn)行流量限制并添加相關(guān)標(biāo)識。”李某發(fā)布的內(nèi)容經(jīng)機(jī)器識別為“包含人工智能生成”，經(jīng)過人工復(fù)核，認(rèn)定該內(nèi)容缺乏明顯的人類情感特征。被告作為網(wǎng)絡(luò)服務(wù)提供方，有權(quán)自行選擇合理、必要的方式和技術(shù)，網(wǎng)絡(luò)服務(wù)合同未約定被告有義務(wù)向用戶提供、解釋技術(shù)秘密和算法邏輯。被告針對人工智能治理需求開發(fā)、部署、運行自研深度合成算法模型是合理、必要的，并設(shè)置專門測試團(tuán)隊通過技術(shù)手段觀察、抽檢模型運行的準(zhǔn)確率，如發(fā)生準(zhǔn)確率下降或異常波動，被告會及時對模型進(jìn)行優(yōu)化迭代。

　　庭審中，某科技公司提交其在互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)公示的相關(guān)算法機(jī)制機(jī)理內(nèi)容作為算法決策判定的證據(jù)。

　　平臺審查應(yīng)合理有據(jù)

　　北京互聯(lián)網(wǎng)法院經(jīng)審理認(rèn)為，該案中，某科技公司結(jié)合《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中有關(guān)深度合成標(biāo)識的管理規(guī)定和網(wǎng)絡(luò)空間治理的現(xiàn)實需要，發(fā)布了社區(qū)公告載明“創(chuàng)作者在發(fā)布包含 AIGC生成的內(nèi)容時，應(yīng)主動使用標(biāo)識，幫助讀者進(jìn)行區(qū)分。對發(fā)布時未主動聲明的內(nèi)容，平臺將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識”“未經(jīng)標(biāo)簽聲明，使用人工智能生成的內(nèi)容構(gòu)成違規(guī)”。李某系平臺注冊用戶，上述公告屬于平臺服務(wù)協(xié)議的組成部分。因此，某科技公司有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于 AI生成合成內(nèi)容進(jìn)行審查和處理。

　　同時，法院認(rèn)為，平臺的審查及處理結(jié)果應(yīng)有合理依據(jù)。該案中，李某主張涉案內(nèi)容并非 AI生成內(nèi)容，某科技公司對涉案內(nèi)容的審查及處理違反平臺服務(wù)協(xié)議，在一般情況下，李某應(yīng)該提供如創(chuàng)作底稿、原件、源文件、源數(shù)據(jù)等證明人類創(chuàng)作屬性的初步證據(jù)，但該案中李某回答內(nèi)容系即時性創(chuàng)作文本，在客觀上無法提供上述證據(jù)，由李某提供上述證據(jù)亦不存在合理性和現(xiàn)實可行性。而某科技公司基于算法工具的運算結(jié)果得出涉案內(nèi)容為 AI生成合成的審查結(jié)論，其既是算法工具掌控方又是結(jié)果判斷方，算法工具運算過程和審查結(jié)果由其掌控，在此情況下，其應(yīng)就該事實進(jìn)行合理舉證或解釋說明。

　　雖然某科技公司在該案中提供了算法的備案信息，但公示內(nèi)容顯示該算法功能為識別有安全風(fēng)險的回答，無法認(rèn)定其系對 AI生成合成識別判斷的技術(shù)，故無法確認(rèn)備案信息與該案爭議的關(guān)聯(lián)性，因此某科技公司未對涉案內(nèi)容屬于 AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋。此外，某科技公司對人工復(fù)核程序的解釋為需要非常明顯的人類情感特征才能駁回算法決策結(jié)果，而該判斷標(biāo)準(zhǔn)更多依賴主觀認(rèn)識和個人經(jīng)驗，并不具有科學(xué)依據(jù)以及較強的說服力和可信度。

　　據(jù)此，法院認(rèn)定某科技公司未對算法決策依據(jù)和結(jié)果進(jìn)行適度的解釋和說明，應(yīng)對其在沒有事實依據(jù)的情況下對涉案賬戶的處理行為承擔(dān)違約責(zé)任。

　　北京互聯(lián)網(wǎng)法院一審判決某科技公司展開對于涉案內(nèi)容的隱藏，刪除在后臺的違規(guī)處理記錄。目前，該案判決已生效。

　　完善平臺治理模式

　　北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長袁建華在接受記者采訪時表示，國家互聯(lián)網(wǎng)信息辦公室等部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》將于2025年9月1日起正式施行。該辦法規(guī)范了人工智能生成合成內(nèi)容標(biāo)識的使用，要求用戶發(fā)布 AI生成合成內(nèi)容時主動聲明并進(jìn)行標(biāo)識，網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動。當(dāng)前，生成式人工智能技術(shù)在內(nèi)容的生成合成方面展現(xiàn)了巨大的能量和潛力，為數(shù)字經(jīng)濟(jì)發(fā)展注入強大動力。與此同時，在 AI生成合成內(nèi)容未進(jìn)行“AI標(biāo)識”的情況下，公眾難以區(qū)分 AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容，利用 AI實施詐騙、侵權(quán)等違法犯罪的行為有上升趨勢。AI生成合成內(nèi)容標(biāo)識作為對人工智能生成內(nèi)容監(jiān)管的有益工具和必要手段，會對凈化網(wǎng)絡(luò)內(nèi)容環(huán)境和網(wǎng)絡(luò)空間治理起到一定積極作用。

　　中國人民大學(xué)法學(xué)院副教授、信息文明與國家治理研究所所長黃尹旭在接受記者采訪時表示，該案是對 AI生成合成內(nèi)容標(biāo)識的標(biāo)記、平臺識別和治理在司法審查規(guī)則方面的有益探索。一方面肯定了網(wǎng)絡(luò)內(nèi)容服務(wù)平臺利用算法工具對 AI生成合成內(nèi)容進(jìn)行審查和處理，履行信息內(nèi)容管理主體責(zé)任的積極作用；另一方面，認(rèn)定網(wǎng)絡(luò)內(nèi)容服務(wù)平臺在即時性創(chuàng)作文本場景下對使用算法自動化決策結(jié)果承擔(dān)適度說明義務(wù)，并為司法審查階段的算法解釋說明程度確立了一定的標(biāo)準(zhǔn)。

　　“需要強調(diào)的是，算法治理需在保障技術(shù)透明度與激發(fā)產(chǎn)業(yè)創(chuàng)新活力間尋求動態(tài)平衡。”黃尹旭表示，明確算法解釋說明的司法審查標(biāo)準(zhǔn)，既保障了網(wǎng)絡(luò)用戶合法權(quán)益，又能有效推動算法公開透明，規(guī)范算法應(yīng)用行為，推動平臺經(jīng)濟(jì)健康發(fā)展。該案通過司法個案裁判，合理分配網(wǎng)絡(luò)內(nèi)容服務(wù)平臺和用戶的舉證責(zé)任，推動網(wǎng)絡(luò)內(nèi)容服務(wù)平臺提高算法的識別能力和決策能力，切實提升人工智能信息內(nèi)容治理水平。（本報記者 祝文明 通訊員 張夏意）

（編輯：劉珊）

新浪科技公眾號

“掌”握科技鮮聞 （微信搜索techsina或掃描左側(cè)二維碼關(guān)注）

相關(guān)新聞