人工智能內(nèi)容監(jiān)管領(lǐng)域出現(xiàn)標志性判例：某平臺用戶因發(fā)布內(nèi)容被系統(tǒng)判定為“未標識的內(nèi)容 AI生成內(nèi)容”，遭平臺隱藏內(nèi)容并禁言1天。被判用戶起訴后，生成訴完善算北京互聯(lián)網(wǎng)法院近日一審判決平臺構(gòu)成服務合同違約，而遭需撤銷處理措施并刪除違規(guī)記錄。屏蔽平臺該案系國內(nèi)首起因平臺判定用戶發(fā)布內(nèi)容為 AI生成而引發(fā)的用戶案件。

　　內(nèi)容被屏蔽引發(fā)訴訟

　　在某科技公司運營的起訴知名網(wǎng)絡平臺上，用戶李某發(fā)布了一段生活建議：“打工并不能讓你真的獲勝衡創(chuàng)護賺到多少錢，但可以開啟你的法治新視角……”

　　平臺算法將該內(nèi)容標記為“包含AI生成內(nèi)容但未標識”，隨即隱藏內(nèi)容并對賬號禁言1天。理平李某申訴無果后訴至北京互聯(lián)網(wǎng)法院，新保主張其并未使用 AI創(chuàng)作，內(nèi)容某科技公司的被判行為構(gòu)成違約，請求法院判令撤銷隱藏涉案內(nèi)容和禁言賬號1天的生成訴完善算違規(guī)處理，并在后臺系統(tǒng)中刪除違規(guī)處理記錄。而遭

　　某科技公司辯稱，其有權(quán)依據(jù)雙方網(wǎng)絡服務合同審核認定李某使用平臺服務時的違規(guī)行為并采取必要治理措施，不構(gòu)成違約。涉案平臺規(guī)范中明確規(guī)定：“創(chuàng)作者在發(fā)布包含人工智能生成內(nèi)容時，應主動使用‘人工智能生成內(nèi)容’的標簽進行聲明，未主動聲明的內(nèi)容，平臺將采取適當措施進行流量限制并添加相關(guān)標識?！崩钅嘲l(fā)布的內(nèi)容經(jīng)機器識別為“包含人工智能生成”，經(jīng)過人工復核，認定該內(nèi)容缺乏明顯的人類情感特征。被告作為網(wǎng)絡服務提供方，有權(quán)自行選擇合理、必要的方式和技術(shù)，網(wǎng)絡服務合同未約定被告有義務向用戶提供、解釋技術(shù)秘密和算法邏輯。被告針對人工智能治理需求開發(fā)、部署、運行自研深度合成算法模型是合理、必要的，并設置專門測試團隊通過技術(shù)手段觀察、抽檢模型運行的準確率，如發(fā)生準確率下降或異常波動，被告會及時對模型進行優(yōu)化迭代。

　　庭審中，某科技公司提交其在互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)公示的相關(guān)算法機制機理內(nèi)容作為算法決策判定的證據(jù)。

　　平臺審查應合理有據(jù)

　　北京互聯(lián)網(wǎng)法院經(jīng)審理認為，該案中，某科技公司結(jié)合《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》中有關(guān)深度合成標識的管理規(guī)定和網(wǎng)絡空間治理的現(xiàn)實需要，發(fā)布了社區(qū)公告載明“創(chuàng)作者在發(fā)布包含 AIGC生成的內(nèi)容時，應主動使用標識，幫助讀者進行區(qū)分。對發(fā)布時未主動聲明的內(nèi)容，平臺將采取適當措施進行流通限制并添加相關(guān)標識”“未經(jīng)標簽聲明，使用人工智能生成的內(nèi)容構(gòu)成違規(guī)”。李某系平臺注冊用戶，上述公告屬于平臺服務協(xié)議的組成部分。因此，某科技公司有權(quán)依據(jù)合同約定對涉案內(nèi)容是否屬于 AI生成合成內(nèi)容進行審查和處理。

　　同時，法院認為，平臺的審查及處理結(jié)果應有合理依據(jù)。該案中，李某主張涉案內(nèi)容并非 AI生成內(nèi)容，某科技公司對涉案內(nèi)容的審查及處理違反平臺服務協(xié)議，在一般情況下，李某應該提供如創(chuàng)作底稿、原件、源文件、源數(shù)據(jù)等證明人類創(chuàng)作屬性的初步證據(jù)，但該案中李某回答內(nèi)容系即時性創(chuàng)作文本，在客觀上無法提供上述證據(jù)，由李某提供上述證據(jù)亦不存在合理性和現(xiàn)實可行性。而某科技公司基于算法工具的運算結(jié)果得出涉案內(nèi)容為 AI生成合成的審查結(jié)論，其既是算法工具掌控方又是結(jié)果判斷方，算法工具運算過程和審查結(jié)果由其掌控，在此情況下，其應就該事實進行合理舉證或解釋說明。

　　雖然某科技公司在該案中提供了算法的備案信息，但公示內(nèi)容顯示該算法功能為識別有安全風險的回答，無法認定其系對 AI生成合成識別判斷的技術(shù)，故無法確認備案信息與該案爭議的關(guān)聯(lián)性，因此某科技公司未對涉案內(nèi)容屬于 AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋。此外，某科技公司對人工復核程序的解釋為需要非常明顯的人類情感特征才能駁回算法決策結(jié)果，而該判斷標準更多依賴主觀認識和個人經(jīng)驗，并不具有科學依據(jù)以及較強的說服力和可信度。

　　據(jù)此，法院認定某科技公司未對算法決策依據(jù)和結(jié)果進行適度的解釋和說明，應對其在沒有事實依據(jù)的情況下對涉案賬戶的處理行為承擔違約責任。

　　北京互聯(lián)網(wǎng)法院一審判決某科技公司展開對于涉案內(nèi)容的隱藏，刪除在后臺的違規(guī)處理記錄。目前，該案判決已生效。

　　完善平臺治理模式

　　北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長袁建華在接受記者采訪時表示，國家互聯(lián)網(wǎng)信息辦公室等部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標識辦法》將于2025年9月1日起正式施行。該辦法規(guī)范了人工智能生成合成內(nèi)容標識的使用，要求用戶發(fā)布 AI生成合成內(nèi)容時主動聲明并進行標識，網(wǎng)絡信息內(nèi)容傳播服務提供者應當采取措施，規(guī)范生成合成內(nèi)容傳播活動。當前，生成式人工智能技術(shù)在內(nèi)容的生成合成方面展現(xiàn)了巨大的能量和潛力，為數(shù)字經(jīng)濟發(fā)展注入強大動力。與此同時，在 AI生成合成內(nèi)容未進行“AI標識”的情況下，公眾難以區(qū)分 AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容，利用 AI實施詐騙、侵權(quán)等違法犯罪的行為有上升趨勢。AI生成合成內(nèi)容標識作為對人工智能生成內(nèi)容監(jiān)管的有益工具和必要手段，會對凈化網(wǎng)絡內(nèi)容環(huán)境和網(wǎng)絡空間治理起到一定積極作用。

　　中國人民大學法學院副教授、信息文明與國家治理研究所所長黃尹旭在接受記者采訪時表示，該案是對 AI生成合成內(nèi)容標識的標記、平臺識別和治理在司法審查規(guī)則方面的有益探索。一方面肯定了網(wǎng)絡內(nèi)容服務平臺利用算法工具對 AI生成合成內(nèi)容進行審查和處理，履行信息內(nèi)容管理主體責任的積極作用；另一方面，認定網(wǎng)絡內(nèi)容服務平臺在即時性創(chuàng)作文本場景下對使用算法自動化決策結(jié)果承擔適度說明義務，并為司法審查階段的算法解釋說明程度確立了一定的標準。

　　“需要強調(diào)的是，算法治理需在保障技術(shù)透明度與激發(fā)產(chǎn)業(yè)創(chuàng)新活力間尋求動態(tài)平衡?！秉S尹旭表示，明確算法解釋說明的司法審查標準，既保障了網(wǎng)絡用戶合法權(quán)益，又能有效推動算法公開透明，規(guī)范算法應用行為，推動平臺經(jīng)濟健康發(fā)展。該案通過司法個案裁判，合理分配網(wǎng)絡內(nèi)容服務平臺和用戶的舉證責任，推動網(wǎng)絡內(nèi)容服務平臺提高算法的識別能力和決策能力，切實提升人工智能信息內(nèi)容治理水平。（本報記者 祝文明 通訊員 張夏意）

（編輯：劉珊）

新浪科技公眾號

“掌”握科技鮮聞 （微信搜索techsina或掃描左側(cè)二維碼關(guān)注）

相關(guān)新聞