人工智能內容監管領域出現標志性判例：某平臺用戶因發布內容被系統判定為“未標識的內容 AI生成內容”，遭平臺隱藏內容并禁言1天。被判用戶起訴后，生成訴完善算北京互聯網法院近日一審判決平臺構成服務合同違約，而遭需撤銷處理措施并刪除違規記錄。屏蔽平臺該案系國內首起因平臺判定用戶發布內容為 AI生成而引發的用戶案件。

　　內容被屏蔽引發訴訟

　　在某科技公司運營的起訴知名網絡平臺上，用戶李某發布了一段生活建議：“打工并不能讓你真的獲勝衡創護賺到多少錢，但可以開啟你的法治新視角……”

　　平臺算法將該內容標記為“包含AI生成內容但未標識”，隨即隱藏內容并對賬號禁言1天。理平李某申訴無果后訴至北京互聯網法院，新保主張其并未使用 AI創作，內容某科技公司的被判行為構成違約，請求法院判令撤銷隱藏涉案內容和禁言賬號1天的生成訴完善算違規處理，并在后臺系統中刪除違規處理記錄。而遭

　　某科技公司辯稱，其有權依據雙方網絡服務合同審核認定李某使用平臺服務時的違規行為并采取必要治理措施，不構成違約。涉案平臺規范中明確規定：“創作者在發布包含人工智能生成內容時，應主動使用‘人工智能生成內容’的標簽進行聲明，未主動聲明的內容，平臺將采取適當措施進行流量限制并添加相關標識。”李某發布的內容經機器識別為“包含人工智能生成”，經過人工復核，認定該內容缺乏明顯的人類情感特征。被告作為網絡服務提供方，有權自行選擇合理、必要的方式和技術，網絡服務合同未約定被告有義務向用戶提供、解釋技術秘密和算法邏輯。被告針對人工智能治理需求開發、部署、運行自研深度合成算法模型是合理、必要的，并設置專門測試團隊通過技術手段觀察、抽檢模型運行的準確率，如發生準確率下降或異常波動，被告會及時對模型進行優化迭代。

　　庭審中，某科技公司提交其在互聯網信息服務算法備案系統公示的相關算法機制機理內容作為算法決策判定的證據。

　　平臺審查應合理有據

　　北京互聯網法院經審理認為，該案中，某科技公司結合《互聯網信息服務深度合成管理規定》中有關深度合成標識的管理規定和網絡空間治理的現實需要，發布了社區公告載明“創作者在發布包含 AIGC生成的內容時，應主動使用標識，幫助讀者進行區分。對發布時未主動聲明的內容，平臺將采取適當措施進行流通限制并添加相關標識”“未經標簽聲明，使用人工智能生成的內容構成違規”。李某系平臺注冊用戶，上述公告屬于平臺服務協議的組成部分。因此，某科技公司有權依據合同約定對涉案內容是否屬于 AI生成合成內容進行審查和處理。

　　同時，法院認為，平臺的審查及處理結果應有合理依據。該案中，李某主張涉案內容并非 AI生成內容，某科技公司對涉案內容的審查及處理違反平臺服務協議，在一般情況下，李某應該提供如創作底稿、原件、源文件、源數據等證明人類創作屬性的初步證據，但該案中李某回答內容系即時性創作文本，在客觀上無法提供上述證據，由李某提供上述證據亦不存在合理性和現實可行性。而某科技公司基于算法工具的運算結果得出涉案內容為 AI生成合成的審查結論，其既是算法工具掌控方又是結果判斷方，算法工具運算過程和審查結果由其掌控，在此情況下，其應就該事實進行合理舉證或解釋說明。

　　雖然某科技公司在該案中提供了算法的備案信息，但公示內容顯示該算法功能為識別有安全風險的回答，無法認定其系對 AI生成合成識別判斷的技術，故無法確認備案信息與該案爭議的關聯性，因此某科技公司未對涉案內容屬于 AI生成合成的判斷依據和結果作出合理解釋。此外，某科技公司對人工復核程序的解釋為需要非常明顯的人類情感特征才能駁回算法決策結果，而該判斷標準更多依賴主觀認識和個人經驗，并不具有科學依據以及較強的說服力和可信度。

　　據此，法院認定某科技公司未對算法決策依據和結果進行適度的解釋和說明，應對其在沒有事實依據的情況下對涉案賬戶的處理行為承擔違約責任。

　　北京互聯網法院一審判決某科技公司展開對于涉案內容的隱藏，刪除在后臺的違規處理記錄。目前，該案判決已生效。

　　完善平臺治理模式

　　北京互聯網法院綜合審判一庭副庭長袁建華在接受記者采訪時表示，國家互聯網信息辦公室等部門聯合發布的《人工智能生成合成內容標識辦法》將于2025年9月1日起正式施行。該辦法規范了人工智能生成合成內容標識的使用，要求用戶發布 AI生成合成內容時主動聲明并進行標識，網絡信息內容傳播服務提供者應當采取措施，規范生成合成內容傳播活動。當前，生成式人工智能技術在內容的生成合成方面展現了巨大的能量和潛力，為數字經濟發展注入強大動力。與此同時，在 AI生成合成內容未進行“AI標識”的情況下，公眾難以區分 AI生成合成內容和人類創作內容，利用 AI實施詐騙、侵權等違法犯罪的行為有上升趨勢。AI生成合成內容標識作為對人工智能生成內容監管的有益工具和必要手段，會對凈化網絡內容環境和網絡空間治理起到一定積極作用。

　　中國人民大學法學院副教授、信息文明與國家治理研究所所長黃尹旭在接受記者采訪時表示，該案是對 AI生成合成內容標識的標記、平臺識別和治理在司法審查規則方面的有益探索。一方面肯定了網絡內容服務平臺利用算法工具對 AI生成合成內容進行審查和處理，履行信息內容管理主體責任的積極作用；另一方面，認定網絡內容服務平臺在即時性創作文本場景下對使用算法自動化決策結果承擔適度說明義務，并為司法審查階段的算法解釋說明程度確立了一定的標準。

　　“需要強調的是，算法治理需在保障技術透明度與激發產業創新活力間尋求動態平衡?！秉S尹旭表示，明確算法解釋說明的司法審查標準，既保障了網絡用戶合法權益，又能有效推動算法公開透明，規范算法應用行為，推動平臺經濟健康發展。該案通過司法個案裁判，合理分配網絡內容服務平臺和用戶的舉證責任，推動網絡內容服務平臺提高算法的識別能力和決策能力，切實提升人工智能信息內容治理水平。（本報記者 祝文明 通訊員 張夏意）

（編輯：劉珊）

新浪科技公眾號

“掌”握科技鮮聞 （微信搜索techsina或掃描左側二維碼關注）

相關新聞