爱案例·全球AI诉讼风向标

中国民事算法工具算法责任、平台违约责任已终审

网络平台利用算法检测AI生成内容但未尽到合理说明义务案

人工智能标识案

重要性评级

法院：北京互联网法院

当事方：原告：唐某某；被告：某科技有限公司

平台使用算法工具将用户内容判定为AI生成未标识并进行处理，法院认定平台未尽合理说明义务构成违约。

诉讼时间轴

一审· 北京互联网法院

判决被告展开折叠的回答并删除相关后台记录。

上诉

被告撤回上诉，一审判决生效。

案情概述

原告唐某某在被告某科技有限公司运营的网络平台上发布文字内容，被告平台运用算法工具将该内容判定为“包含AI生成内容但未标识”的违规情况，并对内容进行隐藏，同时将用户禁言一天。唐某某申诉未成功后，主张其未使用AI创作，认为被告行为违约，请求法院判令被告撤销处理并删除违规记录。法院审理认为，网络平台利用算法工具检测AI生成内容但未尽到合理适度说明义务的应承担违约责任。被告基于算法工具的运算结果得出审查结论，但未能对算法决策依据和结果进行适度的解释和说明，其人工复核标准亦缺乏科学依据和说服力。最终，法院判决被告展开折叠的回答并删除相关后台记录。被告不服一审判决提起上诉，后撤回上诉，一审判决生效。

核心争议焦点

1网络平台利用算法工具判断AI生成内容的责任边界
2平台对用户发布内容进行违规处理的说明义务
3平台算法决策的透明度与可解释性

双方观点

原告主张

原告唐某某主张其并未使用AI创作，认为被告某科技有限公司的行为违约，请求法院判令被告撤销隐藏涉案内容和禁言账号一天的违规处理，并在后台系统中删除违规处理记录。

被告抗辩

被告某科技有限公司运营的平台将该内容判定为“包含AI生成内容但未标识”的违规情况，并进行了隐藏和禁言处理。被告发布社区公告要求创作者在发布包含AIGC生成的内容时应主动使用标识，对未主动声明的内容，平台将采取适当措施进行流通限制并添加相关标识；未经标签声明，使用人工智能生成的内容构成违规。被告认为原告系平台注册用户，上述公告属于平台服务协议的组成部分，被告有权根据协议对用户发布内容是否属于AI生成合成内容进行审查和处理。

关键证据

被告提供的算法备案信息（法院认为无法确认关联性）

法院说理

法院认为，网络用户在使用AI工具进行创作并将相关内容发布到网络平台时，应依照诚信原则如实标记。被告发布社区公告要求创作者在发布包含AIGC生成的内容时，应主动使用标识，对发布时未主动声明的内容，平台将采取适当措施进行流通限制并添加相关标识；未经标签声明，使用人工智能生成的内容构成违规。原告系平台注册用户，上述公告属于平台服务协议的组成部分，被告有权根据协议对用户发布内容是否属于AI生成合成内容进行审查和处理。然而，被告基于算法工具的运算结果得出涉案内容为AI生成合成的审查结论，被告既是算法工具掌控方又是结果判断方，算法工具运算过程和审查结果由被告掌控，被告应就该事实进行合理举证或解释说明。虽然被告提供了算法的备案信息，但无法确认备案信息与本案争议的关联性。被告未对算法决策依据和结果进行适度的解释和说明，未对涉案内容属于AI生成合成的判断依据和结果作出合理解释，应对其没有事实依据的情况下对涉案账户的处理行为承担违约责任。被告进行人工复核的标准要求具有非常明显的人类情感特征，该判断并不具有科学依据以及较强的说服力和可信度。

裁判要点

1网络平台利用算法工具检测AI生成内容时，应尽到合理适度的说明义务。
2平台作为算法工具的掌控方和结果判断方，应对算法决策依据和结果进行合理举证或解释说明。
3平台对用户内容进行违规处理，若无充分事实依据和科学解释，应承担违约责任。

最终判决结果

法院判决被告展开折叠的回答并删除相关后台记录。被告不服一审判决提起上诉，后撤回上诉，一审判决生效。

适用法律原则

诚信原则合同自由原则违约责任原则

AI技术详情

技术类型：算法工具

技术实现说明

本案涉及的AI技术主要是平台使用的算法工具，用于检测用户发布内容是否包含AI生成成分。具体算法模型和技术细节原文未提及，但强调了其运算过程和审查结果由平台掌控。

原始法律文书

1 份

唐某某诉某科技有限公司网络服务合同纠纷案（平台AI检测未尽说明义务）

官方法院判决书2025/9/10

来源：北京互联网法院典型案例汇编

北京互联网法院 | 平台利用算法检测AI生成内容但未尽合理说明义务

下载

延伸阅读

法律意义

本案是北京互联网法院发布的首批涉人工智能典型案例之一，明确了网络平台在利用算法工具处理用户内容时，应承担的说明义务和算法透明度责任。它强调了平台方在算法决策中的举证和解释责任，对规范平台算法治理、保护用户权益具有重要指导意义。

行业影响

本案对互联网平台和AI内容生成服务提供商提出了更高的合规要求。平台在引入AI检测工具时，需确保其算法决策的透明度、可解释性和科学性，并对用户提供充分的说明。这可能促使平台在开发和应用AI技术时更加注重用户权益保护和算法伦理，推动行业在AI治理方面进行更深入的探索和实践。