中国AI智能体AI智能体幻觉平台责任已终审
浦东法院:用户恶意诱导造成大模型幻觉,平台不构成侵权
浦东法院:用户恶意诱导造成大模型幻觉,平台不构成侵权
重要性评级
案号:(2024)沪0115民初95826号
法院:上海市浦东新区人民法院
判决时间:2025年10月31日
用户恶意诱导AI智能体产生幻觉,生成虚假信息。法院认定平台已尽合理注意义务,不构成侵权。
诉讼时间轴
一审2025-10· 上海市浦东新区人民法院
驳回原告浙江A酒店管理有限公司的全部诉讼请求。
案情概述
原告分别于2024年5月25日以及5月29日在北京某网讯科技有限公司APP中搜索原告酒店品牌加盟,搜索结果页中显示了被告某(上海)酒店管理有限公司(以下简称被告一)的推广链接,点击链接后进入了被告一的智能体客服对话框。随即,在该界面中用户输入部分自动将原告检索内容自动带入至智能体对话中,智能体进行回复后,原告又与该智能体进行了多轮对话。在原告与被告一智能体对话过程中,该界面始终显示了AI标识、被告一公司名称以及相应品牌信息。原告认为,二被告使用推广方式链接至被告一智能体,并在智能体中自动弹出原告品牌酒店加盟字样的行为,侵犯了原告的商标专用权,同时,北京某网讯科技有限公司作为网络服务提供者与被告一构成共同故意,应按照民法典第一千一百九四条规定承担侵权责任。
核心争议焦点
- 1AI幻觉的法律性质
- 2平台对AI智能体的注意义务
- 3恶意诱导行为的认定
- 4AI服务提供者的责任边界
双方观点
原告主张
二被告使用推广方式链接至被告一智能体,并在智能体中自动弹出原告品牌酒店加盟字样的行为,侵犯了原告的商标专用权,同时,北京某网讯科技有限公司作为网络服务提供者与被告一构成共同故意,应按照民法典第一千一百九四条规定承担侵权责任。
法院说理
法院认为:
一、关于案件的基本事实认定
根据双方提交的证据材料和庭审查明的事实,法院对本案的基本事实作出如下认定。
二、关于法律适用问题
本案涉及的核心法律问题需要根据相关法律法规进行分析和判断。
三、关于责任承担
综合考虑案件的具体情况,法院对责任承担作出如下认定。
裁判要点
- 1用户恶意诱导导致AI产生幻觉,平台不应承担责任
- 2平台已设置合理的技术防护措施和提示
- 3AI技术存在固有局限性,不能要求平台承担绝对责任
- 4判决驳回原告诉讼请求
最终判决结果
一审判决:驳回原告诉讼请求,平台不构成侵权
延伸阅读
法律意义
本案是国内首例涉AI智能体的侵权纠纷案件,明确了AI服务提供者的责任边界。判决合理平衡了技术发展与权益保护,认可了AI技术的固有局限性,对于促进AI商业应用具有积极意义。
内容目录
案件信息
法域中国
类型AI智能体
AI技术AI智能体幻觉
法律问题平台责任
状态已终审
重要性
浏览次数16
相关案例
同法域或同类型案例
中国变身漫画特效模型
抖某诉亿某科AI模型参数结构侵权案
中国生成式人工智能(AIGC)
李昀锴诉刘元春AI图片著作权侵权案
国内首例AI生成图片著作权侵权案,法院认定AI生成图片构成作品,原告享有著作权,被告侵权并判决赔礼道歉及赔偿。
中国生成式人工智能(AIGC),具体为文生图、图生图及LoRA模型训练与应用
杭互奥特曼AIGC侵权案
国内首例AIGC著作权侵权案,法院判决AI平台构成帮助侵权,需停止侵权并赔偿3万元,但驳回不正当竞争主张。
中国AI表演动画技术、超写实角色智能建模与绑定技术、智能动画与语音合成技术、智能交互技术
首例涉“虚拟数字人”侵权案
杭州互联网法院判决首例涉“虚拟数字人”侵权案,认定被告构成著作权侵权及不正当竞争。