近年来，生成式人工智能深刻改变人类的生产生活方式，但AI幻觉问题却经常浮现。“真亦假时假亦真，无为有处有还无”你是否经历过这样的时刻，聪明的AI一本正经地胡说八道，AI用笃定的语气把“无”说成“有”，用户用轻率的转发把“假”传成“真”

　　当生成式人工智能生成内容具有虚假、误导、错误时，谁应当为“说胡话”“传播胡话”承担法律责任？是服务提供者还是服务使用者？

　　杭州市互联网法院、杭州市滨江区人民法院分别审结两起“首例”案件全国首例因AI幻觉问题引发的侵权纠纷案、浙江首例因传播AI幻觉内容引发的不正当竞争案，明确了生成式人工智能服务提供者、使用者的责任边界，为AI时代的内容生成与传播纠纷处理提供了重要的裁判指引。

　　其中，全国首例因AI幻觉问题引发的侵权纠纷案被写入2025年最高人民法院工作报告，写入“恪守公平正义，以高质量司法服务高质量发展”篇章，作为“促进人工智能规范发展，依法妥善审理涉人工智能案件，准确把握科技创新容错空间”的典型案例。

　　用户梁某在某生成式人工智能中输入提示词询问某高校报考的相关信息时，某生成式人工智能生成了关于该高校某校区的不准确信息，梁某在对话中进行了纠正和指责，但是某生成式人工智能仍坚持错误，并且承诺若生成内容有误将向用户提供10万元赔偿。梁某据此起诉生成式人工智能服务提供者索赔损失9999元。生成式人工智能服务提供者辩称对话内容由AI生成，不成立意思表示；生成式人工智能服务提供者已充分履行注意义务，无过错；用户未产生实际损失，故不构成侵权。

　　杭州市互联网法院将本案争议焦点归纳为以下三点：生成式人工智能可否独立作出意思表示，生成式人工智能侵权应适用何种归责原则，生成式人工智能服务提供者是否构成侵权。

　　杭州市互联网法院经审理认为，首先，生成式人工智能不具有民事主体资格，不能作出意思表示，案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者的意思表示；其次，生成式人工智能服务依据《生成式人工智能服务管理暂行办法》属于“服务”范畴，而非产品质量法意义上的“产品”，本案应适用《中华人民共和国民法典》第一千一百六十五条的一般过错责任原则，而非产品责任的无过错责任原则；最后，法院基于一般过错责任原则，对侵权构成的各项要件侵权行为、过错、损害结果与因果关系进行逐一审查，认定生成式人工智能服务提供者不构成侵权，驳回用户诉讼请求。

　　法院认为，原告主张受到的侵害是因信息不准确，致其受误导错失报考机会，额外产生信息核实成本、维权成本等，即纯粹经济利益被侵害，应当从被告是否违反注意义务进行判定。

　　生成式人工智能服务提供者的注意义务处在一个动态调整的框架之中。法院总结生成式人工智能服务提供者应尽的三层注意义务，包括：对法律禁止的“有毒”、有害、违法信息负有严格审查义务；需以显著方式向用户提示AI生成内容可能不准确的固有局限性，以防范用户产生不当信赖；应尽功能可靠性的基本注意义务，采取同行业通行技术措施提高生成内容准确性，比如检索增强生成技术措施等。经审查，被告已在应用程序欢迎页、用户协议及交互界面的显著位置呈现AI生成内容功能局限的提醒标识，已采用检索增强生成等技术提升输出可靠性的事实，已尽到合理注意义务，主观上不存在过错。原告未能就因AI信息误导而错失报考机会并产生额外成本提供任何有效证据，难以认定损害存在，二者不存在因果关系。

　　B·sport（中国体育） B体育平台

　　本案主审法官、杭州市互联网法院跨境贸易法庭庭长肖芄向记者表示，“对生成式人工智能服务侵权采取过错责任原则能够全面评价服务提供者的行为，有利于建构兼具弹性、适应性与演化能力的回应型规则治理体系。”

　　肖芄进一步表示，生成式人工智能服务不是产品，其提供的是持续的服务，缺乏产品缺陷认定的统一标准，且生成式人工智能具有重要的社会意义属性，造成损害的危害性不同于产品责任。通过对服务提供者有无过错的判断，可以在动态回应的过程中寻找合理的注意义务标准，同时也让社会公众更加理性地认识AI的功能与局限，生成式人工智能仅是“文本辅助生成器”和“信息查询的辅助工具”，不是可靠的“知识权威”，更不是“决策提供者”。

　　李某是百度百家号“地某”账号的运营者，该账号被认证为电商推广号，拥有数万粉丝，通过商业推广、带货等方式营利。李某使用某AI平台生成一篇题为《某数字控股有限公司是真的吗》的文章，称某数字控股（深圳）有限公司是原告公司的重要子公司，是其在“数字化转型过程中的重要布局”。随后，李某自行添加带有原告公司标识的配图，并将文章发布在自己的百家号上。实际上，文中公司与原告公司没有任何关联。

　　原告公司认为此文含有严重失实信息，容易误导公众，损害其商业信誉与竞争利益，遂以不正当竞争为由，将李某诉至法院，要求其消除影响、赔偿损失。李某辩称，涉案文章完全由AI生成，自己未作修改，且在后台标注了“由某AI平台生成”，主观上没有侵权故意。

　　杭州市滨江区人民法院经审理认为，原、被告主体适格且双方具有竞争关系，被诉侵权行为构成《中华人民共和国反不正当竞争法》第二条所规制的不正当竞争行为。生成式人工智能使用者在利用人工智能进行内容创作后，因其对生成物具有最大的控制权，其应当对生成内容的传播和利用负合理的注意义务，即审核义务与显著标识义务。

　　B·sport（中国体育） B体育平台

　　被告李某作为自媒体博主，在明确知晓被诉侵权文章系人工智能自动生成、信息来源不可靠的情形下，未对被诉侵权文章内容进行最低程度的审核，亦未在文章中进行显著标注，提示公众该文章系由人工智能生成，使得包含虚假信息的内容通过互联网传播，且通过手动添加带有原告品牌标识配图的方式进一步加强文章的误导性，被诉侵权行为扰乱了市场竞争秩序，损害了原告的竞争利益，亦造成原告相应的损失。最终，法院判决被告应当承担消除影响、赔偿损失的责任。

　　“技术的局限，不应对技术本身施加过于苛刻的无过错责任，但也不应成为使用者规避责任的避风港。”本案主审法官、杭州市滨江区法院白马湖人民法庭（数据知识产权法庭）庭长倪晓花向记者表示，实质审核义务与显著标识义务作为“注意义务”并非直接笼统地要求其承担责任，而是要通过精细化的法律论证，构建一个动态、多层次的注意义务分析框架。该框架以主体身份（商业推广主体）、行为目的（以营利为目的）、行为方式（通过自媒体向不特定公众公开传播）、所用工具的特性与风险（生成式人工智能存在“幻觉”的固有缺陷）以及造成的损害性质（损害他人商誉、扰乱市场竞争秩序）与大小作为考量维度，在此基础上，将抽象的“合理注意”义务具体化为可操作、可审查的行为标准。

　　中国政法大学数据法治研究院教授、博士研究生导师、中国法学会网络与信息法学会副会长王立梅向记者表示，“涉AI幻觉司法裁判引入动态系统论，清晰界定了生成式人工智能服务提供者与内容使用者责任定性与归责路径，在人工智能应用法律治理领域具有重要示范意义。”

　　杭州市互联网法院的判决准确适用民法典的一般过错责任原则，为生成式人工智能服务提供者确立了“违法信息严格审查、显著风险提示说明、功能可靠性保障”三层注意义务，即要求承担合规性、提示性、技术性的有限注意义务，并在过错范围内承担相应责任。杭州市滨江区法院的判决确立了“谁传播、谁负责”的基本规则。鉴于生成式人工智能服务使用者对生成内容享有实际控制权，其应当承担相应的实质审核义务和显著标识义务。

　　王立梅表示，AI幻觉已从技术风险转化为现实法律风险，亟待通过法律规制予以系统性回应。AI幻觉的治理不应止于司法裁判的事后追责，而应坚持事前治理与事后救济并重，推动技术优化与制度完善协同发力，构建差异化治理框架，对于医疗、金融等高风险领域的人工智能应用，应当实施更严格、更前置的监管要求，完善算法透明度、数据可追溯、安全测试与风险应急处置机制，施加更高标准的强制标识义务、安全保障义务与合规责任，以“风险越高、监管越严”的原则，筑牢人工智能安全治理与法治保障底线。在此基础上，应同步强化数字素养培育与完善行业自律机制，形成多方协同的人工智能治理格局。