💡 本文聚焦2026年9月7日发布的首部涉人工智能司法裁判规则文件，结合真实判例，为你拆解AI时代的法律边界。

一张带有“AI生成”水印的照片，让原告在法庭上当场露馅。

近日，湖北大悟法院在审理一起房屋租赁纠纷时，原告女儿为证明对方欠缴水电费，提交了一张水电表照片。法官一眼看出异常——照片右下角赫然带着“豆包AI生成”的水印。面对质询，她最终承认伪造证据，被依法训诫。

这并非个例。随着2024年起国产大模型井喷式发展，“AI幻觉”“AI换脸”“AI语音克隆”引发的纠纷正以前所未有的速度涌入现实生活。技术狂飙之下，法律如何回应？近日，最高法正式发布《关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》），这是我国首部较为全面的涉人工智能纠纷案件法律适用司法文件，为技术探索划出了清晰的法治“红线”。

一、AI乱象：从“换脸拟声”到法庭造假

大模型普及后，AI的“破坏力”已不仅限于网上恶搞：

• 法庭上的“AI幻觉”：北京通州法院审理一起商事纠纷时，原告律师提交的“参考案例”竟是AI生成的虚构内容，案号、事实全对不上。该律师承认是用AI凭空编的，最终被法院批评教育，案例入选了人民法院案例库。

• AI伪造证据索赔：有人用AI生成虚假就医记录、诊断证明、呕吐照片，向餐饮店敲诈勒索，最终以敲诈勒索罪被判刑。还有人在买卖合同纠纷中用AI生成虚假物流发货单，被法官识破后当庭悔过、受到训诫。

• “换脸拟声”泛滥：利用AI技术“换脸”“偷声”侵害人格权益的行为多发，手段隐蔽，当事人往往面临举证难、维权成本高的困境。

这些现象指向同一个核心问题：技术是否“无责”？如何让使用者敢使用，让创新者愿创新？

二、人格权保护：你的脸和声音，AI不能随便用

《意见》把人格权益保护摆在突出位置，对滥用恶用AI技术的行为给出了明确的否定评价。

1. “AI换脸”“拟声”直接侵权

未经同意利用AI处理自然人姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害；未经同意使用自然人声音作为训练语料，模仿其音色、语调和发音风格生成可识别的合成人声的，构成对声音权益的侵害。操控虚拟形象、合成声音发表不实言论降低他人社会评价的，构成对名誉权的侵害。

2. “AI复活逝者”被明确规制

针对热议的“AI复活逝者”带货、悼念等场景，《意见》专门增加规定：利用AI技术擅自制作、使用死者的虚拟数字形象致使死者姓名、肖像、名誉等受到侵害的，死者近亲属可依据民法典请求行为人承担民事责任。

3. 人格权侵害禁令细化适用

考虑到网络侵权传播快、后果不可逆，《意见》依法适用人格权侵害禁令制度，允许权利人在诉前请求法院命令平台进行删除、屏蔽等处置，通过事前控制实现及时有效的保护。

三、技术不是“免责牌”：AI提供者的责任边界

“内容由AI生成”不能成为免责抗辩。《意见》清晰传递出导向：企业不能只获利不担责，技术控制能力与过错程度是责任划分的关键。

🔹 个人信息训练有了“合理范围”

大模型训练离不开数据，但处理个人信息不能无边界。《意见》明确，在合理范围内处理已合法公开的个人信息，且个人未明确拒绝的，一般不认定为侵权；但对个人权益有重大影响的，必须依法取得个人同意。法院在认定“合理范围”时，会综合考量处理目的、信息类型、敏感程度等因素。

🔹 归责原则：以“过错责任”为基础

除法律明确规定适用无过错责任或过错推定责任外，涉AI侵权应当适用过错责任原则。这意味着，AI提供者不能仅以“技术中立”推诿，但当侵权事实像“红旗”一样显著（即“红旗原则”），若视而不见未采取措施，将承担连带责任。

🔹 恶意诱导的责任划分

用户通过输入侵权提示词等方式恶意诱导AI生成侵权内容，由该用户担责；经权利人通知，AI服务提供者未及时采取停止生成、屏蔽等必要措施的，也要依法承担相应责任。

四、伪造证据零容忍：造假必被究

《意见》兼顾了对涉人工智能刑事案件的法律适用要求，坚决依法严惩利用AI实施犯罪的行为，比如炮制虚假信息、实施“深度伪造”用于网络侮辱诽谤等。

结合已有判例，诉讼参与人需格外警惕：

• AI生成图片当证据：湖北大悟法院明确，利用AI技术生成照片作为诉讼证据，构成伪造重要证据，涉嫌妨害诉讼秩序，可依法处以训诫、罚款、拘留，情节严重的追究刑事责任。

• AI编造案例提交法庭：北京通州法院指出，诉讼参与人提交通过AI获取且未经核实的虚假案例，应当承担相应法律后果，情节较重的可参照民事诉讼法相关规定处理。

• AI造假用于敲诈：用AI伪造病历、发票索赔，已构成敲诈勒索罪，实刑案例已有发生。

技术可以“幻想”，但证据必须真实。 任何主体不得利用新技术虚构事实、制造假象非法牟利。

五、留白与前瞻：为创新预留空间

值得关注的是，《意见》对AI生成内容的可版权性、训练数据合理使用等暂时看不清、难以形成共识的问题作了“留白处理”，先以参考案例、法答网问答等形式加强对下指导，待条件成熟时再明确规定。

这种审慎态度体现了司法的智慧：既不让法律空白导致乱象丛生，也不让过早定论扼杀产业创新。AI产业既要加速向前，更要行稳致远。

AI时代的法治，不是给技术套上枷锁，而是为所有人系上“安全带”。最高法这份《意见》从司法角度助推行业从“野蛮生长”向“有序繁荣”转变，划清了红线，也预留了空间。

无论你是普通用户、内容创作者、企业合规人员还是AI开发者，都该记住：技术向上向善的方向，需要每一行代码、每一次点击、每一份证据去共同守护。

📌 温馨提示：本文内容基于最高法发布的司法文件及公开判例解读，不构成法律意见。如遇具体纠纷，请咨询专业法律人士。

 本文引用的公开案例与文件：

• 最高法《关于依法审理涉人工智能纠纷案件的意见》（2026年9月7日发布）

• 湖北大悟法院AI伪造水电表照片案

• 北京通州法院律师AI生成虚假案例案

• AI伪造病历敲诈勒索获刑案

• 武汉东西湖法院AI伪造发货单案