AI 项目出了事，谁来担责？——一文讲清责任划分

引导语

一个真实的场景，改动细节后：

一家公司用第三方大模型 API 做了一款 AI 客服产品，上线三个月，AI 在一次回复中给出了错误的税务处理建议，客户照做，损失几十万。

客户把这家公司告了。公司觉得冤：模型不是我们训练的，建议是模型自己生成的，我们只是做了个壳——责任应该在模型方。

这个理解对不对？答案是：大概率不对，而且错得代价很大。

"责任在模型方"是 AI 项目里最流行、也最危险的误区。这篇把 AI 项目的责任划分完整讲一遍：谁可能担责、按什么逻辑担、签合同时怎么分、出事之后怎么办。

先给一句话结论——

责任跟着"角色"走，不跟着"技术"走。谁把服务交付给了用户，谁就是第一责任人。

一、先分清：你在 AI 项目里是什么角色

责任划分的第一个动作，不是翻法条，是给自己的项目定角色。同一个 AI 系统，不同主体承担的责任完全不同：

三个容易踩的坑：

1. 角色看交付，不看技术。你用了多牛的第三方模型，只要服务是以你的品牌、你的界面交付给用户的，你就是服务提供者。备案主体是你，被投诉的对象也是你。
2. 角色可能叠加。一家公司可能同时是某层的部署者和另一层的开发者——比如基于开源模型微调后对外提供服务，微调改变了模型行为，你的责任就更接近开发者。
3. 角色看实际功能，不看合同叫法。合同里写"技术支持方"不等于不是部署者。监管和法院看的是谁控制服务、谁收费、谁对用户负责。

出海的话再加一层：不同法域的角色术语和责任起点不同。欧盟 AI Act 区分 provider / deployer，中国的备案体系认"服务提供者"——同一个项目可能在两个法域被划入不同角色，义务要做两套映射。

二、国内规则：责任划分的四条线

线 1｜行政责任：备案主体担着

生成式 AI 服务在国内要备案（算法备案、大模型备案、深度合成备案，视功能触发）。备案主体是服务提供者——不是模型方。

备案不是挂个名。备案之后，内容安全、标识、数据来源这些义务就落在你头上。出事时监管第一个找的，就是备案名单上的那个主体。

线 2｜侵权责任：过错原则 + 注意义务

最高法《关于依法审理涉人工智能纠纷案件的意见》（2026/9/7，首部涉 AI 司法裁判规则）把侵权这条线画清楚了：

• 归责基础是过错：法律无特别规定的，适用过错责任原则；
• "AI 幻觉"不免责：生成内容侵害他人人格权益，经通知后未及时停止生成或采取必要措施的，服务提供者担责。关键动作是"收到通知后的反应速度"；
• 责任与控制能力匹配：你能控制什么，就对你的控制范围内负责。技术上无法逐一核实的，注意义务相应降低——但这要靠证据证明，不是嘴上说说。

线 3｜人格权：这三类基本没跑

最高法意见列得很明确：

• 未经同意生成可识别自然人的虚拟形象并使用 → 侵害姓名权、肖像权；
• 未经同意用他人声音训练、模仿音色 → 侵害声音权益；
• 操控虚拟形象发表不实言论 → 侵害名誉权。

注意：这类责任连用户一起追。提供"换脸""拟声"功能的服务提供者，如果对用户上传的素材不做来源审核，就是共同责任。人格权受侵害时还可以申请禁令——不是等判赔，是可以直接要求停。

线 4｜合同责任：你跟用户、跟上游怎么约定的

行政和侵权责任是法定的，合同责任是你自己能设计的部分：

• 对用户的用户协议——责任限制、免责情形、投诉处理流程；
• 对上游模型方的采购协议——模型质量、数据合规承诺、赔偿责任分摊、知识产权担保。

大多数出事的 AI 项目，回头看都是这两份协议没写好或者压根没签。下一节讲怎么写。

三、出海项目：欧盟那套要单独过一遍

如果你的产品服务欧盟用户，责任框架要叠加欧盟 AI Act 的逻辑：

• Provider（提供者）义务最重：高风险系统要建质量管理体系、技术文档、日志、人工监督；
• Deployer（部署者）也不是零义务：按说明使用、保留日志、人工复核高风险输出、告知受影响员工（比如用 AI 监控员工时）；
• 高风险场景的部署者责任会升级——招聘筛选、信贷评估这类 Annex III 场景，部署者要确认输入数据的相关性和代表性，还要有人工审查机制。

给出海企业的实务建议：做一个"角色 × 法域"的双维矩阵——每个主体在每个法域是什么角色、触发哪些义务。很多团队只做了法域维度（欧盟什么规则、中国什么规则），漏了角色维度，最后发现同一个主体在三套体系里被认定成三种角色。

四、Agent 项目：责任划分的新问题

如果项目里有智能体（Agent）自主操作——自动下单、自动发邮件、自动调权限——责任划分会多出一个维度：系统的"自主决策"怎么归责？

现行规则的口径是收敛的：

• 中国《智能体规范应用与创新发展实施意见》（2026/5）明确了权限分配三模式：本人决策 / 授权决策 / 智能体自主决策——并明确用户享有知情权和最终决策权；
• 《人工智能安全治理框架》3.0 首次单列智能体风险；
• 新加坡 MGF for Agentic AI、欧盟的人类监督要求，都指向同一个方向：高风险动作前必须有人类检查点。

翻译成责任语言：你把决策权交给 Agent 的部分，出了事还是你的责任——因为"让 Agent 自主"本身是你的设计决策。人类检查点缺失，在监管逻辑里约等于过错。

给 Agent 产品团队的一句话：日志比模型重要。出事之后能证明"系统做了什么、谁触发了什么、检查点在哪里"，责任划分就有依据；没有日志，就是各说各话。

五、签合同时：四类条款必须写

责任划分最好做的时机是签合同时，不是出事之后。四类条款：

① 角色确认条款——明确各方在项目中的角色（谁向用户交付服务、谁提供技术能力），并约定角色变化的重新评估机制。

② 责任分摊条款——

• 对上游：模型方的质量承诺、数据合规承诺、出现侵权时的配合义务和赔偿分摊；
• 对下游（用户）：责任限制条款（注意：对个人用户的免责条款效力有限，消保法和民法典都有约束，别指望一纸协议全免）。

③ 数据与内容责任条款——训练数据授权链谁担保、生成内容侵权的处理流程、通知-处置的时限承诺。

④ 出险处理条款——出了事的通知义务、证据保全配合、对外口径统一。这一条最常被忽略，但出事时最值钱。

一个提醒：上游模型方的格式合同里通常写了"模型输出不构成建议、使用风险自担"——这类条款保护的是模型方，不是你。作为部署者，你不能把这份格式条款转手当自己的挡箭牌，你的用户只认你。

六、出事之后：四步应急

如果事情已经发生，按这个顺序处理：

第一步：停止损害——下线相关功能、停止生成、必要时主动暂停服务。继续生成，过错会被加重。

第二步：固定证据——

• 系统日志（谁触发的、模型输出了什么、人工检查点是否执行）；
• "通知—处置"时间线（什么时候收到的投诉/通知、什么时候采取的措施）——这是过错认定的核心证据；
• 与用户的沟通记录、与上游的往来函件。

第三步：统一口径——对用户、对监管、对上游，三套说法要一致且经得起核对。多头对外是应急中最常见的二次事故。

第四步：评估责任敞口——行政（备案、约谈、处罚）、民事（侵权赔偿）、合同（对用户的违约）三条线分别算清楚，再决定应对策略。这个评估建议让律师做，不是让技术团队估。

结语：三句话记住责任划分

1. 责任跟角色走：谁交付服务谁是第一责任人，"模型不是我的"不是挡箭牌；
2. 义务能设计：签约时的四类条款、上线前的人类检查点、留足的日志——责任边界是可以提前划的；
3. 反应要快：最高法意见把"经通知未及时处置"写成了担责情形，出事后的反应速度本身就是法律评价的一部分。

AI 项目的责任划分，本质上是一道提前设计题，不是出事后的追责题。等接到投诉再想责任划分，能做的已经不多了。

本文是 general 层面的规则梳理，具体项目的责任划分需结合合同架构、产品功能、涉及法域个案分析。

可以获取《AI 项目责任划分自查表》：角色确认、四类合同条款、Agent 检查点、应急四步，一张表过完。

相关阅读

• 中国 AI 企业出海，到底受哪些中国法管？——现行有效法规清单（2026 年 11 月版）
• 五大法域 AI 监管对比：欧盟、美国、中国、韩国、新加坡