AI 筛简历为什么是欧盟高风险:Annex III 第 4 条拆解
"我们的 AI 只是帮 HR 排个序,不算高风险吧"——在欧盟 AI 法案下,这句话不成立。招聘、筛选、评估候选人属于 Annex III 明确列举的高风险用途,涵盖简历筛选、面试评分、候选人排序等几乎所有 HR SaaS 的 AI 功能。一旦落入这一档,义务量级会跳一个数量级。
引导语
跟 AI 创业团队聊欧盟合规,最常听到的开场白是:
"我们不做医疗、不做金融、不碰人脸识别——高风险跟我们没关系。"
每到这时我会追问一句:"你们的产品会参与招聘吗?筛简历、分析面试视频、评估候选人?会用于教育或职业培训吗?"
十次里有八次,对面沉默了。
一、"高风险"的范围,比直觉宽得多
欧盟 AI 法案的"高风险"清单(Annex III)里,排在生物识别、关键基础设施之后的,是两个看起来"人畜无害"的领域:
第 3 条 · 教育与职业培训
用于评估学习成果、评定适当的教育水平、监测考试期间违禁行为(远程监考)、评估教学水平的 AI 系统——影响个人获取教育或职业培训机会的,均属高风险。
第 4 条 · 就业与用工管理
用于招聘或筛选求职者——包括分析、筛选求职申请,评估候选人——以及用于晋升、调岗、解雇决策、任务分配、绩效监控与评估的 AI 系统,均属高风险。
立法逻辑很朴素:这些 AI 系统决定一个人能不能得到工作和教育机会——那是现代社会的"关键资源"。权力越大,义务越重。
二、对照自查:这些产品全部命中
拿上面两条清单对照市面上的产品,命中范围大得惊人:
招聘侧(Annex III 第 4 条)
- AI 简历筛选 / 排序工具
- 视频面试的情绪、语调、能力分析
- AI 面试官(自动化面试 + 评分)
- 员工绩效监控与评估系统
- 晋升 / 裁员决策辅助工具
- 定向招聘广告投放(用 AI 决定把岗位广告推给谁,也算)
教育侧(Annex III 第 3 条)
- 招生录取评估 AI
- 作业 / 论文自动批改
- 水平考试、语言等级评定
- 在线考试远程监考(proctoring)
- 学生分流、课程推荐里的"评估"模块
两个容易漏的:AI 辅导产品(tutoring)只要带"学习成果评估"功能就命中;职业培训 / 技能认证平台(upskilling)天然在"职业培训"射程内。
做这些方向的团队,很多正在把欧洲当作目标市场——而他们中的大多数,没意识到自己在监管眼里是"高风险系统提供者"。
三、命中高风险,意味着什么
高风险不等于不能做——它是义务清单,不是禁令。Annex III 高风险系统的全套义务共 11 项:
提供者(开发方)的义务
- 风险管理体系(覆盖全生命周期,持续迭代)
- 数据治理(训练数据的相关性、充分性、代表性,偏见审查)
- 技术文档(第 11 条要求的完整技术档案)
- 自动记录日志
- 向部署者提供充分的使用说明
- 人工监督设计(系统必须允许有效的人工干预)
- 准确性、稳健性与网络安全达标
- 合格评定(conformity assessment,多数场景为自我评估 + FDD 路径)
- 在欧盟数据库登记(Art. 49/71)
- 上市后监测 + 严重事件报告(Art. 72/73)
部署者(用 AI 招人的欧洲企业)的义务
- 人工审查 AI 的决策结果、告知候选人 AI 参与了评估、特定场景做基本权利影响评估(Art. 26/27)
第 11 项值得多说一句:你的欧洲企业客户自己也有义务——意味着他们采购你的工具时,会反过来要求你提供技术文档、合格评定证明、偏见审查记录。合规证明正在成为对欧销售的入场券。
罚则:违反高风险义务,最高 1500 万欧元或全球营收 3%(取较高者)。
四、时间线:2027 年 12 月 2 日,现在立项刚好卡线
Annex III 高风险义务的生效日期是 2027 年 12 月 2 日(欧盟 Digital Omnibus 立法包延期后的最新时间表)。
看起来还有一年多,但注意三件事:
- 建设周期 12 个月以上。风险盘点、训练数据治理与偏见审查、技术文档、合格评定流程——每一环都有外部依赖(数据要重新清洗、流程要重跑、文档要配套评审),不是一个季度冲刺得完的;
- 存量产品没有想象中的宽限。2027 年大限针对的是"投放欧盟市场"的系统——包括在此之后持续在售的;
- 2026 年内不立项,2027 年就是赶工和取舍——砍功能还是赶文档,到时候只剩这两个选项。
倒推回来:2027 年大限的启动窗口,就是现在。
五、换个角度:合规是壁垒,不是成本
最后说一个我们观察到的趋势,供做招聘 / 教育 AI 的团队参考。
高风险义务抬高了整个赛道的准入门槛,这在商业上未必是坏事:
- 欧洲企业客户会越来越难买到"合规的招聘 AI"——先完成合格评定的供应商,直接进入一张很短的名单;
- 训练数据的偏见审查、人工监督设计,恰恰是 ToB 客户采购时最关心的产品能力——把合规义务做进产品,就是做进卖点;
- 对比之下,不做合规的竞品在欧洲市场面对的是下架风险 + 客户法务一票否决。
我们给这类客户的建议从来不是"退出欧洲",而是把 2026 年剩余的时间,变成先发的 12 个月。
结语
Annex III 的清单比大多数人的直觉宽——招聘、教育、信用,这些"影响人生机会"的场景,在欧盟监管框架里全部是高风险。
你的产品是否命中?命中后 11 项义务从哪项开始做?我们准备了一份《高风险义务自查清单》——即可获取;需要个案判断的,把产品简介发到团队邮箱,我们提供 30 分钟免费初步评估。
相关阅读
你的 HR 产品触发了几项义务?
把产品功能清单发到 [email protected],可安排 30 分钟免费初步评估,逐项比对高风险义务清单,标出当前缺口。
本文为一般性信息分享,不构成法律意见。高风险分类与义务适用需结合系统功能、使用目的与部署角色个案认定,以官方最新公布文本为准。具体事项请咨询执业律师。转载请联系作者并注明出处。