AI 原生开放教材

外观

AI 工程从零到一（中文）源码研读·中文原文 ↗原件 ↓仓库 ↗

监管框架 —— 欧盟、美国、英国、韩国 ​

四大主要监管体制定义了 2026 年的 AI 治理版图。EU AI 法案（2024 年 8 月 1 日生效）——禁止性做法和 AI 素养自 2025 年 2 月 2 日起；GPAI 义务自 2025 年 8 月 2 日起；全面适用和第 50 条透明度自 2026 年 8 月 2 日起；遗留 GPAI 和嵌入式高风险系统自 2027 年 8 月 2 日起；罚款最高 1500 万欧元或全球营业额的 3%。GPAI 行为准则（2025 年 7 月 10 日）：三章——透明度、版权、安全与安保——共 12 项承诺；执法自 2026 年 8 月起。英国 AISI -> AI Security Institute（2025 年 2 月）：改名意味着范围收窄。美国 AISI -> CAISI（2025 年 6 月）：NIST 下的 Center for AI Standards and Innovation；转向促增长姿态。韩国 AI 基本法（2024 年 12 月通过，2026 年 1 月生效）：第 12 条在 MSIT 下设立 AISI；要求外国 AI 公司设本地代表、做风险评估、为高影响和生成式 AI 采取安全措施。

类型： Learn 语言： 无 前置要求： 阶段 18 · 18（前沿框架）、阶段 18 · 27（数据治理） 预计时间： ~75 分钟

学习目标 ​

  • 描述 EU AI 法案的风险分层（禁止、高风险、通用、有限风险）以及 2025 年 8 月 / 2026 年 8 月 / 2027 年 8 月的时间线。
  • 描述 GPAI 行为准则的三章，以及每章约束哪些提供方。
  • 描述 2025 年的改名：英国 AISI -> AI Security Institute；美国 AISI -> CAISI；每次改名暗示的政策方向。
  • 说出韩国 AI 基本法的核心条款。

问题背景 ​

实验室框架（第 18 课）是自愿的。监管框架是强制的。2024-2026 这段时间，第一波全面 AI 监管开始生效。部署方必须把技术控制映射到监管义务上；而这个映射因辖区而异。

核心概念 ​

EU AI 法案 ​

2024 年 8 月 1 日生效。 风险分层结构：

  • 禁止性做法（第 5 条）。社会评分、公共场所实时远程生物识别（有执法例外）、对脆弱群体的剥削性操纵。2025 年 2 月 2 日适用。
  • 高风险系统（附件 III）。就业、教育、信贷、执法、司法、移民。需要合格评定、风险管理、日志、透明度。
  • 通用 AI（GPAI）模型。2025 年 8 月 2 日适用。所有 GPAI 提供方都有义务；系统性风险 GPAI（训练算力 >1e25 FLOP）有额外义务。
  • 有限风险系统。第 50 条下的透明度义务（AI 生成内容标注）。2026 年 8 月 2 日适用。

时间线：

  • 2025 年 2 月 2 日：禁止性做法 + AI 素养。
  • 2025 年 8 月 2 日：GPAI + 治理。
  • 2026 年 8 月 2 日：全面适用 + 第 50 条透明度 + 罚款最高 1500 万欧元 / 全球营业额 3%。
  • 2027 年 8 月 2 日：遗留 GPAI + 嵌入式高风险。

委员会在 2025 年底提议把高风险时间线调整为 16 个月。

GPAI 行为准则 ​

2025 年 7 月 10 日发布。三章：

  • 透明度。 所有 GPAI 提供方。
  • 版权。 所有 GPAI 提供方。
  • 安全与安保。 系统性风险 GPAI 提供方（估计 5-15 家公司）。

共 12 项承诺。一个由 AI Office 主持的签署方工作组管理实施。执法自 2026 年 8 月 2 日起；在此之前，接受善意合规。

第 50 条透明度准则 ​

首稿 2025 年 12 月 17 日。二稿 2026 年 3 月。定稿 2026 年 6 月。覆盖 AI 生成内容标注，包括深度伪造——这是要求第 23 课水印技术的那个监管层。

英国 AI Security Institute（2025 年 2 月） ​

从 AI Safety Institute 改名而来。改名收窄了范围：放下算法偏见和言论自由的框架；聚焦前沿能力安全。开源了 Inspect 评估工具（2024 年 5 月）。与 Redwood（第 10 课）合作搞控制安全论证。

美国 CAISI（2025 年 6 月） ​

特朗普政府把 NIST 的 AI Safety Institute 转变为 Center for AI Standards and Innovation。据副总统 Vance 在巴黎 AI 行动峰会的发言，转向「促增长的 AI 政策」。降低对部署前评估的强调；强调标准和创新支持。是对 EU AI 法案监管姿态的国内对冲。

韩国 AI 基本法 ​

2024 年 12 月通过。2025 年 1 月颁布。2026 年 1 月生效。整合了 19 项独立的 AI 法案。

第 12 条在科学技术信息通信部（MSIT）下设立一个 AISI。要求：

  • 在韩国运营的外国 AI 公司设本地代表。
  • 对「高影响」AI 系统做风险评估。
  • 为生成式 AI 和高影响 AI 采取安全措施。

亚洲第一个有全面横向 AI 监管的辖区。

跨辖区动态 ​

  • 欧盟：严格、风险分层、重罚。隐私相邻监管的标杆。
  • 美国：偏向创新、去中心化，各州（比如加州 AB 2013——第 27 课）填补联邦空白。
  • 英国：窄的安全聚焦、强的评估基础设施。
  • 韩国：MSIT 主导、聚焦外国提供方。

相互竞争的监管哲学。在多个辖区的部署方必须遵守最严的那个，而在 2026 年通常就是 EU AI 法案。

这在阶段 18 里的位置 ​

第 18 课是实验室自愿治理；第 24 课是监管；第 25 课是 AI 系统新兴的一类 CVE；第 26-27 课讲文档（卡片）和训练数据治理。

figure
an-eu-act-timeline

实际使用 ​

没有代码。读 EU AI 法案的原始资料：法规文本、GPAI 行为准则、英国 AISI Inspect 框架。把你的部署映射到每个辖区的适用义务上。

拿去用 ​

本课产出 outputs/skill-regulatory-map.md。给定一段部署描述，它映射出适用的辖区、每个辖区的分层归类、逐辖区的义务、以及截止日期结构。

练习 ​

  1. 读 EU AI 法案（法规 2024/1689）和 GPAI 行为准则（2025 年 7 月 10 日）。指出三项适用于每个 GPAI 提供方的义务，以及三项只适用于系统性风险 GPAI 的义务。

  2. 一个部署由一家美国公司做出、跑在欧盟基础设施上、服务韩国用户。哪三个辖区的规则适用，且在每个实质性问题上由哪条规则约束？

  3. 英国 AI Security Institute 的改名收窄了范围。为更窄的框架正反各论证一次。指出每个立场所依赖的政策假设。

  4. CAISI 的「促增长」框架是对 2022-2024 AI 安全研究院模型的背离。指出两个会从这个框架引出的可测量政策转变。

  5. 韩国 AI 基本法要求外国提供方设本地代表。为一家服务韩国用户的湾区公司描述运营层面的影响。

关键术语 ​

术语大家嘴上怎么说它实际是什么
EU AI 法案「那个法规」基于风险分层的横向 AI 监管；2024 年 8 月生效
GPAI「通用 AI」大型基础模型；系统性风险子集有额外义务
第 50 条「透明度义务」AI 生成内容标注；2026 年 8 月适用
英国 AISI「AI Security Institute」2025 年 2 月改名；更窄的前沿安全聚焦
CAISI「美国 AI 标准中心」2025 年 6 月从 AI Safety Institute 改名；促增长姿态
韩国 AI 基本法「MSIT 横向监管」亚洲第一部全面 AI 法律；2026 年 1 月生效
系统性风险 GPAI「那个 1e25 FLOP 阈值」额外义务分层；估计约束 5-15 家公司

延伸阅读 ​