欧盟收紧人工智能监管：关于2025年8月生效的监管条例，最重要的问答——图片来源：Xpert.Digital
欧盟人工智能办公室成立：欧盟如何监控人工智能
什么是欧盟人工智能法规？它为何出台？
欧盟人工智能条例，又称欧盟人工智能法案（(EU) 2024/1689 号条例），是世界上首部全面规范人工智能的法律。该条例于 2024 年 3 月 13 日由欧洲议会通过，并于 2024 年 8 月 1 日生效。
该法规的主要目标是为欧盟人工智能的应用建立统一的法律框架。一方面，它旨在促进创新并增强公众对人工智能的信任；另一方面，它确保人工智能的使用方式能够保障欧盟公民的基本权利和安全。欧盟采取的是基于风险的方法：人工智能系统带来的风险越高，其承担的义务就越全面。
该法规是对人工智能技术快速发展及其深远社会影响的直接回应。欧盟希望通过该法规，既能防范潜在风险，又能将欧洲打造成为值得信赖的人工智能领先中心。
与此相关：
什么是通用人工智能模型？为什么它们是监管的重点？
根据欧盟人工智能法规的定义，通用人工智能（GPAI）模型是指具有显著通用性并能胜任各种不同任务的人工智能模型。这些模型可以集成到各种下游系统或应用程序中。
GPAI模型的一个显著特点是其多功能性：它们并非为特定应用而设计，而是提供广泛的功能。与专用AI模型不同，GPAI模型在训练过程中并非只学习一项特定的、定义狭窄的任务。
广义通用人工智能（GPAI）模型的知名例子包括OpenAI的GPT-4（用于微软Copilot和ChatGPT）、谷歌DeepMind的Gemini、Anthropic的Claude以及Meta的LLaMA。由于其技术范围和训练架构，这些系统符合欧盟法规对GPAI模型的定义。
监管机构特别关注 GPAI 模型，是因为它们的高风险潜力：由于它们可以在许多领域使用，因此人工智能可能会导致对社会产生重大影响的应用，例如在医疗保健、贷款或人力资源领域。
哪些义务将于 2025 年 8 月 2 日生效？
对通用人工智能模型提供商的约束性义务将于2025年8月2日生效。这些新规标志着欧盟人工智能监管的一个重要里程碑，并将影响多个领域：
透明度义务
供应商必须提供技术文档，并披露有关训练方法、训练数据和模型架构的信息。该文档必须包含对人工智能模型的总体描述，包括模型预期执行的任务以及可以集成到哪些类型的人工智能系统中。
版权合规性
服务提供商必须确保其模型符合欧盟版权法。这包括考虑网站是否设有退出选项，以及建立权利持有人的投诉机制。
治理义务
必须建立适当的治理结构，以确保遵守相关法规。这包括对高风险的GPAI模型加强审计和报告要求。
文档要求
必须编写并发布一份足够详细的培训内容摘要。该摘要应便于包括版权所有者在内的合法权益各方行使和维护其权利。
欧洲人工智能办公室如何监管人工智能？
欧洲人工智能办公室由欧盟委员会于2024年1月24日设立，在人工智能法规的实施中发挥着核心作用。其组织架构隶属于欧盟委员会通信网络、内容和技术总司（DG Connect）。
人工智能办公室拥有广泛的权力来监督全球人工智能监管机构（GPAI）法规的遵守情况。它可以向公司索取信息，评估其模型，并要求其纠正缺陷和问题。对于违规或拒绝提供信息的情况，官员可以将人工智能模型从市场上移除或处以罚款。
该机构承担多项关键任务：进一步完善具有约束力的AI行为准则，协调欧洲监管网络，并监测AI市场的发展。此外，该机构还负责开发工具和方法，以评估大型生成式AI模型的风险。
人工智能办公室由五个专业部门组成：监管与合规部、人工智能安全部、人工智能与机器人卓越中心、人工智能公益部以及人工智能创新与政策协调部。这一架构能够为人工智能监管的各个方面提供全面支持。
违反GPAI规定的行为会受到哪些处罚？
欧盟人工智能法规规定，违反全球人工智能组织（GPAI）指南将受到严厉处罚。罚款最高可达1500万欧元或全球年营业额的3%，以较高者为准。
对于特别严重的违规行为，例如未能遵守第五条关于禁止某些人工智能实践的规定，可处以最高3500万欧元或全球年营业额7%的罚款。这凸显了欧盟执行新规的决心。
除了罚款之外，还有其他法律后果：向当局提供虚假或不完整信息可能被处以最高750万欧元或全球年营业额1.5%的罚款。文件不全和不配合监管机构也可能导致相同金额的罚款。
罚款金额之巨凸显了欧盟执行人工智能监管的严肃性。最近的一个例子是意大利数据保护机构对OpenAI处以1500万欧元的罚款，尽管该罚款依据的是《通用数据保护条例》（GDPR）而非人工智能监管条例。
与此相关：
什么是人工智能行为准则？它为何会引发争议？
《人工智能实践准则》是一项自愿性文件，由13位独立专家制定，并吸纳了1000多位利益相关者的意见。该准则由欧盟委员会于2025年7月10日发布，旨在帮助通用人工智能模型提供商遵守人工智能法规的要求。
该规范分为三个主要章节：透明度、版权以及安全与保护。透明度和版权章节面向所有GPAI模型提供商，而安全与保护章节仅适用于具有系统性风险的最先进模型提供商。
自愿签署该准则的公司可以减少繁琐的行政程序，并提高法律确定性。而未签署该准则的公司则可能面临欧盟委员会更多的问询。这间接地促使公司参与，尽管该准则在官方层面是自愿的。
这场争议源于各公司截然不同的反应：OpenAI表示愿意合作并签署该协议，而Meta则拒绝参与。Meta首席全球事务官Joel Kaplan批评该协议在法律上存在不确定性，并认为其远远超出了人工智能法律的范畴。
Meta为何拒绝签署行为准则？
Meta决定不签署欧盟GPAI模型行为准则，这标志着该公司对欧洲监管采取了引人注目的反对立场。Meta首席全球事务官Joel Kaplan在LinkedIn上发文解释了这一决定，并列举了几个关键点。
主要的批评在于法律上的不确定性：Meta公司认为，该代码“给模型开发者带来了诸多法律上的不确定性，并且包含了一些远远超出人工智能法律范围的措施”。该公司担心，措辞含糊不清可能会导致误解和不必要的官僚障碍。
另一方面，人们也担忧创新会因此受到扼杀：Meta公司警告称，该法规可能会减缓欧洲先进人工智能模型的发展速度，并阻碍欧洲企业的发展。该公司尤其批评该法规对初创企业和小公司的影响，认为这些企业可能会因此在竞争中处于不利地位。
值得注意的是，Meta 的这一拒绝正值其计划在欧盟范围内日益依赖自身人工智能服务（例如 Llama 3 语言模型）之际。该公司计划通过自身平台以及与云服务和硬件提供商合作的方式部署其人工智能技术，例如应用于高通智能手机和雷朋眼镜等产品中。
哪些公司支持该行为准则，哪些公司反对该准则？
科技公司对欧盟行为准则的反应各不相同，反映出业内人士对欧洲人工智能监管存在分歧。
该准则的支持者
OpenAI已宣布有意签署该协议，并称其为落实欧盟人工智能法的可行框架。该公司认为该协议是其在欧洲扩展自身基础设施和合作伙伴关系的基础。微软也表示愿意合作：总裁布拉德·史密斯表示“我们很可能会签署”，并赞扬了人工智能办公室与业界的积极合作。
批评者和异议者
Meta是其中最主要的批评者，并明确拒绝签署该协议。该公司由此加入了批评者的行列，他们认为欧洲的人工智能监管计划会扼杀创新。包括ASML、飞利浦、西门子和人工智能初创公司Mistral在内的40多位欧洲公司首席执行官在一封公开信中呼吁将人工智能法案推迟两年实施。
未决定
谷歌和Anthropic尚未就其立场公开置评，这表明两家公司可能正在进行内部评估。这种沉默或许是出于策略考虑，因为两家公司都必须权衡法律确定性带来的好处与额外合规成本带来的弊端。
尽管面临行业压力，欧盟委员会依然立场坚定，坚持原定时间表：推迟实施 GPAI 规则的要求是不可能实现的。
集成一个独立且跨数据源的人工智能平台，以满足所有业务需求
整合独立且跨数据源的AI平台，满足所有业务需求 - 图片来源：Xpert.Digital
AI颠覆者：最灵活的AI平台——量身定制的解决方案，降低成本、优化决策、提升效率
独立人工智能平台：整合所有相关的公司数据源
- 该人工智能平台可与所有特定数据源进行交互。
- 来自 SAP、Microsoft、Jira、Confluence、Salesforce、Zoom、Dropbox 和许多其他数据管理系统
- 快速集成人工智能：在数小时或数天内为企业量身定制人工智能解决方案，而不是数月。
- 灵活的基础设施：基于云或托管在您自己的数据中心（德国、欧洲，地点可自由选择）
- 最高级别的数据安全保障：律师事务所的使用就是无可辩驳的证明。
- 可部署于各种企业数据源
- 选择使用我们自己的或不同的AI模型（DE、EU、USA、CN）
我们的人工智能平台解决的挑战
- 传统人工智能解决方案的不适用性
- 数据保护和敏感数据的安全管理
- 个人人工智能开发成本高昂且复杂
- 合格的人工智能专家短缺
- 将人工智能集成到现有IT系统中
更多信息请点击这里：
欧盟人工智能办公室成立：欧盟如何监控人工智能
标准 GPAI 模型与具有系统性风险的模型有何不同？
欧盟人工智能法规对通用人工智能模型（GPAI）采用分级风险分类，区分标准GPAI模型和具有系统性风险的模型。这种区分对于确定适用的义务至关重要。
标准GPAI模型
它们必须满足基本要求：模型的详细技术文档、用于训练的数据信息以及版权合规性。这些模型须遵守人工智能条例第53条规定的标准义务。
具有系统性风险的GPAI模型
它们根据人工智能法规第51条进行分类。如果一个模型具有“高影响力”，则被认为构成系统性风险。作为基准，如果一个通用人工智能模型“用于其训练的累计计算量（以浮点运算衡量）超过10^25”，则该模型具有系统性风险。
对于存在系统性风险的模型，还需承担额外的义务：进行模型评估（包括对抗性测试）、评估和缓解潜在的系统性风险、跟踪并向人工智能局和相关国家当局报告严重事件，以及确保充分的网络安全保护。
这种分类考虑到功能特别强大的模型也可能带来特别高的风险，因此需要更严格的监控和控制。
与此相关：
公司需要记录和披露哪些具体信息？
通用人工智能提供商的文档和透明度义务受到全面而细致的监管。根据人工智能法规第53条和附件十一，技术文档必须涵盖多个核心领域。
通用模型描述
文档必须包含对 GPAI 模型的全面描述，包括该模型旨在执行的任务、可将其集成到的 AI 系统类型、适用的可接受使用原则、发布日期和分发方式。
技术规格
有关架构和参数数量、输入输出的模式和格式、使用的许可证以及集成到人工智能系统所需的技术手段的详细信息。
开发过程和训练数据
模型的设计规范和训练过程、训练方法和技术、关键设计决策和假设、所用数据集的信息（包括类型、来源和管理方法）。
培训内容公开摘要
人工智能办公室提供了一个标准化的模板，概述了用于训练模型的数据。这包括数据来源、大型数据集和顶级域名。
下游供应商和人工智能办公室必须能够随时索取相关文件，并且必须定期更新。
版权在新规中扮演什么角色？
版权在欧盟人工智能法规中扮演着核心角色，因为许多通用人工智能模型都是基于受版权保护的内容进行训练的。该行为准则专门用一个章节来阐述这一主题。
合规义务
服务提供商必须采取切实可行的措施来遵守欧盟版权法。这包括在抓取网页时遵守机器人排除协议（robots.txt），以及识别并尊重版权保留条款。
技术防护措施
企业必须实施技术保障措施，防止其模型生成侵犯版权的内容。这可能构成重大障碍，尤其对于像 Midjourney 这样的图像生成器而言。
投诉机制
服务提供商必须指定权利人联系人并建立投诉处理程序。如果权利人要求停止使用其作品，公司必须遵守。
训练数据的透明度
新的培训内容公开摘要模板旨在方便版权所有者行使和维护其权利。它使他们能够更好地追踪其受版权保护的作品是否在培训中使用。
这些法规旨在保持人工智能领域的创新与知识产权保护之间的平衡。
监管对小型企业和初创公司有何影响？
欧盟人工智能法规对小型企业和初创公司的影响是围绕新规展开辩论的关键方面。各方都对小型企业可能面临的不利影响表示担忧。
官僚负担
Meta认为，该行为准则的严格要求可能会严重限制初创企业的发展机会。繁琐的文件记录和合规要求可能会给小型公司带来过高的成本。
针对中小企业的纾困措施
然而，人工智能法规也提供了一些简化措施：中小企业（包括初创企业）可以以简化的形式提交技术文件。欧盟委员会正在为此制定一份简化的表格，以满足微型和小型企业的需求。
开源例外
采用开源许可的GPAI模型提供商（即公开且免费许可、无系统性风险的模型）无需遵守详细的文档标准。这项规定对初创公司和小型开发者尤其有利。
公平竞争
该行为准则的制定过程中，有超过1000名利益相关者参与，其中包括中小企业。此举旨在确保不同规模企业的需求得到充分考虑。
因此，欧盟正努力减轻小型企业的负担，同时保持高标准的安全性和透明度。
与此相关：
2025年8月2日对现有的人工智能模型有何意义？
2025年8月2日标志着欧洲人工智能监管的一个重要转折点，它区分了新型模式和现有模式。这种区分对于监管的实际实施至关重要。
新的GPAI模型
对于2025年8月2日之后推出的新型GPAI模型，人工智能法规的全部义务立即生效。这意味着自该日起，所有透明度、文档记录和治理义务均成为强制性要求。
现有模型
对于已上市的系统，例如 ChatGPT-4，这些规则将从 2026 年 8 月起生效。这两年的过渡期旨在让供应商有时间相应地调整其现有系统并实施新要求。
人工智能办公室的执法
欧洲人工智能办公室将在规则生效一年后（即自2026年8月起）对新模型进行强制执行，并在两年后对现有模型进行强制执行。这为监管机构提供了时间来提升自身能力并制定一致的执法措施。
通过行为准则搭建过渡桥梁
作为一项过渡措施，企业现在即可签署自愿性人工智能行为准则。与选择其他合规方式的企业相比，这些企业将受益于更少的繁文缛节和更高的法律确定性。
这对欧洲人工智能市场有何长期影响？
欧盟人工智能法规预计将对欧洲人工智能市场产生深远而持久的影响。这些变化将影响欧洲的竞争地位以及整个人工智能产业的发展。
法律确定性是一种竞争优势
那些及早重视透明度、公司治理和合规性的企业，将在欧洲市场保持竞争力。统一的规则能够使欧洲成为值得信赖的人工智能的理想之地，并增强投资者和客户的信心。
全球标准制定者
与GDPR类似，欧盟人工智能法规也可能产生国际影响。专家预计，欧盟人工智能法案将促进全球人工智能治理和伦理标准的制定。欧洲有望成为负责任的人工智能发展的全球标杆。
创新生态系统
欧盟正在资助多项措施，以支持人工智能研究并促进研究成果向市场转化。由200多个欧洲数字创新中心（EDIH）组成的网络旨在推动人工智能的广泛应用。
市场整合
严格的监管要求可能导致市场整合，因为规模较小的供应商可能难以承担合规成本。与此同时，围绕合规解决方案可能会涌现出新的商业模式。
竞争风险
未能及时采取行动的公司将面临法律风险和竞争劣势。高额罚款和严格的执法措施可能会对商业模式产生重大影响。
长期影响取决于欧洲能否成功平衡创新与监管，并确立自身作为值得信赖的人工智能领先地区的地位。
您的人工智能转型、人工智能集成和人工智能平台行业专家
☑️ 我们的业务语言是英语或德语。
☑️ 新增：用您的母语进行通信！
Konrad Wolfenstein
我和我的团队很乐意为您提供私人顾问服务。.
您可以通过填写此处的联系表格联系我wolfenstein@xpert.digital：，或者直接致电+49 7348 4088 965。我的邮箱地址是
我期待着我们的合作项目。.
