发布日期：2025年2月13日 / 更新日期：2025年2月13日 – 作者：Konrad Wolfenstein
人工智能系统、高风险系统以及《人工智能法》在企业和公共机构中的实际应用——图片来源：Xpert.Digital
欧盟人工智能法：欧盟委员会发布新指南——企业现在需要了解什么
人工智能系统、高风险应用以及企业和公共机构中的人工智能法
2025年2月11日，欧盟委员会发布了关于欧盟人工智能法案实际实施的全面指南。这些指南旨在帮助企业和公共机构更好地理解并遵守该法案的要求。指南重点强调了被禁止的人工智能实践、高风险系统以及确保合规的措施。.
指南的关键方面
被禁止的人工智能实践
《人工智能法案》明确禁止某些被认为存在不可接受的高风险的人工智能应用。这些禁令自2025年2月2日起生效。其中包括：
- 使用操纵或欺骗技术的AI系统
- 专门利用特定个人或群体弱点的系统
- 社会评分系统
- 利用人工智能在没有明确证据的情况下预测潜在的犯罪行为
- 未经控制地从互联网抓取面部图像用于生物识别
- 工作场所或教育机构中的情绪识别系统
- 公共场所的生物识别实时身份识别系统（执法机构除外）
这些禁令旨在确保人工智能技术以合乎道德和负责任的方式使用，并且不侵犯基本权利。.
指导原则的实际应用
欧盟委员会发布的这份长达140页的指南包含大量实用案例研究，旨在帮助企业和公共机构正确对其人工智能系统进行分类。尽管这些指南不具有法律约束力，但它们可作为监管机构在监督和执行法规时的参考依据。.
对公司和当局的重要性
企业和监管机构必须积极遵守这些准则，以便：
- 审查您现有的AI系统是否存在潜在违规行为
- 尽早做出必要的调整
- 建立内部合规机制以避免处罚
不遵守相关规定可能导致严重后果。罚款最高可达3500万欧元或公司全球年营业额的7%，以较高者为准。.
后续步骤
这些指导方针在全面实施前，仍需翻译成所有欧盟官方语言并正式通过。尽管如此，企业和公共机构仍应积极采取措施，为人工智能法案的分阶段实施做好准备。该法案计划于2026年8月2日全面生效。.
人工智能系统的风险分类
欧盟人工智能法案将人工智能系统分为四个风险等级，每个等级都有不同的监管要求：
1. 不可接受的风险——被禁止的人工智能系统
这些系统在欧盟被完全禁止，因为它们对公民的权利和自由构成重大威胁。例如：
- 用于社交评分的人工智能系统
- 能够无意识地影响用户行为的操纵型人工智能
- 在公共场所进行实时生物识别以用于执法目的（少数例外情况除外）
- 利用年龄、残疾或社会经济地位等因素造成的弱点的AI系统
2. 高风险——需要严格监管
这些系统必须满足严格的要求并通过一致性测试才能投放市场。它们包括：
- 人工智能作为医疗设备、车辆或机器等关键产品的安全组件
- 对基本权利具有影响的独立人工智能系统（例如，信用检查、申请筛选、执法、司法行政）
这些应用程序须满足有关透明度、风险管理、数据质量和人工监督的严格要求。.
3. 有限风险——透明度义务
这些系统必须告知用户他们正在与人工智能交互。例如：
- 聊天机器人
- 深度伪造技术用于创建或篡改媒体内容。
4. 风险极低或无风险 – 免费使用
此类系统不受任何特定法律义务的约束；但是，建议制定自愿性行为准则。例如：
- 人工智能驱动的电子游戏
- 垃圾邮件过滤器
高风险人工智能系统及其监管
《人工智能法案》将高风险人工智能系统定义为对人们的安全、健康或基本权利产生重大影响的系统。这些系统可分为两大类：
1. 人工智能作为安全组件或独立产品
如果人工智能系统出现以下任一情况，则被归类为高风险系统：
- 它作为符合欧盟协调法规的产品的安全组件发挥作用，或者
- 由于该产品存在潜在危险，因此需要进行合格评定。.
此类产品的例子包括：
- 人工智能在医疗设备（例如诊断系统）中的应用
- 人工智能辅助驾驶系统
- 人工智能在工业生产中用于风险评估和质量保证
2. 具有社会相关性的独立高风险人工智能系统
这些系统列于《人工智能法》附件三，并影响社会的关键领域，例如：
a) 关键基础设施
- 人工智能用于控制和监控电网或交通网络
b) 教育和就业
- 人工智能在自动化考试评估中的应用
- 人工智能在筛选应聘者或评估员工绩效方面的应用
c) 获得经济和社会福利的机会
- 人工智能驱动的信用度检查
- 评估社会福利资格的系统
d) 执法和司法
- 人工智能在证据分析和调查支持方面的应用
- 人工智能辅助的边境管制和移民管理系统
e) 生物特征识别
- 用于生物特征远程识别的系统
- 安全关键环境中的情绪识别系统
所有这些高风险人工智能应用都必须遵守有关风险管理、透明度、数据处理、技术文档和人工监督的严格要求。.
欧盟人工智能法案：企业如何应对严格的人工智能监管
欧盟的《人工智能法案》为人工智能技术的使用设定了明确的框架，并特别强调对基本权利的保护。企业和公共机构必须充分了解新规，并据此调整其人工智能应用，以避免受到制裁。对于高风险系统，尤其需要满足更为严格的要求，这些要求应在开发和实施过程的早期阶段就纳入考量。.
持续监测立法和积极采取合规措施对于确保人工智能的负责任使用至关重要，同时也能促进法律框架内的创新。未来几年将揭示《人工智能法》在实践中的运作情况以及可能需要进行的进一步调整。.
适合：
您的全球营销和业务发展合作伙伴
☑️我们的业务语言是英语或德语
☑️ 新：用您的国家语言进行通信！
Konrad Wolfenstein
我很乐意作为个人顾问为您和我的团队提供服务。
您可以通过填写此处的联系表，或者直接致电+49 89 89 674 804 （慕尼黑）。我的电子邮件地址是： wolfenstein ∂ xpert.digital
我很期待我们的联合项目。