为《欧盟 AI 法案》做好准备：实现正确的治理

《欧洲人工智能法案》正在推动欧盟内部人工智能 (AI) 的人工监督和监管合规达到新的水平。与针对隐私的 GDPR 类似，《欧盟 AI 法案》可能会为全球即将出台的 AI 法规定下基调。

2024 年初，由 27 个成员国组成的欧洲议会一致通过了《欧盟 AI 法案》。该法案目前正在通过立法程序的最后阶段，预计将于 2024 年下半年分阶段推出。对于任何开发、部署或使用 AI 或计划开发、部署或使用 AI 的组织而言，了解《欧盟 AI 法案》 的规定并做好合规准备至关重要。

《AI 法案》旨在“加强欧洲作为从实验室到市场的全球 AI 卓越中心的地位，确保欧洲的 AI 尊重既定的价值观和规则，并利用 AI 的工业应用潜力。”

— 《欧洲议会新闻》

《欧盟 AI 法案》的主要重点是加强风险管理、数据保护、质量管理体系、透明度、人工监督、准确性、稳健性和网络安全等领域的监管合规性。它旨在推动 AI 系统开发和部署方式的透明度和问责制，帮助确保投放市场的 AI 产品可供个人安全使用。

《欧盟 AI 法案》旨在应对跨行业（包括医疗保健、金融和能源等受到严格监管的行业）负责任地开发和部署 AI 面临的挑战。对于向客户提供基本服务的行业，如保险业、银行业和零售业，法律要求使用基本权利影响评估，详细说明使用 AI 将如何影响客户的权利。

《欧盟 AI 法案》要求通用 AI 模型（包括大型语言 (LLM) 和基础模型等生成式 AI 系统）遵守基于系统风险等级的分类系统。风险等级越高，对透明度的要求就越高，包括模型评估、文档编制和报告。它还涉及评估和缓解系统风险、报告严重事件以及提供网络安全保护。此外，这些透明度要求包括维护最新的技术文档、提供用于模型训练的内容摘要以及遵守欧洲版权法。

《欧盟 AI 法案》采用基于风险的方法，将 AI 系统对个人健康、安全或基本权利造成的风险程度进行分级。这三个级别是：

• 低风险系统 ，如垃圾邮件过滤器或视频游戏，除了透明度义务外，法律几乎没有其他要求。

• 高风险 AI 系统 ，如自动驾驶汽车、医疗设备和关键基础设施（水、气、电等），要求开发者和用户遵守额外的监管要求：
  • 实施风险管理，提供准确性、稳健性和包括人工监督在内的问责框架
  • 满足针对用户、记录保存和技术文档的透明度要求

• 禁止使用的系统几乎无一例外 都是构成不可接受风险的系统，例如公共场所的社交评分、面部识别、情绪识别和远程生物识别系统。

《欧盟 AI 法案》还规定了在使用聊天机器人或情感识别系统时如何通知客户的规则。此外，还要求对深度伪造内容进行标记，并识别媒体何时使用了生成式 AI 内容。

不遵守《欧盟 AI 法案》可能会付出高昂代价：

提供错误信息将被处以 750 万欧元或公司全球年营业总额的 1.5% 的罚款（以较高者为准）。违反《欧盟 AI 法案》规定的义务将被处以 1,500 万欧元或公司全球年营业总额的 3% 的罚款（以较高者为准）。

– VentureBeat

《欧洲 AI 法案》是目前最全面的 AI 监管法律框架。世界各国政府都开始关注并积极讨论如何规范 AI 技术，以确保其公民、企业和政府机构免受潜在风险的影响。此外，从公司董事会到普通消费者的利益相关者在谈到 AI 时都开始优先考虑信任、透明度、公平性和责任感。

IBM watsonx.governance 助您加速实现负责任、透明且可解释的 AI 工作流程

IBM® watsonx.governance 可帮助您加速完成 AI 治理，指导、管理和监控组织的 AI 活动。它采用软件自动化来增强您降低风险、管理政策要求以及管理生成式 AI 和预测性机器学习 (ML) 模型生命周期的能力。

Watsonx.governance 有助于在以下 3 个关键领域提高模型透明度、可解释性和文档记录：

• 合规性 – 帮助管理 AI 透明度并解决政策和标准的合规问题。将数据连接到关键风险控制措施，并使用情况说明书自动捕获和报告模型元数据，以支持查询和审计。

• 风险管理：预设风险阈值，帮助主动检测和降低 AI 模型风险。监控公平性、偏差、偏见、评估指标的执行情况、恶意语言的情况以及个人身份信息 (PII) 的保护情况。通过基于用户的仪表盘和报告深入了解组织风险。

• 生命周期治理 – 使用集成的工作流和审批，帮助治理整个生命周期内的生成式 AI 和预测性机器学习模型，监控用例、进程中的变更请求、挑战、问题和已分配任务的状态。

客户有责任确保遵守适用的法律和法规。IBM 不提供任何法律咨询，也不声明或保证其服务或产品能够确保客户遵循任何法律或法规。