生成式 AI 是一项相对较新的技术，成功将 AI 置于一个关键的历史时刻，预计将重新定义业务的本质。在 AI 投资迅速且不断扩大的环境下，尤其是考虑到生成式 AI 和基础模型带来的可能性，绝对需要 AI 道德规范来确保这些投资的寿命、合规和有效性。我们认为，信任始于公司内部的道德文化，但对于可扩展的 AI 而言，需要的是端到端操作的治理。公司今天制定的关于在何处以及如何将 AI 纳入其中的决策，将在未来几年产生影响。

AI 的道德规范和治理必须主导董事会以下级别的组织讨论，因为能做什么和该做什么之间存在重要区别。这适用于 AI 在内部（权衡对员工的潜在影响）和外部（权衡对客户和更广泛世界的影响）的使用方式。

“开始推行 AI 之前，公司可以做的最关键的一件事，就是制定防护措施，以了解应该在何时何地使用 AI，包括 AI 对从最低到最高级别的工作岗位的影响。- Melissa Long Dolson

基础模型运行状况、员工和客户的隐私保护、知识产权维护、风险管理和监管合规都必须纳入这些防护措施。还应该制定明确的愿景，说明将采取哪些保护措施并层层问责。例如，IBM 在负责任 AI 的方面提出了三项原则：

• AI 的目的是增强人类智慧
• 数据和洞察属于其创建者
• 包括 AI 系统在内的新技术必须透明且可解释

您还必须考虑新的角色，以便有效管理 AI 和 IT 自动化。例如，您是否应该聘请一位首席 AI 道德官？您是否还需要 AI 道德规范专员或 AI 道德规范委员会？或者也许您三个都需要。除了这些监督型工作之外，新的角色也在迅速兴起，包括 AI 提示和深度学习工程师、 AI 聊天机器人开发人员、 AI 设计师和 AI 审计师等。这些角色都需要有关如何负责任地进行操作的明确指导方针。

这类复杂对话没有简单的答案，但确实需要立即进行。AI 正在引发翻天覆地的变化，据世界经济论坛预测，截至 2025 年，这些新技术将扰乱全球 8,500 万个就业岗位。然而，论坛还估计将产生 9,700 万个新职位。¹在这支新兴的劳动力队伍中，在 AI 的支持下，人类将需要遵循基于严格道德意识的规则。

为了更进一步探讨这个话题，我们邀请您深入了解 IBM 的生成式指南内容，负责任 AI 与道德规范。