AI 的影响

我们必须同时考虑 AI 算法带来积极变化的潜力和风险。深入探索 AI 的有利和不利影响，对于指导未来几年负责任的 AI 应用至关重要。

随着 AI 模型的应用不断扩大，工程师、科学家、政策制定者和企业领导者都在各自的领域探索其潜力。AI 技术提供商就 AI 未来的发展制定了一系列宏伟目标，包括“修复气候、建立太空殖民地和探索一切物理现象”。¹

但是，AI 具备哪些可衡量、可量化和可证明的优势呢？抛开宏大的承诺不谈，AI 相关的技术进步是如何切实造福当今社会的呢？迄今为止，AI 带来了各种显而易见的积极影响，例如：

• 提高业务绩效

• 天气预报和灾害预测

• 更高效的软件开发

• 新型芯片技术

• 减轻全氟/多氟烷基物质 (PFAS) 的危害

• IT 中断保护

• 发现药物

• 核聚变研究

从 AI 聊天机器人到自助服务界面和其他智能系统，企业领导者认为应用 AI 能增加收入和利润。AI 驱动的商业智能工具可以通过帮助领导者执行数据驱动的决策来减少人为错误。同时，强化 AI 应用程序和工作流，可简化运营以提高效率。总体而言，生成式 AI 的应用可能会在 10 年内推动全球 GDP 增长多达 7%。²

IBM 的《2024 年 AI 实际应用》报告发现，67% 的受访领导者表示，将 AI 纳入业务运营后，取得了 25% 或更高的收入增长。报告发现，受访领导者对于利润增长的看法一致：66% 的人认为 AI 系统和工具使利润率提高了至少 25%。

这些领导者如何从 AI 中获得商业利益？沟通和规划至关重要：85% 的领导者声称遵循 AI 路线图，72% 的人则在高级管理层和 IT 领导层之间促成共识。AI 计划可以帮助企业领导者改进决策流程，从而做出更明智的决策。根据报告研究的四个行业（金融、电信、零售和制造业），AI 的主要商业用例包括：

• 金融：外部应用程序的虚拟助理和支持 AI 的搜索引擎

• 电信：IT 运营和自动化以及内部应用程序的虚拟助理

• 零售：改善客户体验

• 制造业：IT 运营和自动化

如果您仔细观察制造业，就会发现 AI 在运营和其他业务领域的更多细节。IBM 一项调研的中位数回应显示，预测准确率提高了 30%，产品缺陷率降低了 25%，库存过剩率降低了 20%，其他指标也有所改善。

2023 年，IBM 和 NASA 合作建立了一个基础模型，帮助科学家分析以往洪水和山火影响的数据。利用 NASA 的训练数据，该公开模型还用于评估肯尼亚的再造林工程和阿拉伯联合酋长国的热岛（气温偏高的城市密集地区）效应。

基于此模型，IBM 和 NASA 于 2024 年 9 月发布了新的开源模型，旨在使气候应用程序更快运行、更易于访问。这些用例包括洪水警报、飓风预测和重力波预估。提前应对此类自然事件有可能减轻由此造成的生命和财产损失。

该开源 AI 工具可根据特殊用途定制，例如与加拿大环境及气候变化部合作，提前几小时做出准确的降雨“预报”。此外，这个轻量级工具还可以在台式电脑上运行。

Google 于 2024 年 7 月推出的 NeuralGCM 模型³结合了深度学习和天气预测两种方法。它首先应用传统建模来评估大气状况，然后引入 AI 来维持预测的正常进行。

AI 为人熟知的其中一项优势，在于它可以自动执行重复性任务以优化工作流，使员工能够专注于更重要的优先事项。由 AI 驱动的代理则更进一步，能够自主决定和执行行动方案，以完成高级任务。

在计算机科学领域，软件工程 (SWE) 代理可以自主解决 GitHub 工单以简化工作流。例如，大型语言模型 (LLM) 代理可以代替开发人员定位错误并提出修复建议。开发人员可以审查和批准此项建议，允许代理更新代码。

生成式 AI 模型需要大量算力资源，并在 Nvidia 和 AMD 等制造商生产的高性能图形处理单元 (GPU) 上运行。GPU 历来是最为强大的芯片，它能够处理机器学习算法所需的高级计算。

自新冠疫情破坏全球供应链以来，GPU 短缺现象始终存在，但对高芯片性能的需求大幅激励了芯片开发效率的提升。去年推出的人工智能单元 (AIU) NorthPole AI 推理芯片，其速度比 H100 提高了 46.9 倍，能耗效率则提高了 72.7 倍。在美国，两党参议院 AI 工作组已承诺支持新型 AI 芯片的研发。⁴

对于 AI 的可持续应用来说，新型芯片技术至关重要。AIU NorthPole 等技术的发展预示着未来 LLM 依然能带来积极效益，减少能源消耗，进而减少对气候的影响。

全氟/多氟烷基物质 (PFAS) 是一类用于不粘锅、化妆品、食品包装和手机屏幕的化学物质。但是 PFAS 在土壤中需要数千年才能分解，并且还会在人类和动物的血液和肝脏中不断累积。PFAS 无法代谢，且与癌症和其他疾病存在关联。

作为 PFACTS （由美国国家科学基金会发起的一项耗资 500 万美元的 PFAS 替代计划）的一部分，研究人员正在使用生成式 AI 探索 PFAS 的潜在替代品 。AI 应用程序可生成复杂的分子结构，预计可实现类似于 PFAS 的功能，但其毒性更低。该模型已生成至少 6,000 个潜在替代品，同时正在扩展以涵盖更多的考虑因素。

当发生 IT 中断时，响应团队必须诊断问题，制定补救措施并尽快更新存在漏洞的软件。AI 的问题解决方案可以加快这些流程。

AI 驱动的 IT 管理平台监控客户环境并检测潜在威胁。当发现此类事件时，AI 系统会对其进行总结，识别潜在原因，并指导响应团队制定解决方案。实时 AI 辅助可简化决策，帮助团队更快做出响应，以减轻 IT 中断的影响。

为了应对新冠疫情，制药和医疗企业竞相研究、测试和部署用以挽救生命的疫苗。药物研究非常复杂，需要深入了解蛋白质及其在三维空间的折叠方式。

2020 年末，即新冠疫情在全球爆发近一年后，Google DeepMind 研究团队发布了一款名为 AlphaFold2 的 AI 蛋白质折叠预测工具。⁵该工具可根据蛋白质的一维分子密码以超过 90% 的准确率预测蛋白质的三维形状。

同时，IBM 的研究小组创建了一个基础模型，并用它来生成四种新冠抗病毒剂。由于病毒会随着时间的推移而发生变异，降低已知疫苗的效果，因此 AI 辅助抗病毒剂研发的突破为应对这些威胁提供了新的解决方案。

神经网络在医疗行业中的优势不仅限于寻找新药。联合国开发计划署 (UNDP) 倡导应用 AI 来帮助残障人士。⁶2024 年，美国国立卫生研究院的研究人员成功将 AI 应用于医疗诊断，但 AI 难以解释它是如何得出诊断结论的。⁷

由于与疫情相关的资源短缺和全球需求的增加，天然气、石油和电力的价格一度飙升。AI 驱动的超大规模数据中心需消耗兆瓦级的电力，⁸能源领域对新科技的需求显而易见。

在核聚变中，过热的等离子体必须收容于磁化容器中，其中一种容器被称为“托卡马克”。如果托卡马克的磁场出现衰减，等离子体就会逃逸，从而引发“撕裂模不稳定性”现象。2024 年，普林斯顿大学的研究团队开发了一个 AI 模型，用来预测和避免托卡马克中的撕裂模不稳定性。⁹

数据科学团队通过强化学习训练的 AI 托卡马克控制器，成功减少了撕裂事件。¹⁰很快，以核聚变为能源的畅想就将突破科幻小说作品的限制。具备实时适应能力的 AI 托卡马克将为未来可持续核聚变的发展铺平道路。

AI 的优势并非凭空而来。生产力的提高促进了收入的增长，但与 AI 相关的裁员问题也随之而来。新型芯片和能源前景广阔，但目前的 AI 环境仍然严重依赖于电力消耗型 GPU、化石燃料和水。生产新药的生成式模型则可能会侵犯版权，并创建极具欺骗性的深度伪造。

虽然 AI 在许多领域大有可为，但它也引发了伦理方面的顾虑—尤其是在缺乏适当防护措施的情况下。潜在的 AI 风险包括：

• 工作岗位流失

• 能源和资源过度消耗

• 隐私问题

• 侵犯版权

• 错误信息、欺诈和公信力丧失

随着生成式 AI 的兴起，针对失业的担忧和报道层出不穷。¹¹这些担忧并非毫无依据。以中国为例，有报道称艺术家们失业了，最终只能以更低的薪水被返聘为 “AI 艺术修图师”。¹²

2023 年 12 月面向 750 名领导者开展的民意调查显示，44% 的人认为 2024 年将出现与 AI 相关的裁员问题。¹³2024 年对 2,000 名高管开展的民意调查则发现，有 41% 的人预计在未来五年内会因 AI 的应用而缩减员工人数。不过，仍有许多人相信，将会出现新的工作岗位来支持 AI 计划。¹⁴

2024 年的一份报告预估到 2030 年，近 30% 的美国人工工时可能会被自动化所取代—如果忽略工作场中生成式 AI 的影响，这一比例将增加 8%。并非所有员工都同样脆弱。未来的客户服务、后勤和餐饮服务人员可能会面临与 AI 相关的工作岗位流失。但是，STEM、创意和其他知识工作者则可能会调整工作流，而非失去工作。¹⁵

为了最大限度地减少裁员、解决工作场所的不平等问题，并避免试图用 AI 取代人类智慧，企业必须采取明确的 AI 战略。应用生成式 AI 需要领导者支持并鼓励其团队提升技能。有效的技能提升依赖于投资和承诺，其过程虽然艰辛，但“物有所值”。在每个职业阶段实施明确的技能提升和重塑战略，有助于雇主留住人才及其掌握的专业知识。

生成式 AI 需要消耗大量的水电能源—水用于冷却承载 AI 托管服务器的超大规模数据中心，电则为其提供动能。有时，水电资源在这些数据中心的建设地本就稀缺，或是在当地社区被迫与新开发项目竞争后日益枯竭。¹⁶

弗吉尼亚州北部是美国最受欢迎的数据中心所在地之一。2023 年，当地居民以电力需求等问题为由，对这里即将启动的世界最大规模数据中心建设项目表示抗议。然而，县监督员投票批准了该设施的建设。¹⁷

一些研发项目表明，AI 可能不会再从当地社区掠夺大量资源。计划于德克萨斯州休斯顿附近兴建的超大规模离网型数据中心将使用氢能运行。¹⁸ Microsoft 已开始重新启用三里岛的一个核反应堆，并承诺在 20 年协议期内购买其生产的所有电力。¹⁹

如果 AIU NorthPole 等高性能、高能效芯片能够使用可持续能源运行，也许 AI 能力就能随之演变，而不会加剧能源和资源稀缺问题。

从好的方面来说，我们可以通过有效应用科技来抵消 AI 的一部分风险。AI 可以帮助组织提高气候适应能力并减少其对环境的影响。AI 对可持续商业实践未来的发展至关重要。根据 IBM 最新的《可持续发展准备工作状态》报告，在 10 位受访的商业领袖中，有 9 人认同 AI 将有助于实现其可持续发展目标。

美国联邦贸易委员会 (FTC) 在 2024 年 1 月的一份声明中告诫 AI 公司应“恪守隐私和保密承诺。”²⁰FTC 对 AI 提供商保护个人身份信息 (PII) 和其他用户数据的义务与扩展模型训练数据集不断增长的需求之间的利益冲突表示担忧。

美国在工作和日常生活场景方面，都缺乏对 AI 相关数据保护的联邦法规。只有在州级层面，一些美国人才受到相对广泛的数据隐私保护，例如加利福尼亚州的 "California Consumer Privacy Act" (CCPA)。 ²¹特朗普总统在第二个任期开始后不久，撤销了拜登时代的一项行政令，该行政令旨在保护个人数据并解决其他 AI 伦理问题。特朗普颁布了自己的 AI 行政令，承诺以推动创新和“加强美国在 AI 领域的领导者地位”的名义解除对行业的管制。²²

欧盟的政策制定者已将这一观点写入法律，并于 2024 年通过了《欧盟人工智能法案》，以规范该地区 AI 的研发、实施和运用。²³例如，该法案禁止从互联网上抓取面部图像，以防范面部识别威胁。这项范围广泛的 AI 法案将于 2026 年生效。与此同时，AI 提供商应制定负责任的 AI 道德实践和保障措施，并倡导他人践行此举。

有时，用于训练 LLM 的数据包含受版权保护的材料，例如新闻文章和艺术作品。一些公司公开承认其在训练期间使用了受版权保护的材料，并声称这种行为属于合理使用的范畴。

图像生成也经历了知识产权争议。在职艺术家们明确反对商业图像生成，尤其是在 2022 年作品集网站 ArtStation 的全站抗议活动中。²⁴2024 年电影《异教徒》的导演在片尾中加入了免责声明，向观众保证生成式 AI 并未用于电影制作过程。²⁵

迄今为止，美国的政府部门似乎都站在版权持有者的一边。美国版权局在 2023 年决定，AI 生成的图像不符合版权保护的资格。²⁶在 2024 年的一起诉讼中，美国加利福尼亚北区联邦地区法院裁定，AI 提供商和用户都要对图像生成造成的版权侵犯负责。²⁷

生成式 AI 的倡导者称赞它是“使创意民主化”的强大工具。²⁸但同样的工具也很容易被用于欺骗他人。

自 2023 年以来，AI 生成的错误信息以闪电般的速度激增，其中包括带有欺诈性文本的图像、视频和屏幕截图。²⁹AI 驱动的机器人在社交媒体网络上发布了大量误导性帖文和评论。³⁰恶意行为者会使用 AI 生成音频和视频记录或图像，并创建逼真的深度伪造欺骗他人。有些是无伤大雅的玩笑，比如网上流传的教皇方济各身着时髦白色羽绒服的照片，但其他的则产生了更为恶劣的影响。

2022 年俄罗斯入侵乌克兰的最初几周，网上出现了一段视频。在这段视频中，乌克兰总统弗拉基米尔·泽连斯基 (Volodymyr Zelensky) 呼吁公民停止与俄罗斯士兵交战。³¹ 次年，一段深度伪造的亲华视频迅速席卷 Facebook 和 Twitter，视频中的新闻播报员是由 AI 生成的。³²

2024 年美国总统大选前，一些选民收到了来自拜登总统的自动呼叫电话，其中包含深度伪造的录音，告诫他们不要在即将到来的民主党初选中投票。³³特朗普总统分享了几张深度伪造的图片，展示其得到了音乐巨星泰勒·斯威夫特 （Taylor Swift） 的声援。³⁴

网络罪犯可以使用 AI 深度伪造来实施语音诈骗，诱使受害者向其转账。³⁵网络安全倡导者推广欺诈检测技术，例如与家庭成员建立身份验证协议。学习如何检测 AI 诈骗，有助于弥补高危人群中的安全漏洞。

生成式 AI 的输出越令人信服，现实与“人造”现实之间的界限就越模糊。虽然一些研究人员正在探索深度伪造在反恐活动中的优势，³⁶但媒体消费者必须学会用辩证的眼光来评估其看到的图像和视频。与此同时，科技公司和政府必须通力合作以减轻危害，引导人们以负责任、合乎道德的方式使用 AI。