为什么要投资人工智能伦理与治理？

与圣母院—IBM技术伦理实验室合作五个真实世界的起源故事IBM商业价值研究院 | 研究洞察为什么要投资人工智能伦理与治理？2 更多信息：来自 IBM 研究院的 AI 创新®research.ibm.com/人工智能巴黎圣母院-IBM技术伦理实验室techethicslab.nd.edu/IBM如何提供帮助ibm.com/services/人工智能客户可以利用ibm深厚的行业、职能和技术专业知识；企业级技术解决方案；以及基于科学的研发创新，来发掘人工智能、分析和数据的潜力。来自 IBM 软件的 AI 解决方案 ibm.com/Watson1 拥抱人工智能伦理至关重要。投资人工智能伦理具有创造可量化价值的潜力。大部分公司（54%）期望人工智能伦理在战略上非常重要3 随着高管提到涉及20个不同的业务职能。4关键要点长期来看，积极主动的人工智能伦理战略能为整个组织创造价值。这不仅仅关乎损失规避。75%的高管认为人工智能伦理是重要的竞争优势来源。1 超过85%的受访消费者、公民和员工重视人工智能伦理。2衡量人工智能道德价值的组织可能会领先一步。我们的整体人工智能道德框架考虑了三种类型的ROI。衡量人工智能伦理价值的组织可能领先一步。我们的整体人工智能伦理框架考虑了三种类型的ROI：经济影响（有形的）、声誉影响（无形的）和能力（真实期权ROI）。2 简介我们还包含了来自人工智能伦理一线的五位高管的故事，作为 IBM IBV、Notre Dame—IBM 技术伦理实验室、IBM 人工智能伦理委员会和 IBM 隐私与负责任技术办公室之间持续合作项目的一部分。一些访谈是与牛津经济学合作进行的。但是这不简单。在IBM商业价值研究所（IBM IBV）的研究中，80%的企业领导者认为AI可解释性、伦理、偏见或信任是生成式AI采用的主要障碍。5 还有一半人说他们的组织缺乏治理和结构来管理生成式人工智能的伦理挑战。6生成式人工智能正在改变行业，但其令人目眩的崛起也引发了重大的伦理问题。在潜在利益与伦理和监管影响之间取得平衡至关重要。面对这种不确定性和风险，许多首席执行官都在暂停行动。超过一半（56%）的人将生成式人工智能的主要投资推迟到他们明确人工智能标准和法规之前。7 并且 72% 的高管表示他们的组织实际上会因为伦理问题而放弃生成式人工智能的益处。8为了解锁这种潜力，组织需要在评估人工智能伦理投资的投资回报率时采用新的视角。在本报告的第一部分，我们确定了三种适用于人工智能伦理的投资回报类型——换句话说，一个整体的人工智能伦理框架。在第二部分和第三部分，我们探索了两种不同但有价值的方法来论证当前的人工智能伦理投资。（我们计划在2025年进行更多研究，以更深入地探讨量化问题，从而在此基础上开展工作。）最后，我们提供了一份行动指南，用于在组织内部使整体人工智能伦理框架落地。然而，有一条前进的道路——如果高管们拓宽他们的视野，将人工智能伦理视为一个机会。更好的是： 持续的研宄表明，投资人工智能伦理有潜力创造可量化的效益。3 第一部分那么，组织如何开始衡量此类举措的影响呢？我们开发了一个整体的AI伦理框架来满足这一需求，并通过与30多家组织进行一系列广泛的对话来验证它。这种方法可以帮助组织理解他们在AI伦理和治理方面的投资价值。人工智能伦理与治理投资可广泛涵盖企业范围，从人工智能伦理委员会到基于设计的伦理方法，从综合治理方案到涵盖人工智能伦理与治理的培训计划，以及其他诸多努力。10（参见第13页的“人工智能伦理：前线故事”。另参阅我们的IBM IBV研究报告） 企业AI治理指南 在 ibm.co/ai-governance。)“我们的工作不仅要为组织的使命做出贡献，还要为组织的利润率做出贡献，”SAS数据伦理实践部的副总裁雷吉·汤森德指出。“否则，它看起来就像是慈善事业，而慈善事业不会得到长期的资助。”传统上，投资是通过仅以财务术语计算ROI来证明其合理性的。AI伦理投资则更具挑战性来评估，它既提供有形和无形的好处，也有助于建立长期能力。我们开发了一个全面的AI伦理框架，通过与超过30个组织进行的一系列广泛对话来验证它。探索全面的AI伦理框架 94 声誉影响（无形ROI）能力（实物期权投资回报率）经济影响（有形ROI）来源：“人工智能伦理的投资回报：整体框架”。第57届年度HICSS系统科学会议论文集。2024年1月。指的是人工智能伦理投资带来的直接财务收益，例如成本节约、收入增加或资本成本降低。例如，一个组织通过投资人工智能风险管理可能避免监管罚款。指建立能力所带来的长期效益，这些能力最初为人工智能伦理而设立，可以在整个组织中传播更广泛的价值。例如，技术基础设施或特定的伦理平台可能允许组织以能够进一步降低成本和创新的方式进行现代化。可能涉及重要的但难以量化的因素，例如支持积极回报或对股东、政府、员工和客户对组织声誉产生影响的组织品牌和文化。例如包括改善环境、社会和治理（ESG）得分；增加员工留任率；以及积极媒体报道。一个整体的人工智能伦理框架确定了组织在人工智能伦理投资方面应考虑的三种ROI类型。5 上述的整体人工智能伦理框架描述了三种理解人工智能伦理投资对利益相关者影响的途径：通过经济回报的直接途径，以及通过能力和声誉的间接途径。该框架涵盖了组织在人工智能伦理方面进行投资时存在的关联、利益相关者以及潜在回报。11整体人工智能伦理框架说明了人工智能伦理如何在整个组织中贯穿始终，无论在实践方面还是在结果方面。从宏观角度看，这种方法在实践中可能如何运作？考虑投资建立人工智能伦理委员会的基础设施和人员。这项投资有助于避免监管罚款（有形影响）；增强客户信任、合作伙伴认可和商业机会（无形影响）；并有助于推动管理系统工具的开发，从而改进自动化文档和数据处理（能力）。整体人工智能伦理框架展示了人工智能伦理如何在组织中的实践和成果方面相互交织。6 第二部分“损失厌恶”的价值那么，投资人工智能伦理的商业合理性是什么？这通常始于一种损失规避方法：避免与监管合规相关的成本，或保留可能因客户将业务转向优先考虑人工智能伦理的企业而流失的收入。“想去做是好事，但你需要真的去做，”一家全球金融服务公司的负责人工智能治理的高级领导说。“但要去做，你需要资源，这需要资金。更重要的是，你需要高级管理层的决心。”然而，高贵的AI意图往往被更多地谈论，而不是被付诸行动。虽然我们研究中超过一半的组织公开支持AI伦理原则，但不到四分之一的人已经将其操作化。13不到20%的人强烈同意他们的组织在人工智能伦理方面的行动和实践符合（或超过）其声称的原则和价值观。14什么是人工智能伦理？富达投资负责数据政策的高级副总裁简洁地表示：“这是以负责任的方式使用人工智能技术，以便在与我们的客户、潜在客户和其他客户沟通时能够区分对错。”高贵的AI意图往往被谈论多于被付诸行动。在最近的IBM IBV研究中，72%的高管表示，如果他们认为潜在的好处可能带来伦理代价，他们会从生成式人工智能计划中退一步。这些相同的组织在收入增长方面更有可能表现优异——这种关联性很难被忽视。127