人工智能行业从合规到信赖：采用新的思维方式，提升负责任的人工智能成熟度

从合规到信赖采用新的思维方式，提升负责任的人工智能成熟度 2第12页第22页第10页第15页负责任的AI：从合规到信任03页第 05 页内容执行摘要：重新思考负责任的AI成为重塑就绪：负责任人工智能成熟度的里程碑责任现实检查：企业准备好负责任的人工智能了吗？高风险业务：当前风险格局中的三大挑战准备好，开始成长：负责任人工智能的五大优先事项从合规到价值：企业正认识到负责任人工智能的影响 01 0204053负责任的AI：从合规到信任人工智能 101什么是负责任的AI？什么是成熟的负责任的AI？已将负责任的人工智能工作作为平台全面实施，以采取更系统化、面向未来的方法，从而释放人工智能的真实价值。负责任的人工智能成熟度的北极星是成为先驱者。目前还没有公司达到这一阶段。随着生成式人工智能在商业和社会中的普及，使用它所带来的风险也随之增加。请考虑这样一个聊天机器人，它向客户提供了错误建议，从而给部署该聊天机器人的公司造成了责任。或者那个在使用ChatGPT后意外泄露了公司专有数据的员工。又或者那个错误地将数千人标记为欺诈的算法。建立人工智能治理与原则03系统性地支持负责任的人工智能测试这当然说易行难，因为跨组织扩展负责任的人工智能面临的挑战是巨大的。随着生成式人工智能创造和加速数据及人工智能风险，人工智能相关的风险在持续累积。各地都在孕育新的聚焦人工智能的法律法规。而且人工智能价值链 1 它们变得越来越复杂，尤其是随着越来越多的公司成为人工智能模型的开发者和购买者。如何构建一个负责任的AI程序？我们的研究和为客户提供建议的工作表明，所有公司都可以通过专注于这五个重点来提高其成熟度，并开始获得人工智能带来的好处。劳动力影响，可持续性，隐私，安全负责任的AI意味着采取有意行动来设计、部署和使用AI，通过防范AI的潜在风险来创造价值并建立信任。执行摘要：重新思考负责任的AI在这个新环境中，数据与人工智能的负责任开发和使用，成为组织既能最小化使用这些技术带来的风险，又能释放其诸多益处的关键推动力——从帮助个人更高效地完成任务，到让企业通过创新重塑自我，创造更多价值并获取竞争优势。持续监测与合规进行人工智能风险评估 4负责任的AI：从合规到信任值得注意的是，当我们谈论负责任的AI时，负责任地使用数据是方程式的一个关键部分。在生成式AI时代，数据的重要性不可低估。大多数大型组织仍在应对围绕数据质量、可用性和治理的长期问题。在安永对2024年2000名商业领袖进行的全球调查中，48%的人表示他们的组织缺乏足够的高质量数据来实施其生成式AI计划。 3 具备高度数据准备度的公司拥有正确的数据，兼具合适的质量与数量。他们已建立可扩展的数据管理与治理实践，从而能够在流程中无缝使用数据，确保负责任的应用，并实现数据的经济价值。我们通过开发一个四阶段框架来评估公司负责任人工智能的成熟度——阶段越高，进步越大。然后我们将该框架应用于分析我们调查的1000家公司的组织成熟度和运营成熟度。他们估计，当一家公司成为负责任人工智能的先驱时，其人工智能相关收入将平均增长18%。然而，我们的研究发现，我们调查中的绝大多数公司并没有像他们期望的那样为负责任人工智能做好准备。负责任的数据是负责任的人工智能旅程的有机组成部分我们的调查受访者估计，当一家公司成为负责任人工智能的先驱时，其人工智能相关收入将增加为了更好地理解公司对人工智能相关风险的立场以及他们对待负责任人工智能的方法，我们与斯坦福大学合作点击这里 了解更多公司可以采取的关键行动，以提高他们在生成式人工智能时代的数据准备情况。调查1000家公司，涵盖19个行业和22个国家的高管。 2多年的客户经验表明，企业可以采取行动，系统化地运营负责任的AI。在本报告中，我们将探讨那些将提供组织基础设施的行动，以成为负责任的AI先驱，并释放AI的真正价值。18%平均而言。值得称赞的是，大多数商业领袖都认识到负责任的AI在创造商业价值方面的重要性。当今生成式人工智能的时代的到来，在负责任的人工智能方面提出了新的要求。要成为负责任人工智能的领导者，企业必须树立前瞻性思维，致力于持续改进，并将关注点从自身组织扩展到整个价值链和更广泛的AI生态系统。我们将这一新的成熟度水平称为“成为负责任人工智能的先驱”，目前还没有任何企业达到这个阶段。010203 5负责任的AI：从合规到信任一个不断增加的范围和风险频率一个持续地演化监管风景一个扩展的风险范围管理跨越价值链高风险业务：当前风险格局中的三大挑战与AI相关的风险正在快速演变，尤其是随着生成式AI的广泛传播。仅在过去12个月内，我们就见证了新一波风险的涌现（例如与幻觉、知识产权（IP）、网络安全和环境影响相关的风险），而数据隐私、可靠性和透明度等更成熟的风险则再次凸显。这导致了日益复杂的风险格局。我们发现风险格局将跨三个主要领域继续扩展和演变。 51%47%45%44%35%34%33%30%29%29%26%24%12%6图1：企业面临的主要AI相关风险负责任的AI：从合规到信任隐私 & 数据治理安全可靠性透明度人际互动客户社会环境多样性与非歧视合规与合法品牌/声誉责任组织/业务来源：埃森哲斯坦福高管调查，N=1,000。详情请参见“关于此项研究”。如图1所示，最常被引用的风险涉及隐私和数据治理问题（51%的受访者将其列为公司面临的风险）。安全性（47%的受访者提及）和可靠性风险，如输出错误、幻觉和模型故障（45%的受访者表示担忧），分别位居第二和第三。生成式人工智能对不断演变的AI风险格局的影响也体现在许多令公司最担忧的风险中。这些风险涵盖了从透明度、“黑箱”模型面临的挑战（44%的受访者引用），到环境以及数据中心能源需求（30%的受访者关注），再到责任归属以及侵犯版权和其他知识产权的担忧（24%的受访者引用）。欲了解更多关于我们评估的风险维度，请点击此处阅读我们与斯坦福大学合作撰写的报告。近年来，随着AI风险的数量和类型急剧增加，由AI驱动的突发事件（偏见、深度伪造、幻觉、隐私泄露等）变得非常普遍，根据监测此类事件的AI事件数据库网站，2023年增加了32.3% 4 这种趋势应引起企业的警惕。人工智能风险的复杂性在范围和频率上持续扩大，这得益于生成式人工智能的进步。因此，负责任的人工智能缓解策略也必须发展和变化，以便企业能够快速地采用人工智能。在这种动态环境中，企业不能再对风险做出反应，它们必须学会预测风险。01 一个不断增宽的范围和 风险频率 77% 90% 7负责任的AI：从合规到信任02 一个不断发展的监管环境更重要的是，不仅人工智能监管机构需要应对。新兴生成式人工智能风险的出现正迫使政府通过和修订现有法律来采取行动。这也确实如此，那些在负责任的人工智能方面落后的公司将会暴露自身面临日益增长的非合规风险，因为越来越多的政府开始规范人工智能。欧盟的AI法案启动了引擎，目前已有超过37个国家正在考虑其他AI法规。随着各国政府不可避免地以不同方式选择监管AI，跨国公司合规性将变得越来越困难。这一现实已经影响到我们调查中的大多数公司， 77%要么已经面临AI监管，要么预计在接下来五年内将受到监管 随着各国政府倾向于以不同方式