推动人工智能发展：驾驭风险，攻克难关

推动人工智能发展：驾驭风险，攻克难关作者：Beena Ammanath、David R. Novak、Siri Anderson、Abha  Kulkarni德勤综合研究中心、德勤人工智能研究院联合发布概览人工智能时代已经全面来临。 1自2017年开始，德勤每年发布《企业人工智能应用现状分析》报告，以估量人工智能技术在全球范围及各行各业的快速发展。在2020年7月发布的最新一期报告中，大多数受访者表示大幅增加了人工智能投资，超过四分之三的受访者认为人工智能将在未来三年为自己所在的企业带来重大变革。此外，人工智能投资也为企业创造出更多可衡量的价值：提升流程效率、改善决策、提高员工生产力、改进产品和服务。2这些价值提升了企业对人工智能的认知——四分之三的受访者表示，人工智能具有重要战略意义，较前一次调研结果上升10%。但另一方面，对人工智能风险的顾虑与这种上升趋势形成反差：56%的受访企业表示，出于对新兴风险的顾虑，他们已经或有计划放缓人工智能的应用。鉴于人工智能的价值和战略意义已得到普遍认可，这一比率造成了强烈反差。为了更好地理解这些问题，德勤将受访企业的顾虑归总为三类：对人工智能决策流程的信心、人工智能和数据使用的伦理规范，以及市场不确定性。3本文将针对上述问题进行详细阐述，并提供专业见解协助企业有效管理相关风险。由此 ，企业可对内加强持续投资和创新的信心；对外则进一步获得利益相关方的信任，确保人工智能战略得到有效执行。出于对新兴风险的顾虑，56%的受访企业表示已经或计划放缓人工智能的应用。人工智能发展面临的挑战近年来，人工智能风险日益引起商业领袖和普通民众的关注。有关人工智能是否会削减或创造工作岗位的争论从未停止；而对人工智能偏见或失败的报道也屡见不鲜。4 2020年7月，在公众的一片反对与批评声中，成立仅五天的人工智能初创公司Genderify 被迫关闭。该公司称其人工智能可以通过分析用户的名字、用户名和电子邮件地址来识别其性别，并宣称这是一种增强客户数据的能力。据报道，该系统充斥着对性别的误解，并基于错误的假设做出决定。例如，在包含“科学家” 的记录中，识别为女性的概率仅为4.3%。但事实上，如今女性在科学领域的占比远高于此。5 而包含“教授”的记录中，识别为男性的概率高达98.4%，但男性占美国终身教授的比例仅为74%（该比例本身就反映出一种不平等）。6随着人工智能逐渐深入各行各业，由此产生的风险也引发出各种顾虑，导致人工智能应用放缓。所幸的是，这些顾虑能得到有效缓解和应对。2推动人工智能发展不难想象，诸如此类的事件以及事件曝光之后引发的公众抵制，将导致许多企业高管更为谨慎，重新考虑如何在企业内部、为客户和员工以及在生态系统中推行人工智能。为了更准确地了解企业的最大顾虑源自何处，我们请受访者对顾虑事项进行评分，评分标准从 “极少”到“极大顾虑”。列出的风险归总为三类：信心、伦理规范和市场不确定性。信心是指企业普遍认为一项人工智能工具本身可靠，包括信任人工智能提供的洞察和决策，信任系统的安全性，以及能够理解、证明或解释人工智能的决策过程。伦理规范是指从社会而非企业的角度审视使用人工智能的益处和正确性，包括数据隐私、公平、偏见，以及可能造成的失业问题。市场不确定性则涵盖那些不在企业直接控制范围内的因素，比如监管环境的变化以及公众或员工的意见。这些因素不一定与人工智能的本质相关，但会影响人工智能的实施和应用。图1反映了在每个类别中，将两个或两个以上的顾虑事项评为“重大”或“极大顾虑”的受访者比例。注：本图反映在每个类别中将两个或两个以上顾虑事项评为“重大”或“极大顾虑”的受访者比例。来源：德勤分析36%38%19%37%73%57%55%37%两个或两个以上与信心相关的顾虑18%驾驭风险，攻克难关图 1对人工智能风险的重大与极大顾虑重大顾虑极大顾虑3两个或两个以上与伦理规范相关的顾虑两个或两个以上与市场不确定性相关的顾虑对人工智能风险的顾虑信心对人工智能系统的信心是最大的顾虑所在，73%的受访企业高管在信心这一项中选择了两个或两个以上重大或极大顾虑。而在计划放缓人工智能应用的受访者中，有85%选择了两个或两个以上与信心相关的重大或极大顾虑。可以想见，信心不足造成的顾虑会引起不安。这些顾虑与公司产品和服务的质量密切相关，因此会大大影响一个企业的声誉以及公众对其的看法，进而影响企业推出的每一个产品。例如，医疗机构可以利用人工智能的巨大潜力来识别癌症类型并确定最佳治疗方案。 7 然而，人工智能决策引擎有可能推荐不安全的治疗方案或错误识别癌症类型。这会给患者造成严重后果，使企业面临风险并带来投资损失。一旦失败，则可能让企业付出比投资损失更为昂贵的代价——打击员工持续创新的信心，甚至破坏患者和客户的信任。在上述案例中，该公司据称建立了保障措施，以确保患者安全，从而降低破坏患者信任的可能。另外，相关错误还被用来识别系统故障，改进未来的算法。8如果从一开始就充分规避风险，这将转化为一股积极的力量，推动人工智能发展成熟。网络安全漏洞73%图 2对人工智能信心的顾虑重大或极大顾虑总体而言，您的企业对以下人工智能潜在风险的顾虑程度如何？62%58%影响业务运营的人工智能故障54%人工智能决策和行动需承担的责任54%53%根据人工智能建议做出错误决策缺乏透明度来源：德勤分析4推动人工智能发展的受访者选择了两个或以上与信心相关的顾虑在信心方面，至少有两个“重大”或“极大顾虑”的企业占比在伦理规范方面，至少有两个“重大”或“极大顾虑”的企业占比在市场不确定性方面，至少有两个“重大”或“极大顾虑”的企业占比43%42%65%64%60%61%59%79%71%低成熟度和高成熟度的企业展现出较低程度的顾虑，而中等成熟度的企业在三个类别中均表现出最高程度的顾虑。原因可能在于低成熟度的企业还没有全面看到风险，许多项目仍处于概念验证或试点阶段。当企业达到中等成熟度时，这些挑战逐渐明晰，但企业尚未具备应对这些挑战所需的能力。最后，当企业达到高度成熟时，也掌握了更多降低这些风险的技能，因此顾虑程度往往会相应降低。事实上，有证据表明，随着企业的人工智能能力日益成熟，企业可通过开发流程、采取行动或提升技能来降低风险并实现更积极的成果，其顾虑程度也随之下降。（参见侧栏“人工智能成熟度与企业管控预期风险的能力”）。与信心相关的另一个重大挑战是，如今的人工智能系统往往存在可解释性和决策能力之间的权衡。一些机器学习模型异常复杂，即便是训练有素的数据科学家也难以准确理解算法是如何做出决策的。神经网络的广泛运用让这个挑战变得更为突出，进一步涉及企业解释决策、减少错误和满足监管需求的能力。人工智能成熟度与企业管控预期风险的能力整体来看，随着受访企业人工智能能力的成熟度上升，对信心、伦理规范和市场不确定性的顾虑呈现为铃型曲线。起步熟练精通来源：德勤分析5图 3成熟度如何改变顾虑程度驾驭风险，攻克难关为了解决这个问题，计算机科学领域正在发展可解释的人工智能，旨在开发能够更好地进行自我解释的人工智能模型。目前，可解释的人工智能可以提供人工智能程序做出决策的相关信息，包括人工智能程序的优缺点、制定决策所采用的具体标准，并针对各类决策的可信度提出建议。