可信人工智能行业治理调研报告

ISACA.org.cnB8ISAHttps:/Https://wwca.org.cn可信人工智能治理调研报告 ISA(2024-2025)Https://wwSACOQOCQOOQQHttps://worg.cr人工智能2025ISACA。保留所有权利。可信人工智能治理调研报告S888ISACA8ISAHttps:/ /wwW.isaca.org.cn版权声明Https://wW本调研报告版权属于ISACA中国办公室(北京阿萨卡信息技术有限公司)。转载、摘编或利用其他方式使用本报告中的全部或部分文字、图标或者观点的，应注明来源。违反上述声明者，本司将追究其相关法律责任。ISAHttps://wwISACA888ISACA.8ISAHttps:/ /ww.isaca.org.cnHttps://wWISACA88 ISACA.8ISAtps://www.isaca.org.cnHttps://www.isaca.org.cnHttps://wwISACAaca.org.cn.org.cn2025ISACA。保留所有权利。ISA可信人工智能治理调研报告888ISACA8ISAHttps://www.isaca.org.cn执行摘要本报告围绕可信人工智能治理展开，探讨其全球状况、行业实践并展望未来。当前人工智能已经在多个行业中得到应用和部署，例如营销服务、教育、技术服务/咨询业和金融/银行业等，且集中于客户服务和经营管理场景。但大多数企业仍处于技术规划阶段，成熟度较低。在技术使用模tps:/式上，多数企业自研能力不足，主要依赖外部产品。在人工智能投入方面，企业呈现两极分化，大多数投入不足100万元人民币，少数超过2000万元人民币。多数企业认为业务改进效果“一般”，显示出投入与产出效果的优化空间。在人工智能应用过程中，企业面临的主要挑战包括技术和业务流程融合问题(算法复杂、业务场景的适用性)、数据安全(如隐私保护、数据可靠性)和算法合规性问题。虽然伦理性问题目前关注度较低，但其重要性将日益凸显，企业需重视公平性、透明性、可解释性和安全性，以确保技术的可持续发展。可信人工智能治理是破解风险、实现长期价值的关键路径。在行业实践中，互联网、医疗健康、智能制造和金融行业均结合自身特点，针对数据隐私、算法安全等问题采取了相应的风险应对策略。各行业需要结合自身特点，动态平衡创新与风险控制，强化数据治理、提升算法透明性与伦理性、应用场景设计、应用有效性宣导、应用技能培训、应用团队与技术团队的认知和能力建tps:/设，同时通过跨部门协作、全员培训和体系化风险治理推动人工智能技术的安全高效应用和可持续发展。/WW架，开展专业团队职责定位和能力建设，平衡技术与伦理、加强AI技术和应用案例宣导，建立闭环评估机制并加强协作培训。行业需建立标准化框架，加强数据管理、伦理审核、安全防护及评估认证机制，以推动可信人工智能发展，让其更好地服务社会。ISA88SAtps://www.isacaHttps://www.isaca.org.cnISACA2025ISACA。保留所有权利，IS可信人工智能治理调研报告8ISACA8ISAHttps://www.isaca.org.cn关键发现1.企业投入两极分化：45%的企业人工智能投入不足100万元人民币，15%的企业投入超过2000万元，表明行业资源分配不均，中小企业技术应用能力受限。2.伦理关注不足：仅24.2%的企业在选择人工智能模型时考虑伦理问题，反映出伦理治理在技术开发中的优先级较低，未来需加强公平性与透明性。3.行业治理差异显著：电信/通信行业对人工智能风险评估的重视度最高(50%)，医疗行业通过审批流程使数据泄露率降低30%，显示行业治理效果显著。4.技术规划为主：39.7%的企业处于技术规划阶段，进入成熟度评估的不足10%，表明大多数企业仍处于人工智能应用的早期阶段。5.性能优先：70.4%的企业选择模型时最看重性能指标，伦理问题关注度最低，反映出企业在技术应用中更注重短期效益而非长期风险。/W6.数据安全挑战：27%的企业最关注数据安全和隐私保护，31%的企业强调数据可用性与隐私平衡，显示数据管理仍是人工智能应用的核心难题。/W7.模型偏见问题：16%的企业面临算法偏见或歧视风险，金融行业投诉率最高，表明算法公平性治理驱待加强。8.本土化趋势：41%的企业在海外工具受限时选择本土化替代，34%的企业视能力而定，反映出地缘政治对技术应用的深远影响。9.跨部门协作不足：仅41%的受访者了解公司人工智能业务环境，跨部门协作函待加强，以实现技术与业务的深度融合。10.治理框架滞后：企业投入与治理水平无显著正相关，治理框架设计需加速优化，以匹配技术应用的快速发展。SA2025ISACA。保留所有权利，可信人工智能治理调研报告目录ISACAwww.isaca.org.c执行摘要关键发现1.全球可信人工智能治理现状及挑战1.1可信人工智能治理的意义和调研目1.2全球人工智能的治理现状1.3人工智能治理框架1.4可信人工智能治理的机遇与挑战2.可信人工智能治理调研结果分2.1人工智能的使用情况2.2人工智能的投入与产出效果152.3人工智能使用过程中的风险与挑战72.4可信人工智能治理现状与展望3.可信人工智能治理的行业实践3.1互联网行业3.2医疗健康行业303.3智能制造行313.4金融行业323.5行业实践小结334.未来展望4.1人工智能治理最佳实践3536/WV4.3人工智能治理行业性建议374.4总结.致谢、392025ISACA。保留所有权利。可信人工智能治理调研报告1.全球可信人工智能治理现状及挑战1.1可信人工智能治理的意义和调研目标科技创新浪潮席卷全球，人工智能作为新一轮科技革命和产业变革的重要驱动力量，正深刻改变着人类生产生活方式，并对未来充满期待。从自动驾驶到精准医疗，从智能制造到智慧城市，人工智能技术的应用日益广泛，为人类社会带来了前所未有的机遇，也同步催生了新的社会、经济和地缘政治变革。然而，技术进步的背后也潜藏着巨大的挑战。算法歧视、数据隐私泄露的潜在威胁、质量稳定性、对就业市场的冲击等问题日益凸显，对个人权益、社会公平以及国家安全构成考验。人工智能的“双刃剑”效应日益凸显，如何确保其安全、可靠和可控，成为全球共同关注的焦点。可信人工智能的提出，正是为了应对这一挑战，其核心在于确保人工智能系统的设计、开发、部署和使用符合伦理原则，产出可靠性得到保障，并有效降低潜在风险。一个可信的人工智能系统应具备公平性、透ps.明性、稳健性/安全性、隐私保护、责任可追溯性以及人类可控性等关键特征。构建可信人工智能治理框架的目标，不仅在于规避风险还在于积极引导人工智能技术朝着造福人类的方向发展，最大化其正面效应。本调研报告旨在深入探讨可信人工智能治理的重要性、现状、挑战和机遇，关注可信人工智能在不同行业中的实际应用，旨在全面、客观地呈现当前人工智能治理的图景，助力塑造可信人工智能的未来。1.2全球人工智能的治理现状全球人工智能治理格局呈现多元化发展态势，各国基于自身国情、社会文化背景和发展战略，探索不同的治理路径，形成了各具特色的治理模式。以下仅对部分关键内容进行概