RedHat红帽：2025年生成式AI的实际应用报告

2目录1生成式 AI：重塑 市场和行业5马上行动：与红帽携手， 开启生成式 AI 之旅2选择适合您的企业 组织的 AI 战略3利用红帽 AI 缩短 价值实现时间4从实际应用和 用例着手1前言|选择适合您的 AI 战略|缩短价值实现时间|实际用例|开启 AI 之旅生成式 AI：重塑市场和行业人工智能（AI）仍是全球企业组织主要的创新和投资领域。事实上，据 IDC 预计，全球 AI 解决方案支出的复合年增长率（CAGR）将在 2023 至 2028 年期间达到 29.0%，增长至 6,320 亿美元1。 生成式 AI（gen AI）是这一增长的关键驱动因素，预计同一时间段的全球支出复合年增长率将达到 59.2%1。生成式 AI 是一款功能强大的工具，可帮助企业组织打造创新产品、优化流程并在瞬息万变的市场环境中获得竞争优势。借助深度学习和神经网络领域的先进技术，这款工具不仅可以处理数据，还可以生成新的原创内容，超出了预测式 AI 的功能。生成式 AI 基于从现有信息中学习的模式来生成新的内容或数据。它可以生成与训练数据相似的文本、 1 IDC，“IDC FutureScape：2025 年全球人工智能和自动化预测”，2024 年 10 月 28 日，文档编号：US51666724。根据 IDC 的数据，到 2028 年，全球对生成式 AI 解决方案的投资预计将超过2020 亿美元，2023 年至 2028 年的复合年增长率将达到 59.2%1。图片、代码、声音或其他媒体，为内容的创作和个性化提供创新解决方案。因此，生成式 AI 正在重塑人机协作方式，激发解决问题的新方法，为各行各业带来显著的商业价值。生成式 AI 应用可为企业组织带来诸多优势： ► 提高员工的工作效率。 ► 提高客户满意度。 ► 降低运维成本。本电子书介绍了选择 AI 解决方案时的关键策略和考量因素，分析了在即用型方案与定制开发方式之间实现平衡的解决方案所具有的优势，还介绍了企业开启生成式 AI 之旅的常见用例。请继续阅读，了解如何为生成式 AI 创新奠定基础。2前言|选择适合您的 AI 战略|缩短价值实现时间|实际用例|开启 AI 之旅选择适合您的企业组织的 AI 战略企业在制定 AI 战略时有两条路径可以选择：采用基于云的 AI 服务；或者自行构建并托管 AI 平台。这两种方式在技术参与度和运维投入方面的要求有所不同，所提供的定制化程度与可控性也存在差异。基于云的 AI 服务基于云的 AI 服务是由第三方供应商提供的一种付费托管解决方案。这类服务通过应用编程接口（API）提供对前沿模型的访问权限。您的企业组织无需自行托管 AI 模型即可将其集成到您的应用中。一些私有商业解决方案还允许您对提供的模型进行微调，或者将模型部署到专用或管控更严格的环境中。由于这种方式提供了即用型 AI 解决方案，且与模型本身的交互最少，因此，对于不想处理 AI 基础架构管理的复杂性、运维团队规模较小或在小规模上采用 AI 的企业组织来说，这是一种更简便且更具成本效益的选择。自托管 AI 平台自行构建并托管 AI 平台能让您在模型和环境方面拥有更多选择和控制权。您可以根据企业组织的需求，自由选择最合适的硬件、软件、模型、应用及部署位置。例如，您可以选择将模型和应用托管在公共云、私有云、本地数据中心或边缘位置。这种方式还为您提供了更多定制模型和应用的机会，让您对数据有更强的控制权，同时减少了对第三方提供商的依赖。即便如此，与基于云的 AI 服务相比，这种方式通常需要更高的前期投入以及更多的持续运维工作和维护成本。与任何大型 IT 或业务举措一样，为企业组织制定实施 AI 的战略对于成功至关重要。 前言|选择适合您的 AI 战略|缩短价值实现时间|实际用例|开启 AI 之旅3要构建并托管 AI 平台，您需要： ► 拥有适合您的用例的基础模型。基础模型示例：大语言模型（LLM）、代码模型、小语言模型（SLM）、开源模型及多模态模型。 ► 能够使用图形处理单元（GPU）等硬件加速功能。 ► 能够使用具有高级 AI 工具和服务机制的应用平台。 ► 用于合规管理及负责任地使用 AI 的治理解决方案。这种方式能让您对 AI 解决方案有更强的控制权，因此，如果企业组织身处监管严格的行业、计划在 AI 解决方案中使用敏感数据和知识产权（IP）或是拥有较大规模运维团队（能够应对 AI 基础架构的构建、运行及维护等复杂工作），这种方式无疑是一种理想选择：AI 战略实施路径对比基于云的 AI 服务自托管 AI 平台部署 + 通过即用型解决方案实现更快的部署 − 部署速度较慢，且需要更多规划成本 + 前期成本较低 − 潜在的隐性成本，尤其是在规模化和定制化方面 − 前期成本较高 + 无隐性成本数据隐私 与安全性 − 数据隐私、安全性及知识产权风险较高，且控制权较弱 + 在本地部署时可提升数据隐私与安全性解决方案定制化 − 定制能力有限 − 供应商锁定及依赖性 + 完全定制能力 + 对供应商的依赖程度较低技能要求 + 由于已包含硬件、模型和支持，因此所需技能极少 − 需要 AI 基础架构 和运维技能最适合不打算自行管理 AI 基础架构的企业组织希望在其 AI 解决方案中拥有更多控制权和定制化的企业组织前言|选择适合您的 AI 战略|缩短价值实现时间|实际用例|开启 AI 之旅4评估 AI 解决方案时的考量因素评估 AI 解决方案和战略时，请务必考虑其透明度、效率和相关性。确保 AI 解决方案中的透明度AI 解决方案能否提供透明度、可问责性和可解释性，同时确保数据隐私、安全性和监管合规性，对于建立信任、降低风险和保持竞争力至关重要。寻找那些能够清晰披露模型架构、训练数据和性能指标且能够为 AI 生成内容提供问责机制和解释的供应商。 优化基础架构和成本效益支持模型优化、分布式训练和高效硬件配置的可扩展、低成本基础架构解决方案能够帮助您最大限度地降低运维开支，提升性能，并快速适应不断变化的需求。采用量化和蒸馏等技术，以便减少对硬件的依赖、降低基础架构成本并减轻对环境的整体影响。探索特定于行业的应用场景生成式 AI 解决方案可用于多种用途。寻找包含大量特定于行业的 AI 用例库，且提供适用于推荐引擎、客户支持等应用场景的预制模板的解决方案，从而缩短上市时间。允许您使用特定于业务的数据对模型进行调优的工具能够提供更丰富的上下文信息，从而生成更准确且更相关的响应。最大限度地发掘 AI 投资的价值1. 使您的 AI 举措与业务目标保持一致。 确保所选解决方案能直接支撑您的差异化、效率提升等战略目标。2. 优化您的总拥有成本（TCO）。 除了解决方案的前期成本外，还要考虑维护、基础架构和人才方面的开支。3. 优先考虑采用程度和易用性。 选择能在采用速度和团队实际能够用于提高工作效率的功能之间取得平衡的解决方案。4. 利用集中式 AI 服务。 通过设计并提供所有团队均可使用的可扩展模型即服务（MaaS），避免重复工作并优化 GPU 的利用。5. 持续衡量和调整。 通过衡量成本节省、效率提升和收入增长等因素来跟踪投资回报率（ROI），并相应地调整您的方法。5前言|选择适合您的 AI 战略|缩短价