智能体AI时代的基础设施现状

智能体 AI 时代的基础设施现状来自 1,402 位全球领袖的真知灼见：提高效率和促进创新所需的关键转变。2026 年摘要我们正处于一场基础设施的复兴浪潮之中。数十年来，组织构建的基础架构，在应用以人类速度运行的世界中表现出色，即应用响应的速度取决于用户键入或点击的速度。但智能体 AI 的出现，已从根本上改变了这场游戏的节奏。 多智能体系统正在快速协作、推理和行动。如今，推理（即 AI 真正的“执行”过程）在所有 AI 工作负载中占据了绝大部分，正式超越了训练。传统架构在这种压力下不堪重负。根据我们的数据，62% 的领导者因陈旧过时的技术栈而面临高昂的“推理税”，具体而言，在于数据出站流量、存储膨胀和闲置的专用硬件。要转为使用智能体 AI，就需要抛弃传统的基础架构，转而采用动态的 AI 优化型架构。为了应对这一技术转变，我们的第二份年度报告汲取了 1,402 位全球 IT 领导者的切身经验。我们的调研结果表明，创新型组织所做的远不止升级硬件，他们还在重构自身的整体架构方法。通过向分布式环境转型，从源头保护工作负载，以及将治理直接嵌入编排层，领导者们正在确保其基础设施能够承载相应智能体的远大目标。这份报告并非只是对行业现状的简单综述，更是一份旨在为生产级自主系统确立新标准的路线图。Google Cloud 产品管理副总裁Nirav Mehta2主要调研结果智能体 AI 需要新的基础设施标准治理是扩展推理能力的先决条件混合多云是 AI 部署的新标准效率现已成为任务关键型需求需要升级基础设施，以支持生产级智能体 AI 系统。83% 的组织 52% 的组织 五分之四的领导者认为安全、治理和 MLOps 是扩展推理能力时面临的最大挑战。现已采用混合多云架构，90% 的组织认为边缘部署至关重要。0102030491% 的领导者 现在选择硬件时会考虑功耗。3智能体 AI 的基础设施要求从各方面来看，智能体 AI 已成为全球日益重视的优先事项。 根据我们的研究，93% 的技术主管认可 AI 工具和解决方案（如智能体 AI）的价值，并在自己的组织内使用它们。不过，智能体 AI 的远大目标与实现目标所需的基础设施能力之间，存在着越来越大的差距。高达 83% 的组织需要升级基础设施，以支持生产级智能体 AI 系统。智能体工作负载带来了一系列新的基础设施需求。在智能体时代，成功的基础架构，需要能够在跨越不同数据源的复杂工作流中实现上下文的无缝贯通。 该架构必须安全可靠，能够在本地、边缘和混合多云环境中提供精细的数据驻留和安全性，以满足全球监管环境碎片化的要求。 它还应该针对推理进行优化，为常年运行的工作负载提供高并发性能，同时保持可持续投资回报率所需的成本效益。要在智能体时代取得成功，需要的不仅仅是向云端的迁移。为了从小规模测试迈向落地部署，企业必须全面优化基础设施，在硬件、部署模型、安全性和治理方面找到最合适的策略。本报告揭示了领先组织如何利用自身基础设施推动增长和创新。从实际挑战到战略机遇，我们将展示如何构建一个足以匹配智能体宏大愿景的 AI 基础架构，并针对效率、安全性和全球规模进行优化。4调研结果 1234自主智能体正在改变整个行业，并且需要一种新的方法。要取得成功，就需要一个为持续智能而打造的基础架构，并以成本效益为先。智能体 AI 需要新的 基础设施标准调研结果 1234智能体就绪 状态差距AI 已从总结世界的工具，演变为能够采取切实行动的引擎。在零售领域，AI 能即时策划个性化风格和寻找商品。在营销领域，AI 能快速制作和扩展数千个有针对性的广告系列。93% 的高级 IT 决策者认可 AI 的价值，并会在整个组织内使用 AI。然而，随着 AI 工作负载从小规模测试迈向落地部署，他们遇到了功能瓶颈，因为旧的基础设施并非为满足自主智能体系统的需求而构建。 对于架构需要升级的 83% 的组织来说，智能体遭遇速度瓶颈，只能以旧系统的速度运行。针对智能体 AI 系统，您现有的基础设施准备情况如何？83%认为其基础设施需要升级才能支持智能体 AI12%需要进行重大基础升级29%需要对特定核心系统进行重大升级27%需要进行少量集成工作和调优16%只需少量工作即可支持初步试点智能体17%对支持任务关键型生产级智能体充满信心调查问卷问题：针对智能体 AI 系统的独特需求（例如：持久性、有状态、长程运行进程），您现有的基础设施准备情况如何？调研结果 1234智能体 AI 需要新的执行规模智能体时代从根本上改变了 AI 工作负载。一个智能体提示可以触发数百个下行操作，包括独立浏览、查询和跨多个系统执行操作。例如，供应链智能体可以在销售旺季到来之前识别出库存不足的情况。它会主动根据历史模式和实时库存检查您的实时销售情况，与采购智能体协调采购库存，并与运输公司智能体协商管理配送事宜，然后再制作采购订单以供审批。这种向自主化的转变极大地改变了 AI 工作负载。随着组织转向需要大规模持续推理和自主决策的生产级智能体系统，推理现已占所有工作负载的 47%1，超过了训练 (28%)。按类型划分的预算消耗百分比19%创新工作台16%模型优化28%训练47%推理1 IDC，2026 年，The AI Efficiency Gap: From Total Cost of Ownership Crisis to Optimized Cost and Performance（AI 效率鸿沟：从总拥有成本危机到成本与性能的优化）通过自家的 AI Creator 平台，PUMA 让超过 9 万名粉丝共同创作了超过 35 万套定制足球套装，将产品设计变成了一种粉丝主导的体验。在与欧洲主要足球俱乐部的两次合作中，PUMA 与 Google Cloud 合作实现了动态工作负载调度：实时扩缩计算能力，在全球范围内实现了快速、无缝的创作，同时优化了成本和性能。7调研结果 1234为持续智能构建基础智能体系统通过持续、高速、安全地访问多个数据源来运行。智能体需要连接到并非专为机器间对话而设计的 ERP 和 CRM。这些系统需要长期记忆，才能在执行当下任务时记起用户三周前的偏好，并且必须在规模化场景下维持这种思维链。 如果没有针对持续智能而构建的基础，智能体仍将面临记忆缺失和能力受限的问题。而这些障碍，正是创新差距最显著的地方。在智能体 AI 基础设施方面，您面临的最大短板是什么？43%难以与旧版 API 和数据源集成36%缺乏专门的高吞吐量向量数据库35%多系统访问的安全性不足调查问卷问题：在支持智能体 AI 方面，您当前的基础设施最大的短板是什么？8调研结果 1234重新启动 云迁移企业零散的数据现状和旧版基础设施是成功采用 AI 的重大障碍。这些挑战导致 AI 缺乏适当的上下文，回答速度缓慢，从而产生不完整的结果和糟糕的用户体验。要成功采用 AI，企业需要将关键工作负载迁移到 AI 就绪型云平台，这些平台提供统一的数据湖、流畅的计算、毫秒级延迟和集成式 AI 开发工具。这有助于弥合碎片化差距，为组织成功应用 AI 构筑坚实的基础。相比处于 AI 成熟度早期阶段的组织，先进的 AI 应用者（即那些已将 AI 嵌入大多数工作流并积极寻求采纳新 AI 解决方