人工智能原生云构建与加速核心能力指南

人工智能原生云构建与加速核心能力指南 版权声明本报告归腾讯云（北京）有限公司所有，并受法律保护。对本报告中的文本或观点进行任何形式的复制、摘录或其他使用，必须注明“来源：腾讯云（北京）有限公司”。腾讯云保留对任何违反本通知的行为采取法律行动的权利。 目录面对原生AI云的挑战从AI云到原生AI云：云服务的比较分析AI加速而生：腾讯云（AI原生）全景分析平台能力需求云平台架构能力背景l基础设施层加速计算网络和边缘加速存储加速l模型库l工程工具层部署和微调加速内容质量管理数据处理效率提升发展提升l应用层l全栈式安全解决方案结论关于腾讯云 背景参考材料全球科技格局随着在大型语言模型、语音模型和视频模型等领域的突破而跳动着创新的脉搏，这些突破不断推动人工智能技术的边界。这种竞争动力不仅激发出新想法，还推动着各行各业持续的能量波。人工智能技术的演化和集成使得技术提供商能够完善和提升他们的产品，加强他们的竞争地位。例如，独立软件供应商（ISVs）越来越多地将人工智能功能融入到他们的产品中，以在这个变革时代确立自己的地位。正如Gartner在《CTO的生成式人工智能技术景观指南》中预测的那样：“到2026年，超过70%的独立软件供应商（ISVs）将在其企业应用中嵌入生成式人工智能（GenAI）功能，这比目前的不到1%有大幅增加。”生成式人工智能已成为商业领域的颠覆性力量，吸引了全球各行各业高管们的关注。其关键优势在于自动化决策过程和内容创作，通过提高效率和增加价值来革新商业运营。正如Gartner在《CTO的生成式人工智能技术景观指南》中所预测：“到2026年，超过80%的企业将使用生成式AI API、模型，或在其生产环境中部署了生成式AI赋能的应用程序，这一比例将从今天的不到5%显著增加。”在人工智能时代，我们正处于一场非凡的技术革命之中。这一深刻的转变，以其动态的势头和重大影响，正在重塑全球商业格局和社会进步。随着人工智能创新的快速发展，它们正在渗透到决策、创新和价值创造的各个领域，成为社会进步的关键驱动力。跨国公司、初创企业、成熟的研究中心和个别先驱者 alike 都不可避免地被这场由人工智能驱动的变革浪潮所席卷。所有这些变化标志着人工智能原生时代的强劲开端。在这个阶段，大型语言模型（LLMs）将作为基础技术，推动现有应用的显著转型，并催生全新的应用类别。Copilot和AI Agent的引入是这一转变的强烈证据。在不久的将来，托管在云上的大多数应用程序将平稳过渡到AI原生应用。 图1：从云AI到AI原生云的转变以下概述了增强能力的必要性：我们激动地见证了从AI云到AI原生云的转变，这标志着云计算功能的重大飞跃。新兴的AI原生云不仅仅是一个技术进步，它还成为了推动用户业务转型和创造力的核心力量。AI原生云无缝地将AI技术嵌入到云计算服务的各个方面，为用户提供更智能和自动化的服务。此外，AI原生云优先考虑开放性和生态系统培养。通过提供强大的API和SDK，它为第三方开发者营造了一个动态的环境，以促进尖端AI原生服务和应用的创造。1. 涵盖性以实现更广泛的参与：在过去，人工智能技术仅限于特定的行业和用户群体。然而，随着AI原生技术的出现，通过大型语言模型（LLMs）解锁了广泛的技能，使不同行业中的用户广泛参与成为可能。云平台必须具备可扩展的架构，以有效地适应这一多元化的参与者格局。建立一个稳健的框架对于满足各种规模和需求的用户至关重要，确保云生态系统中的每位用户都能获得定制的解决方案。从人工智能云到AI原生云：云平台能力要求比较分析AI原生应用依赖于AI原生云，这促使云服务持续进化以满足AI原生时代的需求。下一代AI原生云解决方案将赋予IT领导者精细调整在这个转型时代价值、成本和风险之间微妙平衡的能力，使他们能够自信地与当前趋势保持一致并引领行业进步。 4. 加强多模态检索功能：在过去，用户主要依赖于结构化数据。然而，随着嵌入技术、多模态特性和AI原生时代向量化的出现，文档、音频、图像和视频等非结构化数据现在正被有效利用。云平台必须提供强大的跨模态检索能力，以支持这一数据利用方式的转变。6. 授权发展提升：在AI 1.0阶段，开发者需要具备对云服务和AI的坚实理解，才能有效构建、训练和部署AI应用，通常需要整合各种工具和平台。然而，在AI原生时代，AI开发的门槛显著降低。开发者现在可以利用简洁、高质量的代码和工具迅速创建和部署AI应用。此外，云服务提供商提供了多样化的预训练模型和可定制模型选择，进一步简化了AI应用的开发流程。这不仅极大地提升了开发效率，还极大地减少了代码量，使得开发者能够更多地专注于软件产品设计。7. 在本地部署中的适应性：在目前的AI原生环境中，用户对安全和数据隐私的关注程度达到前所未有的水平。随着AI基础设施相关成本的不断上升，企业越来越重视内部基础设施提供的规模经济和运营效率。因此，将AI解决方案本地部署以促进LLMs的培训和推理已成为越来越多的用户的优选方法。尽管传统用户通常会管理计算资源并部署AI应用程序。5. 简化集群调度：在AI原生时代，随着模型参数激增，单机训练显得不足。云平台必须支持集群调度，以容纳数千甚至数万个GPU来满足大型语言模型（LLM）训练的基本需求。集群调度系统应展现出智能和效率，自动优化资源分配，减少等待时间，并提高整体训练效率。2. 精通训练大型语言模型：此前，人工智能模型的参数量通常在数亿范围内。随着AI原生时代的到来，模型参数量发生了巨量增长，达到了数十亿、数百亿，甚至万亿级别。云平台必须具备管理这种前所未有的训练任务规模的能力。对于它们来说，不断优化计算资源以满足日益增长的计算需求，同时保持最佳效率和成本效益，至关重要。3. 多模态支持。过去，用户主要利用单一模态模型，如语言模型、语音模型和视频模型。在AI原生时代，整合并理解多种数据模态的多模态模型将增强功能并应用于更广泛的应用场景。 面对原生AI云的挑战在上述观点的基础上，在原生AI时代，一个具备端到端能力的强大云平台应运而生，该平台涵盖了基础设施、模型、工程工具、应用程序以及AI信任和安全五大关键组件，成为用户熟练驾驭这一变革时代技术格局的首选。8. 确保内容质量和安全：在人工智能原生时代，云平台不仅要满足数据、应用程序和网络安全的传统标准，还要应对内容质量保证和安全性的不断变化挑战。面对可能含有敏感数据或侵犯知识产权的内容，用户依赖云平台提供强大的“基线策略”来防范此类风险。在通用云计算平台上，集群配置和网络等关键领域对可扩展性和性能的要求在AI原生时代已经变得极其严格。这要求专为AI场景设计的专业化计算、网络和存储基础设施，需要硬件和软件紧密合作，以实现满足用户对高性能和可靠性需求的本地部署。1. 自动部署：随着AI原生生态系统的不断发展，云平台必须优先考虑出色的用户友好性，以降低入门门槛。克服关键技术挑战，如简化标准和AI环