迈向智能世界白皮书2024——云计算

2目录趋势一：构建AI原生基础设施，提供弹性、高效、多元的算力01趋势二：构建以知识为中心的数据底座，为大模型高效供数02趋势三：构建多模态多尺寸模型，实现场景与模型的最佳匹配03趋势四：开放价值场景，使AI Agent成为企业AI落地的新方向043趋势一：构建AI原生基础设施，提供弹性、高效、多元的算力014趋势一：构建AI原生基础设施，提供弹性、高效、多元的算力GPUCPU内存NPUDPU基于主从架构的单体算力基于全对等池化的矩阵算力联算比、容算比、存算比配比失衡，带来性能扩展、成本、效率全面挑战，AI基础设施架构需进行系统性变革AI算力基础设施从单体算力到矩阵算力Transformer大模型过去20年16.8倍 /2年1.4 倍/2年11.2 倍/2年60,000 倍100 倍2 倍/2年参数量运算量内部连接带宽内存容量硬件计算能力内存带宽联算比 = 联接带宽/算力容算比 = 内存容量/算力存算比 = 内存带宽/算力NPUGPUCPU内存DPU统一高速互联总线…5行动建议：建设多样算力全对等、池化、可组合的新型AI算力基础设施资源统一池化突破算力边界CPU/XPU/内存/网卡统一资源标识统一通信访问统一资源访问高速互联总线CPU池内存池DPU池NPU池统一访问地址内存共享总线对等互联突破网络边界超高带宽总线总线服务化总线网络化总线资源化总线智能化算力灵活组合 突破使用边界调度系统AI for System服务器为粒度调度 -> 矩阵为粒度调度算力类型可组合算力规模可组合资源统一池化：突破单服务器的能力边界，实现CPU、NPU、GPU、内存等多样资源统一池化。总线对等互联：提供超高带宽Scale-up网络， 网络带宽对比传统网络提升一个数量级以上，达到 Tb级。算力灵活组合：通过调度系统匹配最优算力，覆盖百亿到万亿级模型训练推理场景，提供最优性能、最佳性价比的AI算力。TPTT6行业实践：华为云数据中心系统性架构升级，模型训练及推理效率大幅提升NPU池CPU池内存池GPU池DPU池AI-Native云基础设施CloudMatrix新一代的多元算力对等全互联架构模型训练：算力按模型参数量自动匹配效率提升比模型参数量Pangu U(230B)Pangu U(550B)Pangu S(xT)Pangu S(xT)71%68%28%26%30%传统架构推理效率* 数据基于盘古U系列（2300亿）模型算力平台模型推理：算力最优配比，效率提升CloudMatrix702趋势二：构建以知识为中心的数据底座，为大模型高效供数8趋势二：构建以知识为中心的数据底座，为大模型高效供数自动抽取多模态数据语义自动处理大模型所需的高质量数据自动构建企业知识图谱数据湖BI等业务应用非结构化、结构化、半结构化数据知识湖BI等业务应用AI模型、语义、图谱、专家经验、规则等当前很多企业都建有数据仓库和数据湖用于企业商业智能，但面对AI大模型，当前数据平台还不能很好地为大模型使用，需要进行大量数据清洗、知识抽取，从而构建服务于AI模型的、以知识为中心的数据底座：1、对数据湖的数据进行语义抽取，将数据与业务语义进行关联，转化为知识；2、通过AI自动生成大模型所需要的问答对、图文对，能将业务知识高效供给大模型预训练和微调；3、基于企业已积累的大规模数据，通过AI自动构建起企业的知识图谱。让业务人员可以通过企业大模型，用自然语言对话方式来快速实现各类任务。9行动建议：三层架构为大模型高效供数知识湖层智能决策层数智服务层智能搜索数智助手智能Workflow智能洞察AI4Data Engine决策应用自助可视分析应用自助数智应用发布数智应用市场RAGGraphRAG数据准备算子数据集成算子特征处理Data4AI Engine (training/serving ready datasets)ModelArtsOther AI/ML PlatformsLLM/SLMNL2SQL引擎AutoETL视图优化查询优化增强分析DaaS Engine数据服务模型服务业务仿真运维/运营优化AutoAI/MLMaaS Engine模型服务信息爬取与集成知识定义知识生成知识融合知识湖-知识处理层业务决策/数智应用AI训练推理服务工具第三方开发应用Other Apps动态本体知识图谱智能索引知识管理&安全知识湖-知识服务层• 知识处理层：实时挖掘数据特征、向量表征、基于规则与模型生成知识图谱、基于反馈自学习；效率相比人工10x↑• 知识服务层：知识统一检索服务、知识关系图谱服务、动态本体知识集成服务知识湖层• DaaS Engine：提供统一的智能数据服务能力，包括NL2SQL、AutoET、查询优化、数据见解等；10x↑• MaaS Engine：提供统一的模型服务；• AI4Data Engine：通过AI赋能数据治理、数据分析、数据处理；• Data4AI Engine：提供高效数据准备能力，为AI模型训练提供高质量数据；数智服务层• 决策应用：快速编排智能应用，应用构建效率提升10x↑• 数智应用市场：开发、发布原生数智应用，MarketPlace实现应用共享与交易；智能决策层10行业实践：助力某公司财经法务打造数智融合应用财经法务-智能治理层财经法务-智能决策层财经法务-知识湖业务痛点与解决方案财经法务-数智融合应用法务决策助手知识问答助手公司关系网络分析合同智能分析合同异常诊断合同数据见解决策流开发业务连接开发测试评估监控部署本体建模本体集成意图识别智能推荐决策流编排决策推送AutoETL法务作业系统法务评审电子证据发现决策任务触发决策结论返回财务审核业务痛点解决方案业务决策逻辑来自专家头脑经验、IT系统无法感知与学习：1、决策流开发：业务人员自助创建决策流水线，将专家经验沉淀到系统。业务人员找数据难、理解数据难、IT人员投入大量人力数据开发、清洗 ；1、定义业务对象-业务关系本体模型；2、本体集成，自动发现业务系统相关数据，建立物理数据与业务本体映射关系，并且自动化数据集成；3、通过AutoETL系统自动完成数据清洗转换业务人员、IT人员彼此缺乏领域知识；1、AI帮助下，法务人员自助创建决策流水线；2、智能推荐仿真算法模型、流水线模板；决策逻辑个性化，难以泛化、通用化，无法批量复制1、执行决策流，执行what-if analysis 业务仿真；2、自动从知识湖抽取知识，自动创建不同场景的变更流水线缺乏业务影响分析1、变更业务影响分析，支持NL问答2、智能触发决策执行API，对接周边系统缺乏业务监控、决策过程不可解释1、决策链每次决策过程可视化、提供日志可解释2、持续的业务运作优化AI重塑业务数据（法条、财报、文档…）业务对象（公司、供应商、董事、合同…）业务模型（账款风险模型…）业务动作（法务权签、金融合规评审…）业务流程关系（法务评审流程、电子证据发现流程…）数据集成数据建模数据质量数据资产数据安全数据服务AI开发1103趋势三：构建多模态多尺寸模型，实现场景与模型的最佳匹配，解决复杂问题12趋势三：构建多模态多尺寸模型，实现场景与模型的最佳匹配，解决复杂问题生成式AI掀起了企业智能化升级的新一轮浪潮，大模型也开始走入千行万业，行业中