智能小巨人：2024年AI商业观察Vol.04：大模型，不止价格战

AI商业观察Vol.04大模型,不止价格战智能小巨人科技出品 2024/05/30北京市朝阳区合生汇3楼wangzheng@ainewgiant.com王铮Silvia大模型，不止价格战NO. 1•5月，中美“AI月”，国产大模型“价格战”开打•各方观点：“降价猫腻多”、“同质化竞争”、“行业洗牌”•把“大模型价格战”作为商业研究项目，结论却是：大模型，不止价格战！learn more…来源：智能小巨人科技整理1元能买到多少大模型token？Deepseek v2：100万！“大模型价格战”开打！互联网大厂、AI独角兽入局来源：各公司官网，智能小巨人科技整理国内大模型API降价汇总日期公司模型规格调整前价格调整后价格输入输出输入降幅输出降幅元/千token元/千token元/千token元/百万token元/千token元/百万token5月6日深度求索DeepSeek-v2-32k//0.0011/0.0022/5月11日智谱GLM-3 Turbo-128k0.0050.0050.001180%0.001180%5月15日 火山引擎Doubao-lite-4k//0.00030.3/0.00060.6/Doubao-lite-32k//0.00030.3/0.00060.6/Doubao-lite-128k//0.00080.8/0.0011/Doubao-pro-4k//0.00080.8/0.0022/Doubao-pro-32k//0.00080.8/0.0022/Doubao-pro-128k//0.0055/0.0099/5月21日阿里云Qwen-Turbo0.0080.0080.002275%0.006625%Qwen-Plus0.020.020.004480%0.0121240%Qwen-Long0.020.020.00050.597%0.002290%Qwen-Max0.120.120.044067%0.121200%国内大模型API降价汇总日期公司模型规格调整前价格调整后价格输入输出输入降幅输出降幅元/千token元/千token元/千token元/百万token元/千token元/百万token5月21日百度智能云ERNIESpeed-8k0.0040.00800100%00100%ERNIE Speed-APPBuilder0.0040.00800100%00100%ERNIESpeed-128k0.0160.03200100%00100%ERNIE Lite-8k0.0030.00600100%00100%ERNIELite-8k-09220.0080.00800100%00100%ERNIELite-128k0.0120.02400100%00100%ERNIE Tiny-8k0.0010.00100100%00100%5月22日科大讯飞Spark Lite0.0180.01800100%00100%5月22日腾讯云混元-lite0.0080.00800100%00100%混元-standard0.010.010.00454.555%0.005550%混元-standard-256k0.120.120.0151588%0.066050%混元-pro0.10.10.033070%0.11000%来源：智能小巨人科技整理各方观点：“降价猫腻多”、“同质化竞争”、“行业洗牌”Ø 我们借助各种AI搜索产品收集了几十篇关于“大模型价格战”的深度采访稿件，对AI业内人士的观点进行了梳理：Ø 第一类视角：关于AI生态的上游技术要素。“大模型行业每年降低十倍推理成本是可以期待的”、“大厂烧钱是为了换数据，打造数据飞轮”等等。Ø 第二类视角：从用户价值的角度进行评价。“这反映了大模型行业内现有性能评测标准的缺乏，因为没有评价标准所以拼价格”；“国内大模型API使用起来层层套娃，先免费上车、但还是会跳转到其他收费项目”；“价格因素只是使用大模型的原因之一，还是更关注模型的质量、推理能力、参数和准确率”；“价格战对企业落地大模型是好事，但是仍然没有解决使用大模型到底带来哪些价值的问题”，“即使大模型落地通过预算环节，部署环节的数字化基础薄弱、工程化能力不强怎么解决”。Ø 第三类视角：对本次价格战的竞争性质做了点评。“大模型的性能遇到了瓶颈，只能同质化竞争，需要降价”、“大厂通过烧钱抢大模型市场份额”、“这次降价是B端的降价方法，云厂商的竞争升级了”等等。Ø 第四类视角：对AI产业生态演变的思考。“巨头在大模型赛道血拼是必然的，技术创业者首先要放弃幻想，如果压力太大，可以选择暂时先战术性‘躺平’一下”；“那些缺少模型差异化能力又没有商业化模式的大模型初创公司会被直接'卷死'”。“大模型价格战”涉及的AI生态角色：大模型，不止价格战！来源：智能小巨人科技整理新进入者AI创业公司深度求索、智谱AI李开复、王小川贾扬清、袁进辉……客户/用户企业、开发者企业CIO、创业团队、资深开发人员替代产品新架构AI模型供应要素算力、算法、数据大模型推理成本用户、场景数据“在位者”竞争百度、阿里、字节、腾讯、科大讯飞……010203大模型”在位者”竞争在技术路线、产品服务、应用落地和市场定位等方面，领先的大模型厂商已经选择了各自的差异化路线图。大模型下游：企业、开发者AI应用爆发现实挑战众多，降价之外，预计更多AI应用扶持措施和生态系统构建计划在路上。大模型上游：推理成本、数据生态推理成本快速下降；不缺大模型和技术，缺场景缺数据。大模型“挑战者”机会从大模型上游要素的供不应求到下游打通模型部署、API调用、应用落地的全链路中，还有很多产业环节上的空白；蓝海机遇大于红海竞争。04技术性降本、高性能计算集群与数据飞轮NO. 2•大模型推理成本降了多少？“价格战”公司技术性降本能力如何？•深度求索和智谱AI降价底气：大模型架构和算法策略创新•“在位者”公司：投入算力管理平台、建设高性能计算集群•高性能计算集群的规模效应•“烧钱换数据”，降价意在构建“数据飞轮”•一年时间，推理成本降低10-100倍，领先大模型厂商边际成本下降幅度更大learn more…大模型上游ü 一年的时间里，大模型的推理成本降低了10-100倍，奠定降价基础ü 重金投入AI基础设施，又亟缺场景和数据的失衡状态下，必须多管齐下，降低使用门槛，增加用户基数大模型独角兽通过技术架构创新大幅降低成本：•DeepSeek v2在MoE、RoPE和Attention上有全新的创新；•智谱AI自主研发GLM预训练架构，采用稀疏激活的MoE架构，并优化模型适配多种高性能硬件平台。科技巨头与老牌厂商的多重大模型降本策略：•在模型层面进行技术性降本；•投入算力管理平台、建设高性能计算集群等基础设施来大幅提升算力利用效率。重金投入的AI基础设施，亟需规模效应：•阿里和腾讯都专门建设了高性能的计算集群；•大规模集群的运维成本分摊到每个计算任务上更为经济；•大规模集群支持灵活的资源分配和调度，高利用率进一步降低成本。“烧钱换数据”构建“数据飞轮”：•“从某种程度上，我们现在不是缺大模型、缺技术，而是缺场景、缺数据，缺在一个场景下磨练大模型算法的能