计算机行业周报:首款Transformer专用芯片Sohu亮相,10倍于B200速度成为最快AI芯片
2024 年 06 月 29 日 首款 Transformer 专用芯片 Sohu 亮相,10 倍于B200 速度成为最快 AI 芯片 —计算机行业周报 推荐(维持) 投资要点 分析师:宝幼琛 S1050521110002 baoyc@cfsc.com.cn 行业相对表现 表现 1M 3M 12M 计算机(申万) -5.3 -16.1 -35.6 沪深 300 -4.2 -2.1 -9.4 市场表现 资料来源:Wind,华鑫证券研究 相关研究 1 、 《 计 算 机 行 业 周 报 : 华 为HarmonyOSNEXT 强势亮相,“纯血鸿蒙”有望重塑 AI 操作系统市场格局》2024-06-23 2、《计算机行业周报:AMD 公布MI325X 同台竞技英伟达,“年更”预示 AI 芯片竞争趋于白热化》2024-06-16 3、《计算机行业动态研究报告:车路一体化项目接连启动,智慧交通 市场有望提质增速》2024-06-11 ▌算力:算力租赁价格平稳,Transformer ASIC 芯片 Sohu 计算速度超 B200 10 倍 本周算力租赁价格环比持平。在产业动态方面,6 月 26 日,Etched 公司推出全球首款 Transformer 专用集成电路(ASIC)芯片 Sohu。 Sohu采用台积电的 4nm 工艺制造,只有 1 个核心,每张芯片配有 144GB HBM3E 高带宽内存,推理性能明显优于 GPU 和其他通用人工智能芯片,同时能耗更低。在 Llama 70B 吞吐量中,Sohu 每秒可以处理超过 50 万个 tokens,速度超过 H100 的 20 倍,并超过英伟达今年 3 月推出的顶配芯片 B200 的 10 倍。同时,Sohu 实现了 90%以上的 FLOPS 利用率,相比之下使用 TRT-LLM 的 GPU 约为 30%。当前, OpenAI、谷歌、亚马逊、微软、Meta 等所有大型科技公司都在使用 Transformer 模型,市场前景广阔。Sohu 的推出无疑是 Transformer 芯片领域的一大进步,能够为未来亿万级参数模型的运行赋能。 ▌AI 应用:科大讯飞大发布星火大模型 V4.0,全面对标 GPT-4 Turbo 6月 27 日,科大讯飞正式对外发布了讯飞星火大模型 V4.0,以及在医疗,教育,商业等多个领域的人工智能应用。讯飞星火 V4.0 七大核心能力全面升级,在国内外涵盖理解,推理,综合考试,数学,科学以及代码任务的 12 项中英文主流测试集中,讯飞星火 V4.0 在 8 项测试集中排名第一,领先国内大模型。讯飞星火 V4.0 在文本生成,语言理解,知识问答,逻辑推理和数学五大能力方面整体超越 GPT-4 Turbo,进一步缩小在代码,多模态能力方面的差距。目前,星火 V4.0 的多模态能力达到了 GPT-4 Turbo 97%的水平。讯飞星火 V4.0 是基础全国首个国产万卡算力集群飞星一号训练而成,完全自主可控。 ▌AI 融资动向:EvolutionaryScale 获 1.42 亿美元种子轮融资 本期 AI 初创公司的融资中,EvolutionaryScale / Etched 融资额前二,分别为 1.42 亿/1.2 亿美元。EvolutionaryScale 是一家前沿人工智能研究实验室和公益公司,致力于开发生命科学领域的人工智能,构-50-40-30-20-10010(%)计算机沪深300证券研究报告 行业研究 证券研究报告 请阅读最后一页重要免责声明 2 诚信、专业、稳健、高效 建了第一个蛋白质大型语言模型 ESM1 并持续开发下一代 ESM3,此轮融资将用于进一步扩展模型能力。Etched 专注于打造适用于 Transformer架构推理的专业性 AI 芯片 Sohu 以及推理服务器,Sohu 是迄今为止最快的 Transformer 芯片,有利于实现超级智能,成为领先的 AI 芯片供应商。 ▌投资建议 “AI 封锁”悄然升级,进一步提升全栈 AI 技术自主可控要求。6 月 25日,OpenAI 通过官方推送邮件告知 API 用户,自 7 月 9 日起,将阻止来自未列入支持国家和地区名单的区域的 API 流量,如要继续使用OpenAI 的服务,需要在受支持的区域进行访问。海外对于中国 AI 的限制一直存在,本次为 OpenAI 正式宣告停止中国的 API 服务,“AI 封锁”下,全栈 AI 技术国产化迫切性进一步提升。预计随着国产大模型技术进一步提升,大模型将会逐渐向本地进行迁移,迎来新机遇。 建议关注以 AI 为核心的龙头厂商科大讯飞(002230.SZ)、有望迎来需求爆发的 AI 应用金桥信息(603918.SH)等。 ▌ 风险提示 1)AI 底层技术迭代速度不及预期。2)政策监管及版权风险。3)AI 应用落地效果不及预期。4)推荐公司业绩不及预期风险。 公司代码 名称 2024-06-29 股价 EPS PE 投资评级 2023 2024E 2025E 2023 2024E 2025E 002230.SZ 科大讯飞 42.95 0.28 0.40 0.56 153.39 107.38 76.70 买入 002368.SZ 太极股份 22.55 0.79 1.01 1.28 28.54 22.33 17.62 买入 603918.SH 金桥信息 10.45 0.33 0.49 0.80 31.67 21.33 13.06 买入 资料来源:Wind,华鑫证券研究 证券研究报告 请阅读最后一页重要免责声明 3 诚信、专业、稳健、高效 正文目录 1、 算力动态:算力租赁价格平稳,首款 TRANSFORMER ASIC 芯片 SOHU 亮相 ......................... 4 1.1、 数据跟踪:算力租赁价格平稳 ...................................................... 4 1.2、 产业动态:首款 Transformer ASIC 芯片 Sohu 亮相,推理速度 10 倍于 B200 ............... 4 2、 AI 应用动态:科大讯飞大发布星火大模型 V4.0,全面对标 GPT-4 TURBO ........................ 7 2.1、 流量跟踪:Kimi 访问量环比+9.63% .................................................. 7 2.2、 产业动态:科大讯飞大发布星火大模型 V4.0,全面对标 GPT-4 Turbo ..................... 8 3、 AI 融资动向:EVOLUTIONARYSCALE 获种子轮融资额 1.42 亿美元 ................................ 11 4、 行情复盘............................................................................
[华鑫证券]:计算机行业周报:首款Transformer专用芯片Sohu亮相,10倍于B200速度成为最快AI芯片,点击即可下载。报告格式为PDF,大小1.12M,页数16页,欢迎下载。
