字节自研AI芯片陷入困境:技术、成本与业务需求之间的七年拉锯

豆包大模型日均Token使用量在今年6月已突破180万亿,业务需要立即投入使用的算力,而自研芯片仍需要时间完善。

文章作者、来源:ME News

TL;DR

  • 七年研发尚未换来规模化应用。 据《晚点 LatePost》报道,字节跳动2026年完成流片的AI芯片性能未达预期,相关产品尚未在内部业务中大规模部署。
  • 负责人离职让芯片业务再次面临调整。 继今年2月管理架构调整之后,AI芯片与DPU团队负责人施云峰提交离职申请,但目前没有证据表明字节将终止自研芯片计划。
  • 真正的难题不只是芯片性能。 专用芯片需要编译器、算子、模型和业务系统协同,成熟的软件生态与内部采用意愿同样决定产品能否落地。
  • AI业务增长正在加剧研发与应用之间的矛盾。 豆包大模型日均Token使用量在今年6月已突破180万亿,业务需要立即投入使用的算力,而自研芯片仍需要时间完善。
  • 字节需要重新定义自研芯片的成功标准。 相比追求全面替代GPU,先在明确的推理场景实现稳定运行和可验证的成本优势,可能是更现实的路径。

2026年11月11日晚间,一则关于字节跳动自研芯片的消息,将这家互联网巨头持续多年的半导体布局重新带入公众视野。

据《晚点 LatePost》独家报道,字节跳动AI芯片与DPU团队负责人施云峰已提交离职申请,目前正在进行工作交接。与此同时,字节今年完成流片的AI芯片未达到预期性能,面向豆包的Ada和面向Seedance的SeedChip仍在推进算子适配,相关产品尚未在内部业务中实现大规模部署。

需要说明的是,这些进展主要来自媒体对知情人士的采访,字节尚未公开相关芯片的完整测试数据、量产规模及成本指标,因此无法据此判断其性能与英伟达产品之间的具体差距。

不过,即便不讨论芯片性能究竟差了多少,这件事仍然值得深入观察。字节从2019年组建AI芯片团队,到2026年已有七年时间。在这期间,生成式AI从技术探索走向商业化竞争,字节也从一家以内容推荐见长的互联网公司,发展为同时经营大模型、AI应用和云计算服务的重要参与者。

业务规模越来越大,对算力的需求越来越迫切,自研芯片却迟迟没有完成从研发项目到生产工具的转变。这种反差比一次流片不及预期更值得讨论。

本文的核心判断是:字节自研AI芯片面临的主要挑战,已经不只是能不能设计出芯片,而是能否建立一个让芯片持续被使用、验证和迭代的完整体系。

一、七年时间,字节的芯片研发走到了哪一步?

字节涉足AI芯片的时间,比今天许多人想象得更早。

根据《晚点 LatePost》的梳理,2019年年中,字节在AI Lab旗下的机器学习系统部门组建芯片团队,由施云峰负责AI芯片研发。当时的字节已经在推荐算法、机器学习和数据中心基础设施方面积累了大量经验,自研计算芯片有着明确的业务逻辑:如果能够针对自身工作负载设计硬件,就有机会降低长期算力成本,减少对外部供应商的依赖。

这种思路并不激进。谷歌早在2016年就公开介绍了TPU,证明互联网公司可以围绕自身AI业务设计专用加速器。字节后来选择的ASIC路线,与谷歌具有一定相似性,都是试图通过专用架构换取特定任务上的计算效率。

但字节的芯片团队在发展过程中经历了多次组织调整。2022年,团队被划入负责技术基础设施的Data体系;2026年2月,原负责人王剑不再分管芯片业务,施云峰负责的AI芯片与DPU团队、余红斌负责的CPU团队,改为直接向副总裁杨震原汇报。

同年2月,36氪相关报道还提到,字节芯片研发团队规模已经超过1000人,其中AI芯片方向超过500人,CPU团队约200人。如果这一规模准确,意味着芯片业务早已不只是少数工程师参与的探索项目,而是需要持续投入人员、研发预算和跨部门资源的重要业务。

今年的流片进展,本应是其多年研发成果接受验证的关键节点。所谓流片,是将完成设计的芯片交由制造环节生产,获得能够进行实际测试的样片。但流片成功仅仅意味着芯片进入了实物验证阶段,并不代表性能、稳定性、制造成本和软件适配已经达到商业使用要求。

因此,七年未能大规模落地,不能简单等同于七年没有技术成果;但对于一家以商业效率著称的企业而言,研发成果迟迟无法进入核心业务,也确实说明项目面临着需要解决的工程和组织问题。

二、最难的不是造出芯片,而是让业务愿意使用

理解字节目前的困难,首先需要区分GPU与ASIC两种不同的技术路线。

英伟达GPU具有较强的通用并行计算能力,可以在软件支持下运行多种AI模型。ASIC则围绕特定计算需求设计,理论上可以减少不必要的硬件开销,在明确的工作负载中实现更好的能效或成本表现。

但这种优势具有前提:芯片设计所针对的计算任务,需要与实际运行的模型保持足够高的匹配度。

问题在于,AI模型本身正在快速变化。从传统推荐模型到Transformer架构,再到混合专家模型、多模态生成与复杂推理,不同模型对计算精度、内存带宽、数据传输和算子支持都有不同要求。芯片在设计阶段确定的架构,可能在真正投入使用时面对已经发生变化的业务需求。

相比之下,英伟达拥有持续建设二十年的CUDA生态。根据英伟达在2026年GTC大会公布的信息,CUDA相关生态已经覆盖超过600万名开发者。其竞争力不仅体现在GPU硬件上,还来自计算库、编译工具、开发框架以及长期积累的软件优化经验。

对于字节的业务团队来说,使用成熟GPU往往意味着可以直接利用已有工具运行模型。使用自研ASIC,则可能需要额外修改算子、适配计算图、处理精度差异,并重新测试模型的运行表现。

这并非一次性的工程工作。当模型架构升级、推理策略调整,或者底层框架发生变化时,部分适配过程还可能需要重新进行。

于是,一个看似矛盾的现象便出现了:芯片团队希望业务部门尽快采用新硬件,以便获得真实工作负载和优化反馈;业务部门却希望优先使用已经成熟的GPU,避免将有限的工程资源投入尚不稳定的系统。

芯片团队需要业务来验证产品,业务团队又需要成熟产品来保证效率。 如果企业内部缺乏足够强的协同机制,这种相互依赖就可能演变为研发与应用之间的循环等待。

字节的问题,恰恰可能发生在这一环节。

三、与谷歌相比,字节缺少的可能不是研发决心

谷歌TPU经常被视为互联网公司自研AI芯片的成功案例,但外界容易忽视其背后的长期投入。

2025年4月,谷歌发布第七代TPU Ironwood,官方介绍显示,最大配置可以将9216颗芯片组成一个Pod,提供42.5 ExaFLOPS的峰值计算能力。相比单颗芯片的参数,这种大规模系统能力更能体现谷歌多年积累的基础设施经验。

谷歌不仅设计TPU,还持续建设XLA编译器、JAX等软件工具,并通过内部业务和Google Cloud推动其应用。硬件架构、软件生态、AI模型与数据中心基础设施之间,逐渐形成相互促进的关系。

亚马逊也提供了一个值得参考的案例。

2026年4月,Anthropic宣布扩大与亚马逊的算力合作,并披露其已经使用超过100万颗Trainium2芯片训练和运行Claude。这说明自研AI芯片并非只能停留在企业内部实验阶段,只要硬件能力、软件支持和真实需求能够结合,专用芯片同样有机会进入大规模生产环境。

不过,谷歌和亚马逊的案例也说明,ASIC的成功不能只归功于芯片设计团队。长期的软件研发投入、明确的应用场景、持续的客户需求以及组织层面的协同支持,都不可缺少。

字节在芯片研发上的投入并不算小,但其核心AI业务仍处于高速变化阶段。豆包需要持续升级模型能力,Seedance需要优化视频生成效果,火山引擎还要满足大量企业客户的实际需求。

在这样的竞争环境下,要求业务团队投入大量时间配合尚未成熟的自研芯片,存在不容忽视的机会成本。

这也是为什么谷歌的成功经验值得借鉴,却不能简单复制。字节不仅需要拥有类似TPU的硬件,还需要建立相应的软件体系和采用机制,而后两者未必能够通过扩大芯片设计团队直接解决。

四、豆包增长越快,自研芯片的时间压力就越大

字节之所以无法轻易放弃自研芯片,与其AI业务规模密切相关。

2026年6月,火山引擎总裁谭待披露,豆包大模型日均Token使用量已经突破180万亿,相比2024年5月的1200亿增长约1500倍。

需要注意,Token使用量不能直接换算为GPU消耗量或实际运营成本,不同模型、输入输出结构和计算场景的资源开销存在明显差异。但如此大规模的调用需求,仍然意味着推理效率已经成为字节AI业务的重要经营变量。

推理成本的竞争尤其具有长期性。模型训练往往对应阶段性的集中投入,而推理成本伴随着每一次用户请求持续发生。随着AI服务进入更多企业流程,即使单次推理成本的改善幅度不大,累积到足够大的使用规模,也可能产生可观的经济价值。

这使得字节拥有推动自研芯片的实际动力。

然而,业务增长同时也压缩了芯片研发可以等待的时间。一个视频生成模型需要提升生成速度,最直接的方法通常是增加可用算力或优化现有系统,而不是等待下一代ASIC完成研发与适配。

今年2月,路透社援引消息人士称,字节计划在2026年投入超过1600亿元人民币用于AI相关采购,并计划推进SeedChip的生产。不过,字节当时明确表示相关自研芯片项目报道不准确,且未进一步解释。因此,报道中的产量目标和采购金额不能视为已经完成的投入或量产成果。

这组信息反映出一个更值得关注的现实:即使字节坚定推进芯片自主研发,在短期内也很难脱离对成熟外部算力的采购。

外购GPU解决当下的供给与效率问题,自研芯片争取未来的成本优化和技术主动权。 两条路线并非天然冲突,真正的问题是企业能否控制好它们之间的资源配置和研发节奏。

五、引入外部技术,为什么仍然不能保证成功?

除了内部自主研发,字节也在尝试通过合作与投资拓展芯片技术来源。

2024年6月,路透社曾报道,字节与博通合作开发定制AI处理器,并计划采用台积电制造技术。这体现了字节在自主设计之外,借助成熟芯片企业能力推进产品开发的思路。

另一条路径则涉及昕原半导体。据《晚点 LatePost》报道,字节2024年入股昕原,持股比例为9.5%。双方后来探索将ReRAM阻变存储技术应用于AI推理芯片。

ReRAM的特点是利用材料电阻状态变化存储数据。相关技术被研究用于改善数据存取效率,并探索存算结合等新型计算架构,对于数据搬运成本较高的AI工作负载具有潜在应用价值。

但技术潜力与商业成熟度仍然是两个概念。

《晚点 LatePost》援引知情人士称,昕原最新样片采用多芯粒集成设计,制造成本和良率仍是挑战。按照目前的设计,一片12英寸晶圆产出的有效芯片裸片,最终仅够制造约4张计算卡。

这一数字需要结合芯粒数量、裸片面积、封装方式和实际良率才能进一步评估,不能直接推算每张计算卡的成本。但它至少说明,大规模集成方案仍然需要解决制造经济性问题。

此外,字节曾考虑将一个投资的芯片项目并入自研团队Picoheart,但据报道,相关交易至今尚未落地。

这些探索说明,字节并非只坚持单一的技术路线,而是在内部研发、外部合作和新型存储技术之间寻找突破机会。问题是,引入更多技术来源,并不会自动消除工程整合的困难。不同架构需要不同的软件支持,新的制造方案也必须经过成本与可靠性验证。

如果最终无法在真实业务中形成稳定的性能或成本优势,技术路线再丰富,也难以转化为有效算力。

六、负责人离职之后,字节需要重新考虑什么?

施云峰的离职,无疑是这次事件中最受关注的变化之一。但目前公开信息并不足以证明,其离职与芯片性能不及预期存在直接因果关系,更不能由此推断字节准备终止芯片业务。

相较于个人去留,更值得观察的是字节下一阶段如何调整研发与业务之间的关系。

首先,自研芯片需要更加明确的应用边界。全面替代英伟达GPU并非短期内必须实现的目标,尤其是在模型架构持续变化的情况下。对于专用芯片而言,选择计算负载相对稳定、规模足够大、易于衡量成本收益的推理任务,可能比同时覆盖多个复杂场景更现实。

其次,研发成果需要通过完整的商业指标评估。单颗芯片的峰值算力并不能代表实际经济价值,企业还需要综合考察模型运行速度、单位Token成本、能耗、软硬件维护开销和集群稳定性。只有这些指标能够在真实环境下形成优势,业务部门才有足够理由主动迁移。

最后,组织协同的重要性可能不亚于继续增加研发人员。芯片团队需要持续获得真实业务反馈,模型团队也需要明确的软件支持与迁移保障。如果缺乏共同的目标和责任分工,增加硬件研发投入未必能够有效缩短落地周期。

从这个角度看,2026年2月芯片团队直接向杨震原汇报的调整,至少体现出字节试图让芯片研发与实际算力需求建立更紧密联系的组织安排。后续效果仍需通过部署规模和业务表现来验证。

七、七年没有规模化落地,不等于七年完全失败

对于字节这样的互联网巨头而言,自研芯片仍然是一项具有长期价值的技术投入。

一方面,AI推理需求正在持续扩大,企业有动力寻找成本更优的计算方案;另一方面,外部芯片供应、价格波动和技术迭代的不确定性,也使大型科技公司希望掌握更多基础设施选择权。

但自研的战略价值不能代替商业验证。

七年的研发积累可能为字节留下芯片设计、软件适配和系统工程方面的能力,然而这些能力能否转化为生产环境中的竞争优势,仍取决于后续产品的实际表现。不能因为一次流片性能不及预期就断言整个项目失败,同样也不能因为仍在开发下一代产品,就忽视长期未能规模化部署的现实。

未来真正值得关注的,已经不是字节何时宣布又一颗AI芯片完成流片,而是这些芯片何时能够进入豆包、Seedance或其他实际业务,稳定承担一部分计算负载,并在成本、性能或能耗方面提供经过验证的收益。

如果下一代产品能够在某个明确场景实现规模化使用,即使尚未具备全面替代GPU的能力,也足以构成一次有意义的突破。反之,如果研发持续推进,软件适配却始终无法完成,业务团队仍然缺乏使用动力,那么投入时间越长,项目所面临的经济性问题就越突出。

字节造芯片七年的经历,反映出AI时代一个容易被忽视的事实:大型科技公司可以凭借资本和人才进入芯片研发领域,却不能仅凭这两种资源,就自动建立成熟的计算生态。

芯片设计决定了硬件能力的起点,软件生态决定了能力能否被有效释放,而真实业务则决定了这项技术最终有没有商业价值。

对于字节而言,下一阶段最重要的任务或许不是证明自己也能够制造AI芯片,而是证明这些芯片值得被自己的业务使用。

这比流片成功更加困难,也更接近自研芯片真正的价值所在。