如今AI行业加速增长，AI产业的发展重心，正从“模型训练”逐渐转向“推理应用”。在推理阶段，单个 推理集群对加速计算芯片的需求低于训练集群，但推理集群的部署数量要远多于训练集群，推理集群的 数量预计会达到百万级别。随着AI推理集群规模不断扩大，成本与性能平衡成为CSP的核心关注点。 在此背景下，ASIC芯片凭借其在特定推理任务上的高能效比与低延迟优势，能够针对特定算法、应用 场景与业务需求进行深度定制化设计，成为通用GPU外的重要补充力量。 围绕ASIC行业，下面我们从其与GPU比较优势入手了解大厂布局ASIC的必然性，了解其发展路径、 市场空间、竞争格局、核心受益环节，并将其龙头发展经验进行复盘，对国内相关公司进行梳理，希望 帮助大家更多了解ASIC行业发展情况。
一、ASIC概述
1.推理场景通用GPU局限
通用GPU的核心优势在于高效的张量计算。但随着模型参数量突破千亿/万亿级别，且文本生成、代 码补全、图像理解等任务对延迟和吞吐量要求多样化，单纯GPU堆叠难以满足复杂的推理需求。在实 际推理任务中，通用GPU较易面临计算资源利用率、内存墙、能效比问题，使得其算力利用率、内存 带宽利用率偏低。
以英伟达H100为例：其FP16算力高达1979TFLOPS，但显存带宽3.35TB/s是制约其推理性能的瓶 颈。当模型参数量超千亿级别时，频繁的权重加载与数据交换会进一步加剧带宽压力，导致GPU实际 算力利用率低于40%。
2.大厂普遍探索AI ASIC方案
相比通用GPU，AI ASIC凭借其定制化架构、高计算密度和低功耗特性，通常能实现更高的能效比与更 优的性价比。为实现优于通用GPU的能效及更低延时，全球互联网巨头/头部消费科技公司/模型厂商 积极布局AI ASIC方案；例如谷歌的TPU、亚马逊的Trainium及Groq的LPU（整合进英伟达LPX 系统）等。
ASIC不会完全替代GPU，二者将长期并存、分工协同。最前沿的大模型训练、复杂模型探索以及新 型架构验证，对灵活性和软件生态依赖仍然很高，GPU依旧是不可替代的核心平台；推理侧、特定垂类 场景和大规模稳定负载，则更适合导入专用化 ASIC。与此同时，GPU 本身也在持续向专用化方向演进， 例如Transformer Engine等针对AI负载的优化不断加强；ASIC则通过编译器、运行时和集群能力的 完善，逐步增强可编程性和适配性。未来算力体系的演进方向，并非GPU与ASIC的简单替代关系，而 是通用算力与专用算力在不同场景中的再分工。
3.中国市场方面，国产AI ASIC份额突破
2025年中国市场AI芯片出货量约400万片，其中：英伟达占比55.22%；国产AI芯片占比首次突破 40%，出货量共计165万片，华为昇腾、阿里平头哥、寒武纪、百度昆仑芯份额领先，且均为定制化AI ASIC架构；同时2025年中国AI服务器47.3万台出货量中，GPU架构占比65%，非GPU架构占比已 达35%。
4.ASIC 相关布局
自2023年来，博通、Marvell凭借为谷歌、微软、Meta、亚马逊及OpenAI等科技巨头提供AI ASIC 定制解决方案，实现了收入的显著增长。博通2025财年AI业务收入达200亿美元，同比增长65%； Marvell 定制化AIXPU业务2026财年已带来15亿美元收入，预计至2028财年翻倍。
与此同时，国内阿里巴巴、百度、腾讯、字节跳动等头部云厂商在持续加大AI资本开支的背景下，也 积极布局自研AI ASIC芯片，以优化算力成本与能效。AI ASIC的部署正快速从云端向边缘环境延伸，预计到2028年用于边缘推理与微调的智能计算芯片 规模将超越云端。这得益于多类终端市场快速扩容，例如2026年全球AI眼镜出货量预计突破1500万 副，支持离线AI的玩具也将在2027年量产等。多样化的边缘场景对芯片提出了高能效、低延迟与小尺 寸的特定要求，AI ASIC凭借其定制化架构优势明显。
二、ASIC发展路径
1.ASIC 的主战场仍在云侧，中短期最核心的落点是推理场景
云端平台需支撑大模型训练与规模化推理的长期高负载运行，电力、散热、运维及资本开支对基础设施 经济性的影响，远高于端侧场景。与此同时，随着AI产业重心逐渐过渡到推理，CSP对于单位Token 成本、能效比和供应链可控性的要求持续提升，自研ASIC正成为头部云厂商提升基础设施效率的重要 抓手。根据TrendForce预测，2026年ASIC型AI服务器占全球AI服务器出货比重将进一步提升，且 出货增速显著快于GPU型AI服务器，云端仍是ASIC最核心的落地方向。
2.头部CSP通常遵循“先GPU，后ASIC”的导入路径
在大模型发展早期，模型结构、训练框架与下游应用需求仍处于快速迭代期，GPU凭借成熟的软件生态 和较强的泛化能力，更适合用来完成技术验证；随着模型架构、推理流量和应用形态逐渐稳定，基础设 施建设的核心目标便转向持续降本增效，ASIC的导入条件也随之成熟。云端ASIC的竞争不只是单颗芯 片性能的竞争，而是覆盖模型、芯片、软件栈、编译器、运行时与集群系统的全栈协同能力竞争，也只 有开发工具、框架适配和系统调度同步成熟，ASIC的理论性能和成本优势才能真正转化为生产力。
3.Google 和 AWS的自研芯片路径已经较为清晰
Google 选择了“先内后外”的路线，即先在内部部署TPU，经过多年闭环验证后，再逐步将CloudTPU 开放为对外输出的云服务产品，当前TPU已成为支撑谷歌Gemini大模型以及Search、Photos、Maps等AI应用的重要基础；AWS则选择了“先通用后专用”的路线，早期先以基于英伟达GPU的通用算力实 例承接训练需求，待市场与业务场景逐步成熟后，再陆续推出面向推理的Inferentia和面向生成式AI 的Trainium系列产品。
4.端侧同样正在受益于ASIC化趋势
端侧AI并非追求极限峰值性能，而是注重低延迟、使用成本和隐私保护之间的平衡，因此端侧ASIC 的架构设计包括三大方向：一是要适配端侧实时交互的刚需，通过专用化设计消除网络传输带来的延迟， 保障响应能力；二是要实现最优能效比，当前生成式AI单次搜索查询的成本是传统搜索方法的10倍，端侧本地推理可大幅降低对云端算力的依赖，节省大量长期运营成本；三是要支撑本地数据全闭环处理， 数据直接在终端完成全流程运算，既能确保用户个人信息安全，也能提供更具个性化的服务体验。 GoogleCoral 官方给出的EdgeTPU参数是上面要求的典型体现：单颗EdgeTPU可实现4TOPS，能效 约为2TOPS/W，目标场景就是超低功耗、常驻式、低时延的边缘推理任务。对手机、PC、边缘盒子、 车载和机器人而言，这种围绕本地推理特征定制的专用化架构显然更具现实意义。
三、ASIC市场空间
1.推理集群与成本性价比双轮驱动，AI ASIC增长速度为GPU两倍返回搜狐，查看更多