我们为什么仍然需要十万卡集群？——管窥“后DeepSeek时代”算力芯片市场的变与不变

【导语】DeepSeek-V3以2048张H800GPU的训练规模震撼智能算力市场，引发了关于算力集群Scaling Law（尺度规律）的广泛讨论。尽管这一消息对智算行业传统信念产生动摇，但业界对尺度规律的认可度依然坚挺。与此同时，DeepSeek的发布推动了推理算力市场的迅(xùn)猛(měng)增(zēng)长(zhǎng)，多(duō)家(jiā)国(guó)产(chǎn)算(suàn)力(lì)芯(xīn)片(piàn)公(gōng)司(sī)将(jiāng)业(yè)务(wu)发(fā)展(zhǎn)重(zhòng)点(diǎn)转(zhuǎn)向(xiàng)推(tuī)理(lǐ)领(lǐng)域。然(rán)而(ér)，未(wèi)来(lái)的(de)算(suàn)力(lì)集群(qún)部(bù)署(shǔ)将(jiāng)形(xíng)成(chéng)训(xun)练(liàn)与(yǔ)推(tuī)理(lǐ)的(de)双(shuāng)重(zhòng)路线(xiàn)竞(jìng)争(zhēng)，呈(chéng)现(xiàn)出(chū)“双(shuāng)轨(guǐ)并(bìng)行(xíng)”的(de)新(xīn)格(gé)局(jú)。一(yī)方(fāng)面(miàn)，头(tóu)部(bù)企(qǐ)业(yè)将(jiāng)继(jì)续(xù)加(jiā)码(mǎ)超(chāo)大(dà)规(guī)模(mó)集群(qún)，实(shí)现(xiàn)训(xun)练(liàn)性(xìng)能(néng)突(tū)破(pò)；另(lìng)一(yī)方(fāng)面(miàn)，地(de)方(fāng)和(hé)中(zhōng)小(xiǎo)企(qǐ)业(yè)则(zé)将(jiāng)着(zhe)眼(yǎn)算(suàn)法(fǎ)高(gāo)效(xiào)化(huà)与(yǔ)推(tuī)理(lǐ)优(yōu)化(huà)，以(yǐ)更(gèng)低(dī)成(chéng)本(běn)参(cān)与(yǔ)竞(jìng)争(zhēng)。

算(suàn)力(lì)集群(qún)Scaling Law（尺(chǐ)度(dù)规(guī)律(lǜ)）还(hái)奏(zòu)效(xiào)么(me)？万(wàn)卡(kǎ)级(jí)智(zhì)算(suàn)集群(qún)还是全球AI大模型竞争的“入场券”么？十万卡智算集群仍然是算力备战的目标么？

今年年初，DeepSeek-V3训练只使用了2048张H800GPU的消息传出，像一颗核弹，给长期信奉规模取胜的智能算力市场带来了不小的震憾。智算行业曾经坚信不移的Scaling Law——智算集群规模将沿着千卡、万卡、十万卡顺序部署的路线，也因此产生了动摇。但几个月过去，记者发现，DeepSeek的出现的确给算力芯片市场带来了不小的变化，但业界对尺度规律的认可度仍然坚挺。

推理算力市场迎猛增

毫(háo)无(wú)疑(yí)问(wèn)，DeepSeek给(gěi)推(tuī)理(lǐ)芯(xīn)片(piàn)和推理算力市场注入了一针强心剂。

某业内人士(shì)表(biǎo)示(shì)，2024年(nián)，多(duō)地(de)建(jiàn)设(shè)的(de)智(zhì)算(suàn)中(zhōng)心(xīn)普(pǔ)遍(biàn)存(cún)在(zài)空(kōng)置(zhì)的(de)现(xiàn)象(xiàng)。但(dàn)在(zài)DeepSeek发(fā)布(bù)后(hòu)，各(gè)地(de)算(suàn)力(lì)中(zhōng)心(xīn)资(zī)源(yuán)的(de)利(lì)用(yòng)率(lǜ)实(shí)现(xiàn)了(le)大(dà)幅(fú)提(tí)升(shēng)。

图(tú)片(piàn)来(lái)源(yuán)：2025 中(zhōng)国(guó)人(rén)工(gōng)智(zhì)能(néng)计(jì)算(suàn)力(lì)发(fā)展(zhǎn)评(píng)估(gū)报(bào)告

市场分析机构发布数据显示，中国人工智能服务器工作负载中，推理算力的占比将在未来几年大幅增长，预计到 2028 年中国推理算力的市场份额将从2024年的65%增长到73%。

浪潮高级副总裁刘军也表示 ：“在 DeepSeek 发布后，推理算力的需求量正在迅速超过训练算力，市场结构发生了根本性变化。”

感受到市场需求的牵引，多家国产算力芯片公司今年将业务发展重点放在了推理领域。例如，今年2月，燧原宣布其庆阳智算中心部署的万卡集群为美图AI推理业务提供算力；今年3月，沐曦科技宣布联合清华大学KVCache.AI团队加速DeepSeek满血版单卡C500异构推理等。

但截至目前，推理市场实际上并不存在对“真万卡集群”的刚需。根据阿里研究院副院长安筱鹏的理解，只有一万张AI加速卡部署在同一个数据中心，并且能通过大规模资源调度技术，让万卡作为“一台”计算机，支持单一模型在一万张卡上同时进行训练，才能被认为是“真万卡集群”。但推理任务更多是分布式实现的，其算力规模需求远低于万卡。[XZ1]

规模定律仍在训练领域奏效

“大模型本地部署有望成为国产算力芯片的重要增长拉动力。” 联通元景大模型负责人在接受《中国电子报》记者采访时如是说。

DeepSeek之所以能撬动巨大的推理算力市场，本质上得益于其底层基础模型V3的高质量训练。而强大的算力，是支撑该模型乃至后续其他模型迭代的基础。

联通云相关负责人介绍，大模型参数规模从千亿级迈向万亿级，训练数据量也呈指数级增长。大规模训练集群能够通过并行计算和分布式处理，显著缩短训练周期，为模型快速迭代提供基础设施支撑。但从当前的情况来看，万卡集群在训练效率上已经不足以支持大模型的迭代速度。而十万卡集群，能够通过更高并行度和分布式优化，在万卡集群基础上实现训练效率的再度提升。

但建设大规模训练集群，仍存在诸多待解的技术问题。多地域部署、多芯混训、集群稳(wěn)定(dìng)性(xìng)都(dōu)给(gěi)集群(qún)建(jiàn)设(shè)带(dài)来(lái)了(le)挑(tiāo)战(zhàn)。集群(qún)稳(wěn)定(dìng)性(xìng)要(yào)求(qiú)高(gāo)，快(kuài)速(sù)容(róng)错(cuò)和(hé)恢(huī)复(fù)是(shì)关键；能(néng)耗(hào)与(yǔ)散(sàn)热(rè)、数(shù)据(jù)管(guǎn)理(lǐ)和(hé)运(yùn)维(wéi)管(guǎn)理(lǐ)等(děng)问(wèn)题(tí)同(tóng)样(yàng)重(zhòng)要(yào)——集群(qún)每(měi)日(rì)能(néng)耗(hào)甚(shén)至(zhì)将(jiāng)高达300万千瓦时，与一个小型机械厂一年的用电量相当。

在中国联通相关业务人员看来，综合考虑企业需求、行业应用和区域分布，中国可能需要3—5个“真十万卡集群”，这些集群应具备高效能、低能耗、高稳定性的特点，并支持多任务并发和动态资源调度，以最大化算力利用率。

双重路线竞争

可以预见，未来的算力集群部署，将以训练与推理为界，形成巨大分野，呈现出“双轨并行”新格局：

一方面，头部企业持续加码超大规模集群，集中力量实现训练性能突破。

调度方面，百度、腾讯等企业开发了面向超大集群的自动切分、任务容错系统；能源管理上，液冷、浸没式等新型冷却技术成为数据中心标配，PUE（能源利用效率）持续优化；多芯融合层面，一些平台已实现“国产+进口”GPU、NPU、ASIC的调度统一，个别厂商甚至宣布支持六芯异构协同训练。

与此同时，“以训练反哺调度优化”成为技术演进的新方向。通过AI自身参与任务调度、负载均衡，集群可以实现自动化资源编排——这正是AI基础设施向“智能化操作系统”演进的表现。某种意义上，十万卡不再只是“计算力的集合”，而是“算力+AI控制力”的系统体。

“十万卡集群”的比拼，最终将落脚于如何将堆卡用好、用足、用出性价比。

另一方面，各地方、中小企业在智算赛道的着眼点将转向算法高效化与推理优化。越来越多企业开始选择用数百张卡构建私有化小型训练集群，结合开源模型做定制化(huà)微(wēi)调(diào)。通过模型蒸馏、芯片定制和边缘算力部署，在特定场景下以更低成本参与竞争，推动AI技术下沉至垂直领域。