英特尔公司副总裁、英特尔中国研究院院长宋继强：异构AI基础设施是未来发展趋势

【导语】11月23日，第二十二届中国国际半导体博览会开幕，英特尔中国研究院院长宋继强在同期大会上称，AI计算重心转向推理应用，未来80%的AI计算用于此，智能体AI算力需求将大增，异构AI基础设施是趋势，还介绍了英特尔在制程、封装技术等方面的实践创新及对未来定制芯片的设想。

11月23日，第二十二届中国国际半导体博览会（IC China 2025）在北京国家会议中心开幕。在同期举行的第七届全球IC企业家大会上，英特尔公司副总裁、英特尔中国研究院院长宋继强发表演讲。他表示，当前，AI计算的重心已从通用基座大模型扩展至推理应用。未来，80%的AI计算将用于推理领域。异构的AI基础设施是未来发展的趋势。

宋继强表示，智能体AI是推理领域真正产生客户价值的部分，其算力需求将从2025年起逐步上升，并超越用于训练基座大模型与微调大模型的规模，今年，其规模(mó)已(yǐ)有(yǒu)140倍(bèi)的(de)增(zēng)长(zhǎng)，达(dá)到(dào)每(měi)月(yuè)1400万(wàn)亿(yì)Token的(de)使(shǐ)用(yòng)量(liàng)。为(wèi)应(yīng)对(duì)智(zhì)能(néng)体(tǐ)AI的(de)高(gāo)速(sù)增(zēng)长(zhǎng)需(xū)求(qiú)，算(suàn)力(lì)支(zhī)持(chí)是(shì)首(shǒu)要(yào)的(de)，算(suàn)力(lì)基(jī)础(chǔ)设(shè)施(shī)的(de)带(dài)宽(kuān)、存(cún)储(chǔ)等(děng)都(dōu)要(yào)跟(gēn)上(shàng)。Token服(fú)务(wu)供(gōng)应(yīng)商(shāng)，如(rú)云(yún)服(fú)务(wu)和(hé)数(shù)据(jù)中(zhōng)心(xīn)供(gōng)应(yīng)商(shāng)也(yě)需(xū)对(duì)构(gòu)造(zào)成(chéng)本(běn)结(jié)构(gòu)的(de)方(fāng)式(shì)进(jìn)行(xíng)系(xì)统(tǒng)级(jí)的(de)优(yōu)化(huà)。

宋(sòng)继(jì)强(qiáng)指(zhǐ)出(chū)，早(zǎo)期(qī)的(de)智(zhì)能(néng)体(tǐ)AI在(zài)中(zhōng)间(jiān)层(céng)专(zhuān)门(mén)对(duì)应(yīng)某(mǒu)一(yī)种(zhǒng)语(yǔ)言(yán)模(mó)型(xíng)，在(zài)底(dǐ)层(céng)则(zé)与(yǔ)具(jù)体(tǐ)的(de)硬(yìng)件(jiàn)和(hé)软(ruǎn)件(jiàn)组(zǔ)合相对应，是在某种专门的应用架构上调优出来的，扩展比较受限。新出现的思维链技术得以支撑更广泛、更高级别的能力，但也需要更多的执行步骤、更多不同的模型，运用思维链方式完成一个问题使用的Token数比之前多10倍。而智能体内部不止一个思维链，对Token的使用量与调用复杂度将增长百倍以上。

因此，宋继强强调，异构的AI基础设施一定是未来发展的趋势，既能提高当前应用的性能、效率和成本效益，也能够保持对于未来智能体AI应用的长期有效性。

他表示，这样的计算架构需要至少三个维度的技术支撑。

第一，在硬件层，为避免(miǎn)受(shòu)限(xiàn)于(yú)特(tè)定(dìng)架(jià)构(gòu)或(huò)供(gōng)应(yīng)商(shāng)，必(bì)须(xū)构(gòu)建(jiàn)异(yì)构(gòu)的(de)硬(yìng)件(jiàn)架(jià)构(gòu)基(jī)础(chǔ)。这(zhè)也(yě)是(shì)目(mù)前(qián)算(suàn)力(lì)中(zhōng)心(xīn)与(yǔ)公(gōng)有(yǒu)云(yún)服(fú)务(wu)建(jiàn)设(shè)中(zhōng)常(cháng)常(cháng)讨(tǎo)论(lùn)并(bìng)采纳(nà)的(de)方(fāng)式(shì)。

第(dì)二(èr)，在(zài)中(zhōng)间(jiān)的系统级，越来越多的推理应用存在于某一个企业的工作范围内，所以一定要对企业应用开发、服务器部署友好。要针对企业所需要、所能够支持的尺寸交付算力，对于互联互通也需要采用开放的、基于以太网方式的能力规模扩展方案。

第三，是更开放的软件栈和软件框架，需要具备可编程性、可调配组合，能支持多种AI框架。

宋继强进一步分享了英特尔的一系列实践与创新案例。例如，制程技术方面，要提供更高能效比、更高性能、生产制造更灵活的方案。今年10月，英特尔公布了其最新的制程节点Intel 18A的技术细节，同时使用了RibbonFET全环绕栅极晶体管和背面供电技术PowerVia，可以提供更高晶体管密度、提升每瓦性能、降低功耗，为英特尔未来至少三代客户端与服务器产品提供支撑。

封装技术方面，宋继强表示，英特尔持续演进先进技术：从传统的二维封装到2.5D的EMIB嵌入式多芯片互联桥接方案、Foveros 2.5D和3D技术，再到Foveros Direct 3D，在先进封装技术的加持下，芯片Bump间距已经降到了10微米以下。

宋继强还分享了英特尔对未来定制芯片的设想，他指出，未来的定制芯片内部既可以有英特尔的主计算单元，也可以有客户的计算单元，并能够通过3D技术将两者封装在一起。在灵活构造的基础上，加上EMIB 2.5D、TSV等技术加持，将大大地提升芯片尺寸，目前最大能实现相当于十几个光罩尺寸大芯片规模，这将给可定制的未来处理器或AI加速器新的机会。他表示，针对未来多元的应用需求，希望有更多能效比优先，具备定制化特点的芯片方案。