大模型时代,边缘AI芯片技术架构将如何演进?
【导语】随着深度学习技术的蓬勃发展,大模型已成为推动人工智能迈向新高度的关键力量。在2025年春节期间,以DeepSeek为代表的大模型技术开源化,更是为边缘AI芯片领域带来了(le)颠(diān)覆(fù)性变革。本文将深入探讨边缘AI芯片在大模型技术驱动下的产业升级,分析当前芯片架构的多元化趋势及企业创新实践,展望未来的竞争关键与市场机遇。同时,视觉物联联合AIoT星图研究院即将发布的《2025边缘计算市场调研报告》也将为行业提供深度洞察与结构化参考。
如果说深度学习是培育智能的土壤,那么大模型就是这片土壤中生长出的参天大树。
依托深度学习的算法根基,大模型通过海量数据灌溉和算力滋养,将特征提取、模式识别等能力推向新维度,让人工智能从“感知”迈向“认知”新跨越。
随着AI大模型不断迭代升级,特别是在2025年春节期间以DeepSeek为代表的大模型技术开源化,不仅大幅拓展了人工智能的应用边界,也为边缘、端侧AI应用发展带来颠覆性变革。
除市场应用带来变革之外,大模型也将对边缘计算AI芯片的技术架构、应用场景和产业生态等方面进行重构。
那么,我们今天就来聊聊,边缘AI芯片在大模型技术驱动下将如何进行产业升级。
视觉物联了解到,目前边缘AI芯片架构呈现多元化趋势,企业根据能效、算力、灵活性需求选择不同方案,主要有GPU、NPU、ASIC、FPGA、RISC-V和存算一体等。
其中,NPU因高能效占据主流,代表企业包括高通、瑞芯微、全志科技、恒玄科技、国科微和爱芯元智等。但因大模型运算使得边缘推理算力需求指数级攀升,传统单核NPU架构已无法满足需求,企业开始纷纷创新升级。
例如,为解决传统NPU芯片大模型推理效率不足问题,国科微创新提出MLPU芯片概念(面向多模态大模型的新型AI芯片架构),既能高效支持大模型推理计算,同时兼容传统小模型的高效推理。
据了解,国科微基于MLPU创(chuàng)新(xīn)架构设计的AI SoC产品,预计将于2026年开始逐步量产上市。该架构具有高能效、低功耗、高性价比的特点;相比于市面已有的NPU芯片,能够更高效地支持大模型的端侧部署和推理应用,从而保证模型推理效率和应用效果。
同时,基于MLPU的创新架构设计,国科微积极布局AI生态建设。其围绕大模型及其大模型产品,深度优化适配,提供从模型压缩转化、推理部署、应用开发端到端全栈大模型工具链,方便开发者和客户能够简单高效地完成模型部署和应用开发。
而瑞芯微则通过Chiplet异构集成的方式,为满足不同市场、产品应用对性能和算力的差异化需求,其在自研NPU中内置不同性能层次的CPU、GPU内核,从而帮助客户有效缩短产品研发周期,节省研发投入。
面向AI大模型部署、大数据实时处理等场景带来的复合算力需求,多核化、专用化、低功耗的多核异构SoC也成为多模态复杂场景下的高效处理方案。
其中,全志科技通过集成CPU、GPU、NPU、DSP等不同架构的处理核心,可以在适应不同场景功能需求的同时,提升整体计算能力,结合软件系统带来的异构基础功能拓展衍生,构建起"分工协作"的高效计算体系,以支持更多样化的应用。
目前,全志科技的多核异构方案已经在大量产品场景中实际应用。例(lì)如(rú),在(zài)消(xiāo)费(fèi)电(diàn)子(zi)产(chǎn)品(pǐn)中(zhōng),通(tōng)过(guò)协(xié)处(chù)理(lǐ)器(qì)在(zài)主核(hé)上(shàng)电(diàn)前(qián)预(yù)加(jiā)载(zài)引(yǐn)导(dǎo)程(chéng)序(xù),异(yì)步(bù)解(jiě)压(yā)系(xì)统(tǒng)镜(jìng)像(xiàng),同(tóng)时(shí)延(yán)迟(chí)加(jiā)载(zài)驱(qū)动(dòng)至(zhì)CPU启(qǐ)动(dòng)后(hòu)执(zhí)行(xíng),使(shǐ)开(kāi)机(jī)动(dòng)时(shí)间(jiān)相(xiāng)较(jiào)传(chuán)统(tǒng)方(fāng)案(àn)显(xiǎn)著(zhe)提(tí)升(shēng),搭(dā)配(pèi)低(dī)功(gōng)耗(hào)控(kòng)制(zhì)、AI ISP视(shì)觉(jué)引(yǐn)擎(qíng),可(kě)将(jiāng)快(kuài)启(qǐ)差(chà)异(yì)化(huà)类(lèi)法(fǎ)案(àn)部(bù)署(shǔ)在(zài)低(dī)功(gōng)耗(hào)IPC、智(zhì)能(néng)门(mén)铃(líng)等(děng)产(chǎn)品(pǐn)中(zhōng)。
小(xiǎo)结(jié)
大(dà)模(mó)型(xíng)时(shí)代(dài)正(zhèng)推(tuī)动(dòng)边(biān)缘(yuán)AI芯(xīn)片(piàn)架(jià)构(gòu)从(cóng)“专(zhuān)用(yòng)加(jiā)速(sù)”向(xiàng)“智(zhì)能(néng)原(yuán)生(shēng)”演(yǎn)进(jìn),企(qǐ)业(yè)需(xū)在(zài)架(jià)构(gòu)创(chuàng)新(xīn)、生(shēng)态(tài)构(gòu)建(jiàn)和(hé)场(chǎng)景(jǐng)深(shēn)耕(gēng)三(sān)方面同步发力,推动边缘AI在(zài)消(xiāo)费(fèi)电(diàn)子(zi)、智(zhì)能(néng)汽(qì)车(chē)和(hé)工(gōng)业(yè)物(wù)联(lián)网(wǎng)等(děng)领(lǐng)域的(de)规(guī)模(mó)化(huà)落(luò)地(de)。未(wèi)来(lái),能(néng)效(xiào)比(bǐ)优(yōu)化(huà)、大(dà)模(mó)型(xíng)端(duān)侧(cè)部(bù)署(shǔ)能(néng)力(lì)及(jí)生(shēng)态(tài)兼(jiān)容(róng)性(xìng)将(jiāng)成(chéng)为(wèi)竞(jìng)争(zhēng)关键。
近(jìn)日(rì),视(shì)觉(jué)物(wù)联(lián)联(lián)合(hé)AIoT星(xīng)图(tú)研(yán)究(jiū)院(yuàn)即(jí)将(jiāng)启(qǐ)动(dòng)《2025边(biān)缘(yuán)计(jì)算(suàn)市(shì)场(chǎng)调(diào)研(yán)报(bào)告(gào)》,将(jiāng)从(cóng)技(jì)术(shù)发(fā)展(zhǎn)与(yǔ)落(luò)地(de)应(yīng)用(yòng)等(děng)方(fāng)面展开深度调研,揭示行业基本面,洞察竞争格局,为企业战略制定、投资决策、市场拓展等提供结构化的参考依据,欢迎边缘计算产业朋友一起参与到报告调研中。
