威海铝皮保温施工队 国产大模子预检会“换芯” 英伟达的不可替代正在松动?

64     2026-07-14 12:12:31
铁皮保温

  尽管英伟达端AI芯片在国内市集的行情照旧紧俏,但原土大模子玩正在悄然进场“换芯”工程:将大模子预检会的算力底座威海铝皮保温施工队,从英伟达的GPU缓缓切换至国产AI芯片。

  7月6日,好意思团郑重开源其1.6万亿参数的用MoE(夹杂模子)架构大模子LongCat-2.0,该模子在5万余张国产算力芯片上耗时月余完成,成为业内个基于国产算力完成检会的万亿大规模参数的模子。另据南王人记者近日了解,使用摩尔线程2025年量产的S5000 GPU搭建的万卡集群,当今正为生意客户检会万亿参数模子。

  市集调研机构Omdia席分析师詹墨磊向南王人记者暗示,万卡集群检会大模子的案例,记号着国产AI芯片在检会侧完成了从“0到1”的跨越——万亿参数MoE模子全经由预检会在工程上已被证明可行。这冲突的内容不是芯片硬主义的赶,而是 “模子架构-工程兑现-芯片智商”三者数年来协同演化的系统遵循。

  地政府和通讯运营商也加入到这场“换芯”工程。7月9日,粤港澳大湾区个“国芯训国模”万卡智算集群在广东韶关数据中心集群发布,由电信负责运营。该集群总投资约55亿元,部署30个华为昇腾384节点,内置11520张昇腾910C芯片。官称其可承载万亿参数大模子全经由检会任务。

  7月9日,粤港澳大湾区个“国芯训国模”昇腾万卡智算集群上线发布行为在韶关粤港澳大湾区数据运用产业园举行。图:韶关发布

  诚然好多国产AI芯片厂商声称家具可用于大模子检会,此前的执走运用仍主要面向检会门径顶用极端据对模子微调或后检会,以及中小参数模子的预检会。大规模参数模子的预检会,相同被英伟达等厂商主,这域也成了国产AI芯片迈入自主可控尚待攻克的“水区”。

  算作较早拥抱华为昇腾等国产智算案的科技公司,科大讯飞摄取南王人记者采访时指出,英伟达的势不仅在于芯片自己,包括纯熟的软件生态、检会框架和用具链。而使用国产AI算力集群检会大模子,难点不单是算力够不够,还纯熟整套系统能不成长久、剖释、地复古检会。

  科大讯飞已使用国产AI芯片集群,检会了旗下多款星火系列模子。该公司暗示,从执行看,国产算力检会大模子并非不可行,但不成节略贯串为“堆卡”即可,而是需要模子厂商和芯片公司在模子结构、检会算法、算子化、集群调节和故障复原等面的协同配合。现时,国产算力大模子检会从“能训”走向“训好”,仍需要持续的工程化和生态完善。

  两种拥抱姿态:全盘重仓与星试水

  早在2023年,好意思团和科大讯飞便运转了对国产AI检会算力的尝试。

  这年起,好意思团与国产算力厂商共同进“模芯协同”研发,从早期的小规模考证,缓缓过渡到如今的大规模检会。

  这次发布的LongCat-2.0模子,其齐备检会经由一起使用AI ASIC芯片。不同于英伟达所使用的GPGPU(通用GPU)架构,ASIC架构的芯片是应特定用户要乞降特定电子系统的需要而联想、制造的种用集成电路,代表厂商包括华为昇腾、寒武纪、昆仑芯、燧原科技等。

  好意思团未明确检会算力的厂商身份,但其技能共享中阐述使用了华为聚拢通讯库(HCCL)来提检会剖释。HCCL是基于华为昇腾AI处理器的能聚拢通讯库,提供单机多卡以及多机多卡间的聚拢通讯智商。

  好意思团在篇博客著述中跨越先容,其检会所使用的AI芯片单卡存远小于英伟达H800芯片的80GB。而在昇腾的现行家具体系中,适宜该描写的仅有昇腾910B芯片,其存容量为64GB,下代的910C存为128GB。

  科大讯飞涉足国产AI算力,亦从昇腾910B芯片起步。2023年10月,科大讯飞使用这款芯片,上线了国内个万卡国产智算平台“飞星号”。科大讯飞曾先容,该算力集群的大模子检会任务能,达到同规模英伟达A800集群的90以上。为引申算力规模,2025年9月,科大讯飞晓示拟将定向增发募资中的24亿元,用于租出国产算力。

  “若是中枢检会、理和迭代智商长久依赖单旅途,产业发展会受到外部算力供给、成本波动和生态放胆的影响。”科大讯飞称威海铝皮保温施工队,这是其弃取走自主可控国产化道路的主要考量。

  依托国产算力集群,科大讯飞先后发布了多款旗舰星火大模子。本年4月,该公司出300亿总参数的MOE模子星火X2-Flash,擢升智能体、代码等智商,该模子由昇腾910B集群检会完成。

  科大讯飞向记者深远,其国产化教会也在向多国产AI芯片迁徙。除昇腾平台外,科大讯飞已得手适配并化寒武纪MLU590、中科海光“算三号”BW1000等国产AI芯片上的大模子检会率。

  与好意思团、科大讯飞重仓国产智算生态比较,国内其他头部科技大厂和大模子企业的“换芯”节拍较为严慎,多发扬为在公司非旗舰大模子版块上进行星试水。

  百度于5月13日先容,公司使用控股子公司昆仑芯的算力集群,完成对文心5.1迫切版块的检会,但未具体指出该版块的型号、参数规模等信息。此前2025年11月,百度智能云AI推断席科学雁鹏在场论坛上深远,包括生成模子“百度蒸汽机”在内的三款多模态模子,是在5000卡或6000卡的昆仑芯集群上完成检会。

  暂未研发出自研芯片的智谱,则弃取与华为昇腾结合考证模子预检会的可行。本年1月,智谱发布图像生成模子GLM-Image。从早期的数据预处理到终的大规模预检会,该模子构建的全经由均在昇腾Atlas 800T A2检会奇迹器上完成。该奇迹器开导搭载昇腾910B芯片。

  “换芯”的瓶颈与代价

  揣度款AI芯片能否胜任大模子预检会,算力是要门槛。即就是华为昇腾新款的950DT芯片,其FP8(8位浮点数样貌)下的算力为1034 TFLOPS(约1 PFLOPS,即每秒1千万亿次浮点运算)。算作对比,英伟达H100芯片在疏通精度下的算力为1979 TFLOPS。

  为弥补单卡算力的不及,国内芯片厂商纷繁出节点案,通过速互连技能,将成百上千张AI芯片耦合为个推断节点。华为在2025年商用的384节点(包含384张910C芯片),以及行将上市的950节点(多支柱8192张950DT芯片),代表了国产芯片公司在该域的前沿落地。

  华为昇腾950节点真机将在2026天下东说念主工智能大会时间展出。

  推断能差距除外,“换芯”预检会还濒临芯片存容量和带宽的制约。科大讯飞告诉记者,存不及会放胆模子规模和凹凸文长度,带宽不及则形成数据传输瓶颈。

  2026年之前上市出货的主流国产AI芯片,多数家具的存容量仅为96GB,有的唯有64GB。比较之下,能否进入市集仍未灵活的英伟达H200芯片,搭载141GB存的HBM3e(五代带宽内存),存带宽达4.8TB/s。好意思团在篇对于LongCat-2.0模子的博客中写说念,由于所用的AI芯片存著小于H800的80GB,存成为大规模检会的主要瓶颈,于是检会过程中必须聘请些存化战术。

  不外,大容量存已基本成为各芯片公司新代家具的标配。例如,铝皮保温昇腾950DT芯片提供144GB存容量与4TB/s的带宽,《昇腾950 NPU架构白皮书》中将其描写为“为大模子全生命周期造”,隐蔽预检会、后检会及理。此外,阿里平头哥在5月发布的真武M890,以及沐曦本年的主力家具曦云C600,均配备了144GB存。

  但是,在大规模的智算集群上检会大模子,只是有推断智商和大存并不及够。科大讯飞指出,大模子检会对芯片、奇迹器、网罗、通讯、算子、检会框架、集群调节、故障复原王人有很条款。尤其在万卡集群上,任何个门径率不够或剖释不及,王人会影响举座检会果。

  科大讯飞跨越强调,模子规模越大,对智算集群的条款也越。除了的存和带宽,还需强的并行检会智商,兑现检会框架、算子和集群通讯的度协同。尤其在MoE、长凹凸文、智能体强化学习等场景下,跨卡、跨节点通讯时常,通讯率不及将形成大量的算力恭候。此外,模子越大、检会周期越长,半途故障概率越,算力集群必须具备快速故障定位、断点续训(从检会任务中断处不时检会)和故障节点复原智商。

  雁鹏此前暗示,硬件剖释问题不可避,因为晶体管的集成度、功耗,随之带来故障率的攀升。即就是英伟达的GPU,也存在故障的可能。由于国产芯片的质料限制智商尚法与英伟达匹敌,故障率在国产AI芯片上被放大。

  这些瓶颈终可能挪动为生意层面的代价,获胜的体现是拖慢模子发布的程度。科大讯飞董事长刘庆峰在2025年摄取南王人等媒体采访时曾深远,为了在国产算力平台上检会度理模子讯飞星火X1,公司不得不破耗额外两个月时辰来开展适配责任。他说,国产AI芯片的使用成本,检会所亏空的时辰也长。

  面对国产AI算力生态的瓶颈,尽管已有大模子公司基于国产芯片完成大规模参数模子的预检会,但詹墨磊觉得,当今大模子预检会尚不具备“去英伟达化”的本钱。国产案的得手,度依赖对MoE架构的主动适配和大量定制工程参预,并非对现存英伟达CUDA(并行推断平台)生态的缝相连。

  “国芯国模”抱团解围成行业基调

  国产模子公司与芯片厂商在昔时数月间互动时常,果然成为常态。每逢款头部模子“上新”,主流AI芯片公司在时辰晓示适配,兑现对模子的兼容和支柱平素理运行。

  信息通讯操办院院长魏亮对此觉得,这反馈出前沿模子的立异冲突与基础软硬件间的强耦合依赖探求发明,协同加雅致。模子与硬件自出生之初便“双向奔赴”,使国产软硬件和前沿模子的探求从此前的被迫适配,逐步走向主动协同、同步进化以及模子发布当日的“Day0原生适配”。

  不外,现阶段的“国芯国模”抱团适配,很大程度上局限于理门径,贬责的是模子部署运行问题,而在预检会阶段的协同遵循相对有限。

  科大讯飞在4月公布的2025年年报中暗示,诚然已有多厂商在国产算力上完成大模子适配,但执行上,在国产算力上作念理和作念检会在不同脉络的技能难度:将检会好的模子部署在国产芯片上运行理,技能上已比较纯熟;但要在国产算力上完成大模子检会,尤其是智能体任务所依赖的模子结构、长凹凸文、智能体强化学习等前沿技能的检会,工程兑现濒临很大挑战。

  预检会层面的“模芯协同”,“不单是节略适配硬件。”科大讯飞对记者例如说,在模子结构协同层面,需字据芯片架构特色,联想适配的模子结构,例如MoE架构、Attention防范力机制、长凹凸文检会式等;在算子协同层面,需围绕些要津门径进行化,擢升推断和访存率;而在通讯机制协同上,则需针对大规模集群通讯瓶颈,化通讯与推断重复,减少因通讯恭候而形成的能损耗。

  这种度协同的必要,也使得科大讯飞将芯片厂商是否慷慨与模子团队共同化模子结构、算子、散播式检会战术(使用多台机器共同完成检会任务)和工程系统,列为弃取某款国产AI芯片或算力平台的迫切考量身分之。

  “模芯协同”催生了模子公司和芯片公司的雅致互动。多年以来,科大讯飞和华为昇腾之间度绑定。科大讯飞在其2025年年报中败露,已与华为开展度结合,在新款的昇腾950平台上结合攻坚模子结构、夹杂Attention防范力机制、智能体强化学习等要津技能。公司打算于2026年10月,在昇腾950平台上发布对标业界主流模子的旗舰大模子。

  燧原科技亦在IPO招股材料中败露,基于四代训体家具L600,其已与客户结合完成了多个千问系列模子、中小参数腾讯混元模子等的预检会责任,并正在进基于大参数系列模子的预检会责任。

  “国内大模子的发展,某种好奇上牵动着国内芯片的联想发展。”2025年7月场触及“国芯国模”话题的论坛上,壁仞科技独创东说念主、董事长兼CEO张文提到,芯片从联想到量产上市的周期较长,是以定要有前瞻,智力把芯片联想好。这种前瞻建树在对大模子公司需求的把捏之上。

  在科大讯飞看来,大模子检会会把芯片和系统的委果问题深远出来,因此能反向动AI芯片和软件生态升。

  具体而言,长凹凸文智商、智能体、全模态模子等新趋势,对存、带宽、通讯和访存率提倡条款,不错反向动芯片在存储、带宽、互联和调节面迭代;大模子检会中时常使用到些要津算子,能匡助芯片厂商发现算子能不及等问题;检会过程中深远的问题,还会动芯片厂商的编译器、通讯库、调试用具、能分析用具等软件栈和用具链的不停纯熟;而在万卡模子检会场景下,软硬件故障和节点致问题被放大,从而倒逼芯片厂商集群管制、故障复原和剖释智商的开导。

  “大模子公司与芯片公司的协同,不单是模子适配芯片,亦然模子需求反哺芯片演进。”科大讯飞暗示。地址:大城县广安工业区相关词条:不锈钢保温施工     塑料管材生产线     钢绞线厂家    玻璃棉板    泡沫板橡塑板专用胶

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》,以此来变相勒索商家索要赔偿的违法恶意行为。