基于昇腾超节点训练的星辰轻量级代码智能体大模型Xing4.0-29B发布

2026-09-19 19:09:31 来源: 华为官微

  9月17日,中电信人工智能科技有限公司正式发布新一代星辰大模型Xing4.0-29B-A4B。作为面向智能体时代打造的轻量级代码智能体大模型,该模型聚焦复杂任务理解、任务规划、工具调用和自主执行等能力,支持长上下文处理,可广泛应用于代码开发、数据分析、办公自动化及生活服务等场景。

   Xing4.0-29B-A4B总参数29B,激活参数仅4B,是国内首个基于昇腾Atlas900A3SuperPoD液冷超节点与昇思MindSpore框架完成训练的百亿参数大模型,面向复杂工程任务进行了深度优化。模型采用新一代架构设计,进一步提升长程任务处理和多步骤执行能力,能够根据用户提出的目标自主规划任务路径、调用工具并完成复杂任务。

   Xing4.0-29B-A4B:从“写片段”到“干工程”

   Xing4.0-29B-A4B围绕智能Agent执行与代码生成两大核心能力完成深度专项优化,面向复杂工程任务场景实现能力跃升。针对主流Agent与代码框架进行定向适配调优,深度对齐各框架格式规范,开发者无需繁琐的集成改造,即可将其无缝接入现有开发工作流,大幅降低框架适配成本。

  实际应用中,该模型在代码开发、数据分析、智能评标、智能终端多意图交互、客服智能体等多个核心场景中,对于长程任务,不只是“能看懂”,而是“能办完”。基于精心设计的29B参数量级,在保证专业精度的同时,推理速度显著优于千亿级大模型,并支持轻量级私有化部署,满足企业对数据安全与合规管控的要求。

  开源地址:

  •    GitHub:https://github.com/XingChen-AGI/Xing4.0-29B-A4B

  •    HuggingFace:https://huggingface.co/XingChen-AGI/Xing4.0-29B-A4B

  •   魔搭:https://modelscope.cn/models/XingChen-AGI/Xing4.0-29B-A4B

  •    Gitee:https://gitee.com/xingchen-agi/xing4.0-29b-a4b

  •   魔乐:https://modelers.cn/models/XingChen-AGI/Xing4.0-29B-A4B

  协同攻坚:从数据到强化学习的四重攻坚

  模型的中高阶代码生成与智能体执行,是对长程上下文理解、复杂推理规划、工具调用协同的综合考验。华为团队与中电信团队紧密协同,从数据体系、模型架构、训练工程到强化学习,进行了系统性攻坚。

  数据基座:围绕预训练与后训练全生命周期,建设涵盖数十万亿词元的数据体系。预训练阶段完成PB级多源异构数据清洗,引入海量智能体行为轨迹与结构化知识图谱。后训练阶段搭建高并发沙箱容器,构建端到端长程任务合成数据,并建立自动化校验机制保障数据正确性。

  架构设计:专为长程Agent任务设计,MLA多头潜变量注意力压缩KV缓存;MT多Token预测增强生成连贯性;mHC流形约束超连接解决训练数值不稳定的问题;Muon与QK-Clip优化器保障训练稳定。训练采用分阶段递进策略,从4K逐步扩展至32K/128K/256K序列长度,系统性构建长程能力。

  工程优化:Xing4.0-29B-A4B在昇腾超节点集群上通过多层次软硬件协同优化实现训练性能提升96%,近翻倍突破:基于MindSpore全栈适配mHC多残差连接与DSA长序列机制,针对细粒度MoE(64路由/Top4激活),通过专家负载均衡、Grouped GEMM、通信计算重叠及DVM图算融合,吞吐提升32%;层级与算子级选择性重计算再提升19%;自研Ascend C mHC融合算子解决Sinkhorn碎片化,计算效率提升30%,整网吞吐再提升25%。

  多专家强化学习:基于昇腾生态完成Slime强化学习框架适配,面向Agent、Coding、Reasoning开展多专家强化学习训练,通过MOPD技术实现多专家能力高效融合,进一步提升复杂推理与智能体任务表现。

  目前,昇腾已支持40+个业界头部模型完成原生训练,也是国内唯一支持商用大规模预训练,并训练落地SOTA大模型的厂商。未来,昇腾将持续完善软硬件生态与工具链易用性,深度协同客户实现从大模型训练到推理部署落地全流程自主创新,共建繁荣AI生态。

关注同花顺财经(ths518),获取更多机会

0

+1

回复 0 条,有 0 人参与

禁止发表不文明、攻击性、及法律禁止言语

请发表您的意见(游客无法发送评论,请 登录 or 注册 网站)

评 论

还可以输入 140 个字符

热门评论网友评论只代表同花顺网友的个人观点,不代表同花顺金融服务网观点。

最新评论

查看更多评论
  • 北信源
  • 兆易创新
  • 科森科技
  • 卓翼科技
  • 天融信
  • 吉视传媒
  • 御银股份
  • 中油资本
  • 代码|股票名称 最新 涨跌幅