近日，蚂蚁集团的Ling团队在技术领域发布了重磅消息，推出了两款不同规模的混合专家（MoE）大语言模型：百灵轻量版（Ling-Lite）和百灵增强版（Ling-Plus）。前者的参数规模为168亿，并具有27.5亿的激活参数，而增强版的基座模型则达到惊人的2900亿参数，激活参数也有288亿。这两款模型的性能均在行业内名列前茅，展示出了蚂蚁集团在AI领域的强大实力。

　　更为重要的是，这份技术论文提出了一系列创新方法，显著提高了在资源受限环境中进行AI开发的效率和可达性。实验结果表明，蚂蚁集团的3000亿参数MoE大模型可以在低性能的国产GPU设备上完成高效训练，其性能与使用高性能英伟达芯片进行的同规模稠密模型和MoE模型相当，这无疑为国产芯片的发展注入了新的活力。

　　蚂蚁集团Ling团队的论文《每一个FLOP都至关重要：无需高级GPU即可扩展3000亿参数混合专家LING大模型》已在预印本Arxiv平台上正式发布。此前，DeepSeek团队通过算法创新和工程优化的方法，利用低性能的英伟达H800 GPU训练出了性能与顶尖模型相近的版本，为大模型的训练开辟了新的可能，让更多企业和研究机构享受到降低成本、提升效率的机会。

　　根据国泰君安证券的研报，AI芯片主要可分为通用型（GPU）、半定制型（FPGA）和定制型（ASIC）。其中，GPU具备强大的计算能力，但其成本及功耗也相对较高；FPGA灵活性好，但计算能力较弱；而ASIC则适合量产，但研发成本高，技术风险大。中国目前在GPU及AIASIC的市场上涌现出多家优秀企业，如壁仞科技、天智数芯、摩尔线程和沐曦等，显然AI产业已步入了新的发展阶段。

　　对于即将到来的2024年，AI算力厂商纷纷启动了IPO辅导，其中燧原科技、壁仞科技、摩尔线程与沐曦股份等国内厂商，将为A股的AI算力领域增添更多投资新选择。

　　从国际视角看，全球科技企业对于AI技术的研发仍在加速进行，此次蚂蚁集团的进展，无疑为国产AI和GPU的使用开辟了更广阔的市场前景。在未来，国产智能芯片的崛起有望改变整个行业的游戏规则，进一步降低对外部高善设备的依赖，推动国产AI的繁荣发展。返回搜狐手机vpn分享给电脑，查看更多