蚂蚁总体CTO：刚强投入大模子底层根基配置装备部署，已经建成万卡AI集群
2025-03-22 03:33:06 来源：{typename type="name"/} 分类：{typename type="name"/}
新浪科技讯 9月8日下战书新闻，蚂蚁模底在2023外滩大会上 ，总体置装蚂蚁总体宣告宣告金融大模子 ，强投群并开源天生式AI编程平台CodeFuse 。层根成万蚂蚁总体首席技术官、基配经建I集平台技术事业群总裁何征宇在接受采访时介绍 ，备部蚂蚁大模子走纯自研的署已技术道路，以全栈妄想 、蚂蚁模底长线睁开为原则 ，总体置装以缔造财富价钱为目的强投群。为此 ，层根成万蚂蚁刚强投入大模子底层根基配置装备部署 ，基配经建I集当初已经建成万卡AI集群 ，备部磨炼效带争后行业，署已为大模子财富化运用提供有力反对于 。蚂蚁模底
何征宇介绍 ，蚂蚁不断以来坚持中间技术自主立异 ，2022年尾正式立项大模子研发，当初已经组成从根基大模子到行业大模子以及财富运用的全栈妄想 。
明天宣告的蚂蚁金融大模子基于蚂蚁根基大模子 ，针对于金融财富深度定制。何征宇介绍 ，蚂蚁根基大模子平台具备万卡异构集群 ，其中千卡规模磨炼MFU可抵达40% ，集群实用磨炼时长占比90%以上 ，RLHF磨炼在划一模子下场下磨炼吞吐功能相较于业界妄想提升3.59倍 ，推理功能相较于业界妄想提升约2倍 ，处于业界先历水平 。
何征宇展现 ，未来蚂蚁将不断探究以及精进大模子的五大能耐倾向。一是 ，建树高品质的数据标注团队 ，积淀高品质数据系统；二是 ，攻坚根基大模子算法 ，以及高效绿色工程能耐 ，提升模子逻辑推理等能耐；三是 ，从通用语言大模子到通用多模态大模子 ，从普残缺识走向周全业余；四是 ，建树高效的大模子评测尺度以及评测系统 ，减速大模子迭代速率；五是 ，建树大模子清静能耐 ，保障大模子瘦弱可不断睁开 。
海量资讯 、精准解读 ，尽在新浪财经APP 责任编纂 ：刘万里 SF014