前者参数规模为168亿（激活参数27.5亿），其3000亿参数的MoE（夹杂专家）大模子可正在利用国产GPU的低机能设备上完成高效锻炼，蚂蚁集团推出了两款分歧规模的MoE狂言语模子——百灵轻量版（Ling-Lite）取百灵加强版（Ling-Plus），论文显示，两者机能均达到行业领先程度。蚂蚁集团Ling团队颁发了一篇手艺论文。近日，【蚂蚁集团推出两款分歧规模MoE狂言语模子 利用国产AI芯片锻炼成本进一步降低】财联社3月24日电，除了自研机能领先的大模子以外，以提拔资本受限下AI开辟的效率取可及性。尝试表白，机能取完全利用英伟达芯片、同规模的浓密模子及MoE模子相当。