財聯社3月24日電,近日,螞蟻集團Ling團隊發表了一篇技術成果論文。論文顯示,螞蟻集團推出了兩款不同規模的MoE大語言模型——百靈輕量版(Ling-Lite)與百靈增強版(Ling-Plus),前者參數規模為168億(激活參數27.5億),Plus基座模型參數規模高達2900億(激活參數288億),兩者性能均達到行業領先水平。除了自研性能領先的大模型以外,該技術論文最大的突破在于提出了一系列創新方法,以提升資源受限環境下AI開發的效率與可及性。實驗表明,其3000億參數的MoE(混合專家)大模型可在使用國產GPU的低性能設備上完成高效訓練,性能與完全使用英偉達芯片、同規模的稠密模型及MoE模型相當。