《科創板日報》20日訊,在華為開發者大會上,華為云計算 CEO張平安宣布基于CloudMatrix384超節點的新一代昇騰AI云服務全面上線。據悉,華為云新一代昇騰AI云服務基于CloudMatrix384超節點,將384顆昇騰NPU和192顆鯤鵬CPU通過高速網絡MatrixLink全對等互聯,形成一臺超級“AI服務器”,單卡推理吞吐量躍升到2300 Tokens/s。對于萬億、十萬億參數的大模型訓練任務,在云數據中心,還能將432個超節點級聯成最高16萬卡的超大集群;同時,超節點還可以支持訓推算力一體部署。(記者 黃心怡)