摩尔线程MTT S4000组成千卡集群“夸娥”：可训练千亿参数大模型

4月1日消息， 近日，无问芯穹发布了“无穹Infini-AI”大模型开发与服务平台，并宣布与摩尔线程达成深度战略合作。

无穹Infini-AI基于无问芯穹的智算云平台，可服务生成式大模型的多种场应用落地，为应用开发者提供高性能、易上手、安全可靠的大模型服务，覆盖从大模型开发到大模型服务化部署的全流程。

目前，无穹Infini-AI已经支持百川Baichuan2、ChatGLM2、ChatGLM3、ChatGLM3闭源模型、Llama2、Qwen、Qwen1.5等系列模型共20多个模型。

摩尔线程是第一家接入无问芯穹并成功完成千卡级别大模型训练的国产GPU公司，“夸娥”(KUAE)集群已经与无穹Infini-AI顺利完成了系统级融合适配，并完成了LLama2 700亿参数大模型的训练测试。