摩尔线程开源音频理解大模型MooER摩耳

近日，摩尔线程公司宣布正式开源其研发的音频理解大模型——MooER（摩耳），这一业界首个基于国产全功能GPU进行训练和推理的大型开源语音模型，展示了摩尔线程在人工智能领域的最新成果。

MooER大模型在摩尔线程夸娥（KUAE）智算平台上，仅用38小时便完成了5000小时音频数据和伪标签的训练。这一成就得益于公司自研的创新算法和高效计算资源的结合。MooER不仅支持中文和英文的语音识别，还具备中译英的语音翻译能力，在多个语音识别领域的测试集中展现出优异表现。特别在Covost2中译英测试集中，MooER-5K取得了25.2的BLEU分数，接近工业级效果。

摩尔线程AI团队开源了推理代码和5000小时数据训练的模型，并计划进一步开源训练代码和基于8万小时数据训练的模型。MooER的模型结构包括Encoder、Adapter和Decoder三个部分，使用开源的Paraformer语音编码器、Qwen2-7B-instruct大语言模型来初始化Encoder和LLM模块。

在技术对比中，MooER-5K在中文和英文测试集上的表现均优于其他开源模型。摩尔线程通过这一开源项目，为数据资源和计算资源有限的开发者提供了宝贵的参考和支持。