a1966565的博客

Mimi 编解码器 是由 Kyutai 开发的一个语义-声学神经音频编解码器，其主要作用是将音频编码为适合语言模型处理的离散单元（mimi模型就是moshi音频llm的音频分词器），同时提供在低比特率下运行时的高质量音频表现，并且具有与实时生成兼容的低帧率。

Mimi 编解码器是由 Kyutai 开发的一个语义-声学神经音频编解码器，其主要作用是将音频编码为适合语言模型处理的离散单元（mimi模型就是moshi音频llm的音频分词器），同时提供在低比特率下运行时的高质量音频表现，并且具有与实时生成兼容的低帧率。音频到文本的转换：Mimi能够将24kHz的音频波形编码成每秒12.5帧、维度为512的潜在表示形式(latent representation)。支持流式处理：该模型的所有卷积都是因果的(causal)，这意味着它可以以流的形式运行。

这是一个2024年的比赛赛题，很有意思的中文成语释义与解析，考验大家构建开源模型PepLine的能力。2024 iFLYTEK A.I.开发者大赛-讯飞开放平台https://challenge.xfyun.cn/topic/info?尝试着更换了QWEN2-7B、GLM4等模型来完成，并且切换了后端推理的方式。借着这次第四课讲解的解码策略，正好把当时的几个代码都拿出来改改并分享代码思路。

作业要求：在华为云平台上，使用MindSporeNLP组件对Roberta-Large模型进行IA3微调训练。数据集：GLUE-MRPC具体要求：使用MindSporeNLP组件加载Roberta-Large模型，设置IA3算法配置并初始化微调模型，加载数据集进行微调训练，并最终使用微调后的模型在验证集上进行评估。

Mindnlp数据并行

MindNLP学习营第四课，解码策略

这是一个2024年的比赛赛题，很有意思的中文成语释义与解析，考验大家构建开源模型PepLine的能力。2024iFLYTEKA.I.开发者大赛-讯飞开放平台尝试着更换了QWEN2-7B、GLM4等模型来完成，并且切换了后端推理的方式。借着这次第四课讲解的解码策略，正好把当时的几个代码都拿出来改改并分享代码思路。

第五课是讲MindNLP的RAG应用，这也是我们在使用AIAgent和知识库中最基本的技术。作为一个增强大模型表现的技术，它在2024年经历了飞速的发展和应用，毕竟比起微调来说它成本低得多。以此为基础的知识库应用也早已普及开来，组成了AI行业突发猛进又脚踏实地的重要拼图。有趣的是，明明是一个极大推动AI落地的技术，它似乎在哪家厂商眼里都是一个已经开发完成了的技术，甚至我们在MindNLP里都找不到多少关于RAG的内容。

MindSpore是华为推出的开源深度学习框架，支持端边云全场景的AI应用。