【限时免费】项目实战：用Yarn-Mistral-7b-128k构建一个智能会议纪要生成器，只需100行代码！...-优快云博客

项目实战：用Yarn-Mistral-7b-128k构建一个智能会议纪要生成器，只需100行代码！

【免费下载链接】Yarn-Mistral-7b-128k 项目地址: https://gitcode.com/mirrors/NousResearch/Yarn-Mistral-7b-128k

项目构想：我们要做什么？

在现代职场中，会议是沟通和决策的重要方式，但冗长的会议内容往往让人难以快速抓住重点。为了解决这一问题，我们设计了一个“智能会议纪要生成器”。该工具能够将会议录音或文字记录作为输入，自动生成简洁、结构化的会议纪要，包括关键讨论点、决策事项和待办任务。

输入：会议录音（需转换为文字）或直接输入会议文字记录。
输出：结构化的会议纪要，包含标题、讨论要点、决策事项和待办任务。

技术选型：为什么是Yarn-Mistral-7b-128k？

Yarn-Mistral-7b-128k是一个基于Mistral-7B扩展的大语言模型，支持长达128k的上下文窗口，非常适合处理长文本任务。以下是选择它的核心原因：

超长上下文支持：会议记录通常较长，Yarn-Mistral-7b-128k能够处理超长文本，确保生成内容时不会丢失关键信息。
高质量生成能力：模型在长文本任务中表现优异，能够生成连贯且结构化的内容。
开源与易用性：模型完全开源，且提供了简单的调用接口，适合快速开发。

核心实现逻辑

项目的核心逻辑分为以下几步：

输入处理：将会议录音转换为文字（可使用第三方语音转文字工具），或直接输入文字记录。
模型调用：使用Yarn-Mistral-7b-128k模型对文字记录进行分析，生成会议纪要。
Prompt设计：设计一个清晰的Prompt，指导模型生成结构化的会议纪要。
输出格式化：将模型生成的文本进一步整理为易读的格式。

代码全览与讲解

以下是完整的项目代码，基于Yarn-Mistral-7b-128k的快速上手代码扩展而来：

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

# 加载模型和分词器
model_name = "NousResearch/Yarn-Mistral-7b-128k"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    use_flash_attention_2=True,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True
)

# 会议记录输入
meeting_text = """
会议主题：项目进度汇报
参与者：张三、李四、王五
讨论内容：
1. 张三汇报了前端开发进度，已完成80%。
2. 李四提出后端接口存在性能问题，需要优化。
3. 王五建议下周进行一次全链路测试。
决策事项：
1. 李四负责优化后端接口，预计周五完成。
2. 王五安排全链路测试时间。
待办任务：
1. 张三继续完成前端剩余20%开发。
"""

# 设计Prompt
prompt = f"""
请根据以下会议记录生成一份结构化的会议纪要：
会议记录：
{meeting_text}

会议纪要：
"""

# 生成会议纪要
inputs = tokenizer(prompt, return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=500)
generated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(generated_text)

代码讲解：

模型加载：使用AutoModelForCausalLM加载Yarn-Mistral-7b-128k模型，并启用Flash Attention 2以提升性能。
输入处理：将会议记录作为字符串输入。
Prompt设计：通过清晰的Prompt指导模型生成结构化的会议纪要。
生成与输出：调用模型的generate方法生成文本，并打印结果。

效果展示与功能扩展

效果展示

运行代码后，生成的会议纪要可能如下：

会议主题：项目进度汇报  
参与者：张三、李四、王五  

讨论要点：
1. 张三汇报了前端开发进度，已完成80%。  
2. 李四提出后端接口存在性能问题，需要优化。  
3. 王五建议下周进行一次全链路测试。  

决策事项：
1. 李四负责优化后端接口，预计周五完成。  
2. 王五安排全链路测试时间。  

待办任务：
1. 张三继续完成前端剩余20%开发。

功能扩展

多语言支持：扩展Prompt以支持多语言会议纪要生成。
自动化输入：集成语音转文字工具，实现从录音到纪要的全自动化。
个性化模板：允许用户自定义会议纪要的模板格式。

通过这个项目，你可以快速体验Yarn-Mistral-7b-128k的强大能力，并进一步扩展为更复杂的应用场景！