如何微调医疗大模型llm：llama2学习笔记

已于 2023-08-01 11:34:44 修改
阅读量1.7k 收藏 2
点赞数
文章标签： 大模型 医疗
于 2023-08-01 10:17:43 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/stay_foolish12/article/details/132036087
版权

三个微调方向：简单医疗问答 临床问答 影像学
一般流程： 1 数据集准备 2 模型基座选择 3 微调 4 案例拆解

1 数据集准备：两种类型，一种文本一种影像

扩展，多模态

2 模型基座选择

在这里插入图片描述

多模态处理所有视频，文本，数字人将会受到威胁，数字人赛道
多模态处理将会对医疗领域有很大的促进
多模态的架构
在这里插入图片描述
整个影像大模型现阶段不太成熟，医疗领域的方案，各个医生的方案没有标准的方案，没有办法通用，不会被通用的大模型被替代掉。诊断虽然可能一样，但是治疗方案不太一样，只能将诊疗的阶段给呈现出来。增加知识库做一些知识对齐。

3 微调

在这里插入图片描述

stay_foolish12
关注
Llama2 LLM 的力量分析：健康与医学领域的优点、缺点和最佳实践
iCloudEnd的博客
08-29 405
注意：我希望您今天学到了一些关于 LLM 及其对医疗保健和医学的影响的新知识，如果您发现有任何知识，请分享，以便它可以继续扩展到更多人。医学文本分析的精确性：Llama2 LLM 对医学术语的深刻理解能够对复杂的医学文本进行精确分析，有助于诊断、研究和患者护理。增强的临床决策支持：它理解上下文丰富信息的能力可以通过提供来自大量医学文献的相关见解来帮助临床医生做出明智的决策。数据隐私：利用 Llama2 LLM 处理敏感的患者数据需要严格的隐私协议，以防止泄露和未经授权的访问。
Med-Flamingo 通过LLAMA 2进行多模式少样本学习的医疗聊天机器人
iCloudEnd的博客
08-06 511
医学中多模式学习的需求背景：解释医疗数据的复杂性和多模式学习的需求。医学领域本质上是复杂的，需要处理多种数据类型，包括图像、文本和数值。这些数据来自各种来源，例如医疗记录、实验室结果、放射图像等。整合和综合这些信息对于准确诊断、治疗计划和患者护理至关重要。多模式学习旨在结合这些不同类型的数据，以更全面地了解患者的健康状况。通过利用各种数据模式的优势，多模式学习可以提供更丰富的见解和更细致的解释。什么是 Med-Flamingo？：定义和主要目标。
手把手教你打造AI医疗大模型的微调实战指南
最新发布
xxue345678的博客
03-31 1048
大型语言模型(LLMs)在医疗健康领域潜力巨大，但通用模型缺乏医疗专业知识，难以达到临床应用的严谨标准。本文将简明介绍如何通过微调技术，构建具备专业医生回复特征的大模型，为医疗机构和健康平台提供精准的智能问诊服务。一、为什么需要医生风格的大模型微调？❌ 专业术语理解不足：对医学术语、药物名称、疾病分类等专业知识掌握不全面❌ 回复风格不匹配：缺乏医生特有的专业、严谨且富有同理心的表达方式❌ 循证医学依据不足：回答可能缺乏最新临床指南和研究支持。
基于医疗领域数据微调LLaMA——ChatDoctor模型
dzysunshine的博客
08-18 3274
ChatDoctor是一款使用LLaMA模型并结合医学知识进行训练的医疗助手，研究人员先收集了50多万条真实医患对话，然后使用这些数据对LLaMA模型进行微调。ChatDoctor不仅具备流畅的对话能力,在医疗领域的理解和诊断也达到了很高的水平。用户只需描述症状，ChatDoctor就会像真人医生一样询问其他症状与体征，然后给出初步诊断和治疗建议，而且完全开源免费！当然，ChatDoctor只是一个AI助手，不能完全替代人医生，但在常见病症诊断方面，它已经表现已经非常不错了。
医疗大模型微调：聊聊ChatGLM-6B医疗数据微调
2401_82469710的博客
11-15 569
参考了多个医疗大模型，如扁鹊、灵心等，重新思考了下微调的方案以及数据集的格式；基于ChatGLM/其它LLM整合多种微调方法的非官方实现的框架，审视其数据集格式，以及调试效果，进行微调。
医学大模型微调·数据处理全流程：炼丹，是自我超越的方法
Debroon
10-10 1346
将随机化后的数据保存到新的CSV文件中。保留原始的列名（表头），不包含索引列，使用制表符作为分隔符，并以UTF-8编码保存。随机化过程会打乱所有行的顺序，但每行内的数据保持不变。这个流程自动化了医学数据的质量检查，从原始医学记录到详细的质量评估报告，提高了数据处理的效率和一致性。这个文件包含与输入文件相同的数据，但行的顺序被随机打乱。将原始的医学记录转化为结构化的诊断信息、症状描述、治疗建议和预后信息，为医疗决策提供支持。实现了从原始医疗记录到AI训练数据的转换，为医疗AI模型的开发提供了基础数据支持。
聊聊ChatGLM-6B医疗数据微调
2401_85327249的博客
08-05 901
参考了多个医疗大模型，如扁鹊、灵心等，重新思考了下微调的方案以及数据集的格式；基于ChatGLM/其它LLM整合多种微调方法的非官方实现的框架，审视其数据集格式，以及调试效果，进行微调。
【LLM4医疗】医疗AI大模型汇总
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
12-24 1806
因为关注AI在医疗上的应用，尤其近期GPT模型的爆发和热潮，于是汇总下LLM4医疗的相关研究进展。
LLM大语言模型学习笔记（2）
weixin_47776321的博客
08-19 1117
大模型RAG技术学习笔记
微调大型语言模型：根据您的需求定制 Llama 3 8B,需要20个Nvidia A100 的集群成本40万元，云平台10 万美元
iCloudEnd的博客
05-03 686
自 2022 年 11 月发布以来，ChatGPT 引发了有关大型语言模型 (LLM) 和人工智能功能的广泛讨论。现在很少有人没有听说过 ChatGPT 或没有尝试过它。虽然像 GPT、Gemini 或 Claude 这样的工具非常强大，拥有数百（如果不是数千）亿个参数，并在大量文本语料库上进行了预训练，但它们并不是万能的。这些模型在某些特定任务上存在不足。然而，我们并非没有解决这些任务的方法。我们可以使用较小的开源模型来利用法学硕士的力量，使其适应我们的具体问题。
大语言模型（LLM）-学习笔记（7.31/8.1）
2301_81822737的博客
08-08 324
1.定义与特点：处理海量文本，多者可具备数百亿参数，理解语言深度，展现涌现能力2.模型大小与性能关系：于小模型架构相似，但参数量级提升带来解决复杂任务的显著优势3.LLM国内外代表：国外有GPT系列、LLaMA等，国内有文心一言、通义千问等，均表现强大4.LLM应用示例：ChatGPT是LLM的对话应用典范，展现出与人类流畅自然的交互能力5.常见的LLM模型：闭源LLM。
【学习笔记】：Ubuntu 22 使用模型量化工具llama.cpp部署大模型 CPU+GPU
qq_44305583的博客
03-13 6067
Ububtu22下模型量化工具llama.cpp及llama-cpp-python部署应用。
2023年开源中文医疗大模型概览
热门推荐
cloudflash的博客
08-30 1万+
本文根据现有近20个中文医疗领域开源大模型网络众神们的总结分析，结合作者探索行业发展浅见，编制形成本文，意图对发展中的中文医疗大模型提供多方面概览，呈现采撷各自精彩与独特之处，共同推进中文医疗LLM应用等垂直行业大模型的探索与实践。
[玩转AIGC]LLaMA2之如何微调模型
六五酥的博客
12-28 6107
下面的your token就是要填从你自己的HuggingFace复制下来的token，根据上面的步骤走过来，你已经申请过权限了，所以token可用。有了权限就可以从HuggingFace上下载模型：https://huggingface.co/meta-llama。没有的话就自己创建一个token，也就是点击new token，再把创建的token复制下来。然后再去HuggingFace上submit权限申请，连接在下面。提交后还要等待仓库作者的确认，请求将在 1-2 天内得到处理。
垂直领域大模型微调的实战经验大揭秘
2301_76168381的博客
08-30 532
这段时间，一直在思考微调垂直大模型。涉及的领域：大数据和大模型。由于配置和经费问题，想着用一个小模型去微信一个大数据专家。基于Qwen2-0.5B模型进行垂直微调，利用【数据中台-让数据用起来（第2版）】PDF书籍制造问答数据。初期效果不是很好，特别是模型合成的时候，更不好了。。在查阅知乎的时候，看到一篇微调模型总结，分享给小伙伴…垂直领域大模型微调的实战经验，从基座模型选择、模型整体架构、数据设计和训练微调四个方面进行详细解析。
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 2620
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
医疗多模态大模型是什么？医学多模态模型总结：算法其实很简单，拼的就是硬件算力的问题！多模态大模型（医疗影像分析）
zhishi0000的博客
06-24 2148
贡献我们提出了第一个适用于医学领域的多模态少样本学习器，它有望实现新颖的临床应用，例如基于检索到的多模态上下文的基本原理生成和调节。我们创建了一个新颖的数据集，可以对一般医学领域的多模态少样本学习器进行预训练。我们创建了一个新颖的 USMLE 式评估数据集，将医学 VQA 与复杂的跨专业医学推理相结合。我们强调现有评估策略的缺点，并使用专用的评估应用程序与医疗评估员一起对开放式 VQA 世代进行深入的临床评估研究。
LlaMA2微调实战
大漠帝国的博客
07-28 3681
LLaMA2-SFT, Llama-2-7B微调(transformers)/LORA(peft)/推理。
本地训练中文LLaMA模型实战教程，民间羊驼模型，24G显存盘它！
artistkeepmonkey的博客
05-19 4634
在学习完上篇【1本地部署中文LLaMA模型实战教程，民间羊驼模型】后，我们已经学会了下载模型，本地部署模型，部署为网页应用如果我们对于模型在某些方面的能力不够满意，想要赋予模型一些特殊的能力，那么我们可以选择领域内特殊的数据集，然后在基础模型上继续训练，从而得到一个新的模型例如我们可以把医学知识用于训练模型，得到一个医生chatGPT;把佛学资料用于训练模型，得到一个佛祖chatGPT;人类的已有知识是海量的，智慧是无穷的，我相信大家一定有更好的想法！1训练数据准备，纯文本txt数据。
OLLAMA deep seek 微调
02-28
<think>好的，我现在需要回答用户关于OLLAMA和DeepSeek微调的问题。首先，我得确认自己对这两个概念的理解是否正确。OLLAMA可能是指某个机器学习框架或者工具，而DeepSeek可能是一个模型或者平台，微调则是指对预训练模型进行特定任务的调整。 接下来，我应该分步骤整理信息。首先解释OLLAMA是什么，如果我不太确定，可能需要查阅相关资料。然后介绍DeepSeek，同样需要确认其具体指代。最后，解释微调的概念，并结合这两者说明如何进行微调。 在思考过程中，可能会遇到不确定的地方，比如OLLAMA的具体信息。这时候需要假设或者明确说明不确定之处，避免误导用户。同时，要确保信息的准确性，特别是技术细节部分，比如微调的步骤、优势等。 另外，要注意用户的需求，他们可能希望了解如何将OLLAMA与DeepSeek结合进行微调，或者各自的特点。需要结构清晰，分点说明，可能包括定义、步骤、应用场景等。 最后，检查是否有遗漏的信息点，确保回答全面，同时保持语言简洁易懂，避免使用过于专业的术语，或者在必要时进行解释。</think>以下是关于OLLAMA和DeepSeek微调的介绍： --- ### 一、OLLAMA **OLLAMA** 是一个开源工具，专注于本地化运行和微调大型语言模型（LLM）。它允许用户在个人计算机上部署、管理和优化模型，特别适合需要数据隐私或离线使用的场景。 #### 主要功能： 1. **本地运行**：支持在本地计算机（如笔记本电脑）运行LLM，无需依赖云端服务。 2. **模型管理**：提供命令行工具，方便下载、更新和切换不同模型（如Llama、Mistral等）。 3. **微调支持**：支持通过自定义数据集对模型进行微调，提升特定任务的表现。 #### 典型使用场景： - 开发者测试不同模型的本地性能 - 企业需要私有化部署LLM - 研究者尝试模型微调 --- ### 二、DeepSeek **DeepSeek（深度求索）** 是一家中国的人工智能公司，专注于通用大模型和行业垂直模型的研发。其推出的模型（如DeepSeek-MoE、DeepSeek-V2）以高性能和低成本著称。 #### DeepSeek模型特点： 1. **高效架构**：采用MoE（混合专家）等技术降低计算成本。 2. **多模态能力**：部分模型支持文本、图像等多模态输入。 3. **中文优化**：针对中文语境和知识进行了专项优化。 --- ### 三、微调（Fine-tuning） **微调** 指在预训练模型基础上，用特定领域的数据继续训练，使其适应具体任务（如客服、医疗问答等）。 #### 通用微调步骤： 1. **准备数据**：收集与目标任务相关的高质量数据集。 2. **选择基座模型**：例如选择DeepSeek的某个开源模型。 3. **配置工具**：使用OLLAMA加载模型并设置微调参数。 4. **训练与验证**：在训练集上微调，在验证集评估效果。 5. **部署应用**：将微调后的模型集成到实际系统中。 --- ### 四、OLLAMA + DeepSeek微调案例 假设使用OLLAMA对DeepSeek模型微调： 1. **安装OLLAMA**：从GitHub获取并安装。 2. **下载模型**：`ollama pull deepseek-7b` 3. **准备数据**：整理JSON格式的问答对数据。 4. **启动微调**： ```bash ollama fine-tune deepseek-7b --data dataset.json --epochs 3 ``` 5. **测试模型**：`ollama run tuned-deepseek` --- ### 五、注意事项 1. **硬件需求**：微调需要较高显存（如24GB以上GPU）。 2. **数据质量**：清洗数据避免噪声干扰。 3. **过拟合控制**：合理设置学习率和早停策略。 如果需要具体操作示例或更深入的技术细节，可以进一步说明需求！
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值