使用 Llama-2–7b 进行医学问答的检索增强生成 使用 AWS 探索 Llama-2–7b 在医学领域检索增强生成的功能

在复杂的医疗信息领域，答案的准确性和可靠性至关重要。该项目旨在通过将 Llama-2-7b 模型的先进功能与检索增强生成 (RAG) 方法相结合来满足这一需求。我们的系统利用从“pubmed”中提取的精选知识库，并采用密集和稀疏嵌入，确保提供的答案不仅是数据驱动的，而且是上下文准确且与医学相关的。该计划旨在减轻大型语言模型中经常出现的模型幻觉，同时确保提供精确且相关的响应，所有这些都使用 AWS SageMaker 和 Pinecone 等技术资源高效执行。

上图是在AWS SageMaker环境中实施的项目架构的直观表示。

在离线数据摄取期间，将 S3 知识库中的所有医疗文档嵌入并存储到 Pinecone 矢量数据库中。
用户向系统提交特定领域的医学知识查询。
嵌入用户的查询并从存储的向量知识库中检索语义相似的文档。
将检索到的文档作为上下文输入提供给 Llama-2–7b 模型，并将其输入提示中。
Llama-2-7b 生成响应，优先考虑从上下文文档得出的答案的效率和准确性。
将生成的精确响应返回给用户。

问答

问答 (QA) 系统在自然语言处理 (NLP) 的各个领域都至关重要，从根本上寻求从信息池中提取准确的答案来响应用户的查询。虽然大型预训练语