通过改进Embedding模型,将你的RAG上下文召回率提高95%

RAG系统召回率优化:从60%到89%的实战策略 检索增强生成(RAG)系统是当前大语言模型应用中的关键技术架构,其核心原理是通过检索模块获取相关知识文档,再交由生成模块产出最终结果。在工程实践中,召回率是衡量检索效果的关键指标,直接影响生成内容的质量和准确性。通过优化文档预处理、向量化模型选择和检索策略等环节,可以显著提升RAG系统的整体性能。特别是在电商客服、知识库问答等应用场景中,采用智能分块、混合检索和查询扩展等技术手段,配合持续监控和A/B测试,能够实现召回率的大幅提升。本文以从60%到89%的实际优化案例,展示了如何系统性地解决RAG系统中的召 阅读详情

通过改进嵌入模型,将你的RAG上下文召回率提高95%

检索增强生成(RAG)是一种将LLM(大型语言模型)集成到商业用例中的突出技术,它允许将专有知识注入LLM中。本文假设您已经了解RAG的相关知识,并希望提高您的RAG准确率。

让我们简要回顾一下这个过程。RAG模型包括两个主要步骤:检索和生成。在检索步骤中,涉及多个子步骤,包括将上下文文本转换为向量、索引上下文向量、检索用户查询的上下文向量以及重新排序上下文向量。一旦检索到查询的上下文,我们就进入生成阶段。在生成阶段,上下文与提示结合,然后发送给LLM以生成响应。在发送给LLM之前,可能需要进行缓存和路由步骤以优化效率。

对于每个管道步骤,我们将进行多次实验,以共同提高RAG的准确率。您可以参考以下图片,其中列出了在每个步骤中进行的实验(但不限于)。

null

开发者面临的一个主要问题是,在生产环境中部署应用程序时,准确性会有很大的下降。

“RAG在POC(原型)中表现最佳,在生产中最差。”这种挫败感在构建GenAI(通用人工智能)应用程序的开发者中很常见。

生成阶段已经通过一些提示工程得到了解决,但主要挑战是检索与用户查询相关且完整的上下文。这通过一个称为上下文召回率的指标来衡量,它考虑了为给定查询检索的相关上下文数量。检索阶段的实验目标是提高上下文召回率。


嵌入模型适配

在检索阶段进行的实验中,通过适配嵌入模型,可以显著地将您的上下文召回率提高+95%。

在适配嵌入模型之前,让我们了解其背后的概念。这个想法始于词向量,我们将训练模型理解单词的周围上下文(了解更多关于CBOW和Skipgram的信息)。在词向量之后,嵌入模型是专门设计来捕捉文本之间关系的神经网络。它们超越了单词级别的理解,以掌握句子级别的语义。嵌入模型使用掩码语言模型目标进行训练,其中输入文本的一定比例将被屏蔽以训练嵌入模型,以预测屏蔽的单词。这种方法使模型能够在使用数十亿个标记进行训练时理解更深层的语言结构和细微差别,结果生成的嵌入模型能够产生具有上下文感知的表示。这些训练好的嵌入模型旨在为相似的句子产生相似的向量,然后可以使用距离度量(如余弦相似度)来测量,基于此检索上下文将被优先考虑。

现在我们知道了这些模型是用来做什么的。它们将为以下句子生成相似的嵌入:

句子1:玫瑰是红色的

句子2:紫罗兰是蓝色的

它们非常相似因为这两句都在谈论颜色。

对于RAG,查询和上下文之间的相似度分数应该更高,这样就能检索到相关的上下文。让我们看看以下查询和来自PubmedQA数据集的上下文。

查询:肿瘤浸润性免疫细胞特征及其在术前新辅助化疗后的变化能否预测乳腺癌的反应和预后?

上下文:肿瘤微环境免疫与乳腺癌预后相关。高淋巴细胞浸润与对新辅助化疗的反应相关,但免疫细胞亚群特征在术前和术后残余肿瘤中的贡献仍不清楚。我们通过对121例接受新辅助化疗的乳腺癌患者进行免疫组化分析,分析了术前和术后肿瘤浸润性免疫细胞(CD3、CD4、CD8、CD20、CD68、Foxp3)。分析了免疫细胞特征并与反应和生存相关。我们确定了三种肿瘤浸润性免疫细胞特征,它们能够预测对新辅助化疗的病理完全缓解(pCR)(B簇:58%,与A簇和C簇:7%相比)。CD4淋巴细胞的高浸润是pCR发生的主要因素,这一关联在六个公共基因组数据集中得到了验证。化疗对淋巴细胞浸润的影响,包括CD4/CD8比率的逆转,与pCR和更好的预后相关。对化疗后残余肿瘤中免疫浸润的分析确定了一个特征(Y簇),其主要特征是CD3和CD68浸润高,与较差的无病生存率相关。

查询和上下文看起来相似吗?我们是否在使用嵌入模型的方式中使用了它们的设计意图?显然,不是!

null作者提供的左侧图像;右侧图像归功于:https://github.com/UKPLab/sentence-transformers/blob/master/docs/img/SemanticSearch.png,Apache-2.0许可证

我们需要微调嵌入模型的原因是确保查询和相关的上下文表示更接近。为什么不从头开始训练呢?这是因为嵌入模型已经从数十亿个标记的训练中获得了对语言结构的理解,这些理解仍然可以加以利用。

微调嵌入模型

为了微调嵌入模型,我们需要包含类似预期用户查询和公司相关文档的数据集。我们可以利用语言模型(LLM)根据知识库文档生成查询。使用公司的知识库训练LLM就像提供了一个快捷方式,因为它允许嵌入模型在训练阶段本身访问上下文。

数据准备 - 训练和测试:

以下是数据准备步骤:

对于训练集:

  1. \1. 使用LLM从公司的知识库中挖掘所有可能的问题。
  2. \2. 如果知识库被分块,确保从所有块中挖掘问题。

对于测试集:

  1. \1. 从知识库中挖掘较少数量的问题。
  2. \2. 如果有,使用真实用户的问题。
  3. \3. 对训练集中的问题进行释义。
  4. \4. 结合并释义训练集和测试集中的问题。

我们中的大多数人都不会开发全领域的嵌入模型。我们创建的嵌入模型旨在在公司的知识库上表现更好。因此,使用公司的内部数据集训练嵌入模型并无害处。

对于本文,我们将使用Hugging Face上的"_qiaojin/PubMedQ"_数据集,它包含pubid、问题和上下文等列。pubid将用作问题ID。

from datasets import load_dataset
med_data = load_dataset("qiaojin/PubMedQA", "pqa_artificial", split="train")
med_data

null

pubid是一个唯一的ID,它指向行。我们将使用pubid作为问题ID。

为了训练嵌入模型,我们将使用sentence-transformer训练器进行训练,但你也可以使用huggingface训练器。此外,我们使用_MultipleNegativeRankingLoss_来微调我们的模型,但同样的效果也可以通过使用多种损失函数实现,例如_TripletLoss_、_ContrastiveLoss_等。但是,对于每种损失,所需的数据不同。例如,对于tripletloss,你需要(查询,正例上下文,负例上下文)对,而在MultipleNegativeRankingLoss中,你只需要(查询,正例上下文)对。对于给定的查询,除了正例上下文之外的所有上下文都将被视为负例。

在我们的PubMedQA数据集中,每一行的"question"列包含一个问题,"context"列包含适合该问题的上下文列表。因此,我们需要扩展上下文列表列,并创建包含相应上下文的新列的单独行。

dataset = med_data.remove_columns(['long_answer', 'final_decision'])

df = pd.DataFrame(dataset)
df['contexts'] = df['context'].apply(lambda x: x['contexts'])

# 展平上下文列表并重复问题
expanded_df = df.explode('contexts')

# 可选:如果需要,重置索引
expanded_df.reset_index(drop=True, inplace=True)

expanded_df = expanded_df[['question', 'contexts']]
splitted_dataset = Dataset.from_pandas(expanded_df).train_test_split(test_size=0.05)

expanded_df.head()

null

准备评估数据集:

现在,我们已经准备好了训练和测试数据集。接下来,让我们为评估准备数据集。对于评估,我们将使用LLM从上下文中挖掘问题,这样我们可以获得一个关于我们的嵌入模型改进效果的现实感受。从PubMedDataset中,我们将选择前250行,将上下文列表合并成每行一个字符串,然后发送给LLM进行问题挖掘。因此,对于每一行,LLM可能会输出大约10个问题。这样,我们将有大约2500个问题-上下文对用于评估。

from openai import OpenAI
from tqdm.auto import tqdm

eval_med_data_seed = med_data.shuffle().take(251)

client = OpenAI(api_key="<YOUR_API_KEY>")

prompt = """Your task is to mine questions from the given context.
Example question is also given to you. 
You have to create questions and return as pipe separated values(|)

<Context>
{context}
</Context>

<Example>
{example_question}
</Example>
"""

questions = []
for row in tqdm(eval_med_data_seed):

    question = row["question"]
    context = "\n\n".join(row["context"]["contexts"])
    question_count = len(row["context"]["contexts"])

    
    message = prompt.format(question_count=question_count,
                            context=context,
                            example_question=question)
    
    completion = client.chat.completions.create(
        model="gpt-4o",
        messages=[
            {"role": "system", "content": "You are a helpful assistant."},
            {
                "role": "user",
                "content": message
            }
        ]
    )

    questions.append(completion.choices[0].message.content.split("|"))

eval_med_data_seed = eval_med_data_seed.add_column("test_questions", questions)
df = eval_med_data_seed.to_pandas()

eval_data = Dataset.from_pandas(df.explode("test_questions"))
eval_data.to_parquet("test_med_data2.parquet")

在我们开始训练之前,我们需要使用上面创建的评估数据集来准备评估器。

准备评估器:

sentence-transformer库提供了各种评估器,如_EmbeddingSimilarityEvaluator_、BinaryClassificationEvaluator_和_InformationRetrievalEvaluator。对于我们的特定用例,即训练用于RAG的嵌入模型,_InformationRetrievalEvaluator_是最合适的选择。此外,可以添加多个评估器并用于评分。

给定一组查询和大型语料库集,信息检索评估器将为每个查询检索最相似的top-k个文档。信息检索评估器将使用各种指标来评估模型,如Recall@k、Precision@k、MRR和Accuracy@K,其中k将是1、3、5和10。对于RAG,Recall@K指标是最重要的,因为它表明检索器可以成功检索多少个相关上下文。这一点至关重要,因为如果检索器可以检索到正确的上下文,生成的内容很可能会是准确的,即使我们有额外的非相关上下文。

eval_context_id_map = {}

for row in eval_data:
    contexts = row["context"]["contexts"]
    for context, context_id in zip(contexts, row["context_ids"]):
        eval_context_id_map[context_id] = context

eval_corpus = {} # Our corpus (cid => document)
eval_queries = {}  # Our queries (qid => question)
eval_relevant_docs = {}  # Query ID to relevant documents (qid => set([relevant_cids])

for row in eval_data:
    pubid = row.get("pubid")
    eval_queries[pubid] = row.get("test_questions")
    eval_relevant_docs[pubid] = row.get("context_ids")
    
    for context_id in row.get("context_ids"):
        eval_corpus[context_id] = eval_context_id_map[context_id]

_查询:将每个出版物的ID映射到其对应的问题。

_语料库:将每个上下文ID映射到上下文映射中的内容。

_相关文档:将每个出版物的ID关联到一个相关上下文ID的集合中。

在形成所有字典之后,我们可以从sentence_transformer包中创建一个InformationRetrievalEvaluator实例。

ir_evaluator = InformationRetrievalEvaluator(
    queries=eval_queries,
    corpus=eval_corpus,
    relevant_docs=eval_relevant_docs,
    name="med-eval-test",
)

模型训练:

最后,让我们来训练我们的模型。使用sentence-transformer训练器进行训练非常简单。只需设置以下训练配置参数:

  1. \1. eval_steps - 指定模型多久评估一次。
  2. \2. save_steps - 指定模型多久保存一次。
  3. \3. num_train_epochs - 训练的轮数。
  4. \4. per_device_train_batch_size - 在单个GPU的情况下,这是批大小。
  5. \5. save_total_limit - 指定允许的最大保存模型数量。
  6. \6. run_name - 因为日志将被发布在wandb.ai上,所以运行名称是必要的。

然后,我们将我们的参数、训练数据集、测试数据集、损失函数、评估器和模型名称传递给训练器。现在您可以坐下来放松,直到训练完成。

null放松:你是个好人,亚瑟!

对于我们的训练数据,训练模型大约需要3个小时,这包括了测试数据集和评估数据集的推理时间。

# Load base model
model = SentenceTransformer("stsb-distilbert-base")
output_dir = f"output/training_mnrl-{datetime.now():%Y-%m-%d_%H-%M-%S}"

train_loss = MultipleNegativesRankingLoss(model=model)

# Training arguments
args = SentenceTransformerTrainingArguments(
    output_dir=output_dir, num_train_epochs=1, per_device_train_batch_size=64,
    eval_strategy="steps", eval_steps=250, save_steps=250, save_total_limit=2,
    logging_steps=100, run_name="mnrl"
)

# Train the model
trainer = SentenceTransformerTrainer(model=model, 
                                     args=args, 
                                     train_dataset=splitted_dataset["train"], 
                                     eval_dataset=splitted_dataset["test"], 
                                     loss=train_loss,
                                     evaluator=ir_evaluator)

trainer.train()

nullFull results on the notebook attached at the end


结果

为了进行比较,让我们初始化两个模型的实例,一个带有训练好的权重,另一个带有未训练的权重。

untrained_pubmed_model = SentenceTransformer("stsb-distilbert-base")
trained_pubmed_model = SentenceTransformer("/kaggle/input/sentencetransformerpubmedmodel/transformers/default/1/final")
ir_evaluator(untrained_pubmed_model)
ir_evaluator(trained_pubmed_model)

null

结果非常明显,每个指标都有惊人的提升。以下是关注指标的提升情况:

  • • recall@1 – 相比未训练模型提升了78.80%
  • • recall@3 – 相比未训练模型提升了137.92%
  • • recall@5 – 相比未训练模型提升了116.36%
  • • recall@10 – 相比未训练模型提升了95.09%

分析结果后,很明显,嵌入模型增强了上下文召回率,从而显著提高了RAG生成的整体准确性。然而,一个缺点是需要监控知识库中文档的增加,并定期重新训练模型。

这可以通过遵循标准的机器学习管道流程来实现,其中我们监控模型是否存在任何漂移,如果漂移超过某个阈值,就重新启动训练流程。

参考文献:

  1. \1. 领域自适应到专有数据自适应的想法来源于:GPL:用于密集检索无监督领域自适应的生成伪标签[1]
  2. \2. RAG评估 - https://www.pinecone.io/learn/series/vector-databases-in-production-for-busy-engineers/rag-evaluation/
  3. \3. SBERT训练 - https://sbert.net/examples/training/ms_marco/cross_encoder_README.html
引用链接

[1] GPL:用于密集检索无监督领域自适应的生成伪标签: https://arxiv.org/pdf/2112.07577

如何学习AI大模型?

大模型时代,火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业?”“谁的饭碗又将不保了?”等问题热议不断。

不如成为「掌握AI工具的技术人」,毕竟AI时代,谁先尝试,谁就能占得先机!

想正式转到一些新兴的 AI 行业,不仅需要系统的学习AI大模型。同时也要跟已有的技能结合,辅助编程提效,或上手实操应用,增加自己的职场竞争力。

但是LLM相关的内容很多,现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学,学习成本和门槛很高

那么我作为一名热心肠的互联网老兵,我意识到有很多经验和知识值得分享给大家,希望可以帮助到更多学习大模型的人!至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

👉 福利来袭优快云大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

全套AGI大模型学习大纲+路线

AI大模型时代的学习之旅:从基础到前沿,掌握人工智能的核心技能!

img

640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

👉学会后的收获:👈
• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉 福利来袭优快云大礼包:《2025最全AI大模型学习资源包》免费分享,安全可点 👈

img

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

【AI大模型应用开发】【项目实战】22.RAG智慧问答项目-(十)RAG系统评估 RAG系统的评估方法与工具,重点关注RAGAS框架的应用和评估数据集的构建。主要内容包括: RAGAS评估框架 通过自动化指标评估RAG系统的检索和生成效果 核心指标:上下文相关性、上下文召回率、忠实度、答案相关性 评估过程依赖大语言模型和嵌入模型 评估实现 展示了使用Python代码加载数据集、配置评估环境、执行评估的完整流程 结果包含各指标得分(0-1范围)并输出为CSV文件 评估数据集构建 强调需要高质量评估数据集 提出使用代理生成测试样本、检查质量、执行评估的系统化流程 提供了各类提示词模板 阅读详情

相关推荐

大模型科学文献分析实战:从RAG到Prompt工程的技术解析

大语言模型(LLM)的核心能力在于深度理解与逻辑推理,其技术价值在于处理高密度、结构化的专业文本。通过检索增强生成(RAG)技术,模型能够精准获取外部知识,减少幻觉现象,提升回答的准确性。结合提示工程(Prompt Engineering),可以引导模型进行多步骤、结构化的思考,从而完成复杂的信息抽取与推理任务。这些技术在垂直专业领域如科学文献分析中尤为重要,能够实现从文档解析、信息结构化到深度问答的全流程处理。本文以AI竞赛为背景,深入探讨了如何构建高效可靠的文献分析系统,为开发者提供了从技术选型到工程落

CURSED! 707

#RAG | AIGC # RAG召回率提升的方法以及优劣势

RAG(Retrieval-Augmented Generation)是一种结合了检索(Retrieval)和生成(Generation)的模型,用于增强大型语言模型(LLMs)的性能。召回率(Recall)是衡量RAG系统性能的关键指标之一,它表示系统能够检索到的相关文档占所有相关文档的比例。:通过改进召回过程来提高从大规模语料库中检索与给定查询相关的文档的准确性和效率[:在召回过程中纳入查询和文档的上下文信息,可以更准确地判断文档与查询的相似度[

weixin_45312236的博客 5648

向量数据库与RAG技术:架构优化与应用实践

向量数据库作为AI基础设施的核心组件,通过高效的相似性搜索实现海量非结构化数据的实时检索。其技术原理基于稠密向量嵌入(dense embeddings)和近似最近邻(ANN)算法,在语义搜索、推荐系统等场景展现巨大价值。检索增强生成(RAG)技术将向量数据库与大型语言模型(LLM)结合,形成'检索-生成'的闭环系统,有效解决传统LLM的幻觉问题。在实际工程落地中,RAG-Stack框架通过三维解耦架构和智能配置探索,平衡检索质量与系统性能。该技术在金融研报分析、医疗知识问答等场景已实现63%的延迟降低和15

weixin_34116110的博客 284

RAG知识库的召回率

召回率是RAG系统的核心指标,直接影响生成答案的完整性与可靠性。通过人工标注、自动化框架(如RAGAS)统计,并结合算法优化与参数调优,可针对性提升召回率。实际应用中需根据业务需求平衡召回率与准确率,并持续迭代检索模块以适配不同场景。

神棍之路 3841

生产级RAG落地三要素:语义分块、混合检索与忠实度评估

RAG(检索增强生成)作为当前企业知识应用的核心架构,其本质是将非结构化文档转化为可精准响应的结构化知识服务。其技术原理涵盖文档切分、多路检索、上下文融合与可控生成四大环节,关键价值在于保障答案的准确性、稳定性与可解释性,而非仅追求召回率或响应速度。在金融、法律、制造等强合规场景中,RAG系统必须解决‘信息被切碎’‘术语不匹配’‘答案无依据’等典型工程问题。本文聚焦真实生产环境中的三大落地支柱:基于文档结构与语义边界的智能分块策略、向量与关键词协同的混合检索机制、以及以Faithfulness(忠实度)为核

weixin_33692284的博客 578

从获奖项目EasyRAG看生产级RAG架构:模块化设计、混合检索与AIOps实践

检索增强生成(RAG)技术通过结合大语言模型的生成能力与外部知识库的检索能力,有效解决了模型幻觉与知识更新滞后问题。其核心原理是将非结构化数据向量化后存储,通过相似性检索获取相关上下文,再交由大模型生成精准答案。该技术在知识库问答、智能客服与文档分析等场景价值显著,尤其在运维智能化(AIOps)领域,能高效处理日志、告警等异构数据。本文以获奖项目EasyRAG为例,深入剖析其面向生产环境的模块化流水线设计,探讨如何通过混合检索(Hybrid Search)与稀疏检索(Sparse Retrieval)策略平

weixin_30856725的博客 406

LLMs之RAG之IncarnaMind:IncarnaMind的简介(提高RAG召回率的两个优化技巧=滑块遍历反向查找+独立查询)、安装、使用方法之详细攻略

​ LLMs之RAG之IncarnaMind:IncarnaMind的简介(提高RAG召回率的两个优化技巧=滑块遍历反向查找+独立查询)、安装、使用方法之详细攻略 IncarnaMind的简介 IncarnaMind允许你使用大型语言模型(LLMs)如GPT与你的个人文件(PDF,TXT)进行聊天。尽管OpenAI最近推出了GPT模型的微调API,但它不允许base版本的预训练模型学习新数据,而且响应可能容易受到事实幻觉的影响。利用我们的滑块窗口分块机制和集合检索器,可以有效地查询地面真实文档中的

头部AI社区如有邀博主AI主题演讲请私信—心比天高,仗剑走天涯,保持热爱,奔赴向梦想!低调,专注,谦虚,自律,反思,成长,还算比较正能量的博主,公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然,有点小情怀,也有点使命感呀 2062

Palabos User Guide中文解读 | 第一章 | 介绍

译者的话:本人在学习palabos时,发现国内中文资料甚少,恰好网上可以直接搜到palabos user guide这种英文资料,加之时间充裕,便打算开始翻译,能不能完成全本翻译再说,而且文中我也会标记我不确定的地方,以传达意思为主,翻译不当的地方还请各位读者帮忙指正。 Palabos User Guide Release 1.0 r1 Copyright © 2019 University of...

Yulan Fang's notes. 6979

【RAG专题】一文看懂文档召回率

在RAG(检索增强生成,Retrieval-Augmented Generation)系统中,是衡量检索模块性能的核心指标之一,用于评估系统从文档库中成功找回与用户查询相关的所有文档的能力。

星图 730

静止无功补偿SVG的基本控制原理

上图是自励单变量控制框图,基本控制方式为,采集计算得到负载无功电流和SVG输出的无功电流的差值,经过PI调节作为功率角δ和固定的调制深度λ和调制波,经过PWM调制形成开关信号驱动SVG的功率电路。该控制方式使保持调制深度λ(即SVG电压的幅度)不变,通过调整δ来调整直流电压和无功,跟踪输出无功功率,直流电压就会大幅度随动,无功相应速度较慢。SVG通常有他励方式和自励方式,他励方式需要提供外部的直流电源,自励方式通过电网输出有功功率至SVG建立SVG的直流电压。δ为Us和Uc之间的相角差。

weixin_42668920的博客 1994

STM32CubeIDE入坑指南

一 前言 在科技日新月异的今天,作为从事效率为先的苦逼 IT 行业,秉承着我不入地狱谁入地狱的伟大革命精神,我决定再一次做第一个吃螃蟹的人,通过自身的入坑过程,为大家测试STM32CubeIDE这款新式工具。(其实是为了我能省点时间,快点做完项目,多挣点钱买几瓶肾气丸) 二 看一看别人是如何入坑的 二 手把手带你入坑 三 相关资料 ...

CH的博客 1万+

如何提升RAG知识库文档的召回准确率?

提升RAG系统中知识库文档的召回准确率需要从多个方面入手。通过合理的文档切割粒度、检索后排序、混合检索和RAG-Fusion等策略,可以显著提高召回率,为用户提供更准确、更有价值的回答。在实际应用中,还是得根据具体场景和需求,选择适合的策略进行优化哈。

m0_59235699的博客 1802

Redis 可视化工具 RedisInsight 的保姆级安装以及使用(最新)

Redis 可视化工具 RedisInsight 的保姆级安装以及使用(最新)

一名全栈小白的博客 1万+

# 通过改进Embedding模型,将你的RAG上下文召回率提高95%

检索增强生成(RAG)是一种将LLM(大型语言模型)集成到商业用例中的突出技术,它允许将专有知识注入LLM中。本文假设您已经了解RAG的相关知识,并希望提高您的RAG准确率。让我们简要回顾一下这个过程。RAG模型包括两个主要步骤:检索和生成。在检索步骤中,涉及多个子步骤,包括将上下文文本转换为向量、索引上下文向量、检索用户查询的上下文向量以及重新排序上下文向量。一旦检索到查询的上下文,我们就进入生成阶段。在生成阶段,上下文与提示结合,然后发送给LLM以生成响应。

zhishi0000的博客 1108

【零基础教程】HEC-RAS 1D/2D全流程模拟指南|从水动力到水质建模一次搞定!

HEC-RAS由美国陆军工程兵团水文研究中心研制,具有完整的一二维耦合的水动力及水环境模拟功能,也具有闸、涵洞、桥梁以及泵站等水利构筑物的模拟能力;同时也可以与HEC研制的水文模型(HMS)、洪水淹没风险和损失分析软件(FDA)等耦合,是免费软件中使用最方便、应用最广泛的软件之一。2.HEC-RAS与HEC-HMS的耦合(不详细讲HEC-HMS)3.淹没风险分析软件HEC-FDA与HEC-RAS耦合。案例十八:HEC-RAS与HEC-HMS的耦合。案例十九:HEC-RAS与HEC-FDA的耦合。

weixin_48230888的博客 874

ArcGIS笔记2_如何将经纬度WGS84地理坐标系转换为米单位CGCS2000投影坐标系

本博文则主要讲解,如果我们手里拿到的shp文件是在ArcGIS中,如何将经纬度WGS84地理坐标系转换为米单位CGCS2000投影坐标系。

晏长街的博客 4万+

收藏!RAG优化的“圣经”:从评估诊断到改进落地,全流程详解。

本文介绍了RAG知识库评估框架的改进过程。首先调整了评估指标计算方法,从基准问答对中获取真实context,使召回率从0.54提升至0.84。对比了余弦相似度与ragas框架的优劣:ragas在事实判断上更准确但成本更高(50个问题需调用620+次大模型)。提出了知识库改进的两个方向:提升召回能力(优化知识切片质量、去除重复内容)和提升回答能力(使用更强模型、优化提示词)。最后指出AI学习的重要性,强调最早掌握AI技术的人将获得竞争优势,并提供了AI大模型学习资料。

m0_59235245的博客 918

【国密】基于SM2的协同签名与协同解密方案

两方协同签名指客户端与服务端协同完成签名、验签操作,具体实现方案参考了信工所专利[3]。在业务应用中,两方或多方的协同签名一般采用门限签名方案可以用来构造。门限密码算法在多方协作的相关场景中应用十分广泛,可以实现数据联合授权、认证、密钥安全恢复、密钥安全交换等需求,在诸多分布式多方计算协议中均可见其身影。在上述两方协同签名方案中,最巧妙的地方在于签名值s分量的构造,通过一些列数学变换,得以恢复。以下从两方协同签名方案介绍入手,介绍门限密码在协同签名中的应用。解决上述问题的关键在于门限密码算法的巧妙构造。

听雨草堂 8393

RAG(一):Agentic RAG、AUTO-RAG、ChunkRAG、FastRAG、Graph RAG、HtmlRAG

概述、Agentic RAG:类型、实现、其他;AUTO-RAG、ChunkRAG、FastRAG:架构、Graph RAG、HtmlRAG。

lonelymanontheway的博客 1341

Xilinx平台SRIO介绍(五)示例工程Example Design介绍

理解IP的使用,少不了Example Design的学习。

数字IC/FPGA杂货铺,找一找,或许有你想要的~ 1万+

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

RAG系统把合同条款拼成悬疑小说:高管最该补的生成式AI选型课救了我

当RAG系统把合同条款拼成悬疑小说时,我意识到高管最该补的不是编程课而是AI选型思维。亚马逊云科技「生成式AI」课程教的业务匹配框架和成本矩阵分析法,帮我们区分检索优先与生成优先场景,从数据预处理到部署监控全流程优化,最终节省37%AI预算。

weixin_47315004的博客 9

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

大模型系统开发能力体系

本文系统梳理了大模型开发的核心知识体系,分为底层认知层和模型演进层。底层认知层涵盖机器学习基础概念(张量、梯度、链式法则、概率分布)和LLM关键参数(Token、上下文窗口、温度等控制参数)。模型演进层分析主流架构发展:CNN通过局部感受野处理图像,RNN/LSTM用于序列建模但存在并行性差等问题,Transformer凭借自注意力机制实现全局依赖建模成为当前主流。全文提供了参数组合策略等技术细节,为开发者构建了从理论基础到实践应用的能力框架。

weixin_45130169的博客 1285

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

RAG系统进阶:从基础检索到生产级调优的实战指南

检索增强生成(RAG)技术通过结合信息检索与大型语言模型,有效缓解了模型幻觉与知识滞后问题,提升了生成内容的准确性与可靠性。其核心原理在于利用向量化表示进行语义检索,从外部知识库中获取相关信息作为上下文,从而增强模型的生成能力。这一技术对于构建可信、可追溯的智能问答、知识库助手等应用具有重要价值。在实际工程实践中,文档预处理与切分(Chunking)是影响检索效果的基础环节,而嵌入模型(Embedding Model)的选择与优化则直接决定了语义匹配的精度。通过精细化的检索策略与提示工程,RAG系统能够广泛

weixin_30682415的博客 419
上一篇: 详细!离线部署大模型:ollama+deepseek+open-webui安装使用方法及常见问题解决
下一篇: 文末送书 | 抓住AI未来!《多模态大模型:技术原理与实战》揭秘下一代AI核心技术,大模型入门必备!
爱喝白开水a
博客等级 码龄3年 6793粉丝 763原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值