小王的博客

​ N-Gram、神经网络、预训练模型、大语言模型​ 常用的N-Gram语言模型是什么？

​ ROUGE指标与BLEU指标非常类似，均可用来衡量生成结果和标准结果的匹配程度，不同的是ROUGE基于召回率，BLEU更看重准确率。​ 其中k表示在候选句子(candidate)中出现的第k个词语,Ck则代表在候选句子中这个词语出现的次数，而Sk则代表在参考文本(reference)中这个词语出现的次数。​ 2.公式:candidate和reference中匹配的 n-gram 的个数 /candidate中n-gram 的个数.：评价一种语言翻译成另一种语言的文本质量的指标。

接着，LLM分别为每个检索到的知识块生成答案，然后为每个答案生成反思评分来评估检索到的文档是否相关，最后将评分高的文档当作最终结果一并交给LLM。你的目标是提供准确的信息，并尽可能帮助提问者解决问题。：如果果原始查询太复杂或返回的信息太广泛，我们可以选择生成一个抽象层次更高的“退后”问题，与原始问题一起用于检索，以增加返回结果的数量。：多向量检索同样会给一个知识文档转化成多个向量存入数据库，不同的是，这些向量不仅包括文档在不同大小下的分块，还可以包括该文档的摘要，用户可能提出的问题等等有助于检索的信息。

检索生成阶段：（1）问题向量化–> （2）根据问题查询匹配数据–> （3）获取索引数据 --> （4）将数据注入Prompt–> （5）LLM生成答案。数据准备阶段：（1）数据提取–> （2）分块（Chunking）–> （3）向量化（embedding）–> （4）数据入库。

检索生成阶段：（1）问题向量化–> （2）根据问题查询匹配数据–> （3）获取索引数据 --> （4）将数据注入Prompt–> （5）LLM生成答案。数据准备阶段：（A）数据提取–> （B）分块（Chunking）–> （C）向量化（embedding）–> （D）数据入库。此种方式可以找到一些相关的信息块，但是不够精准，接下来使用多重查询进行优化，提高查询的精度。3）对切块的数据进行向量化(embedding)并存储到向量数据库。读取pdf、excel、doc三种常见的文档格式。