- 博客(5)
- 收藏
- 关注
原创 在少量提示词下LLM格式化输出的对齐实践
本篇文章主要是以一个例子进行实践,使用langchain总结了一套流程(在文章的末尾给出),同时构建了两个函数来优化在少量提示词的情况下,LLM输出不稳定的问题Part 2:输出对齐些时候可能由于提示词模版的原因,在一些文本中可能不包含某种key,大模型的输出很可能包含不完全的定义key—_value,因此解析结果可能与原json格式相比缺少一些项这里我们写一个比较函数,自动对齐定义格式,缺
2024-02-08 01:47:39
618
原创 大语言模型的格式化输出原理思考->构建输出解释器output Parsers
在构建AI应用的时候,我们时常需要大语言模型在返回的结果使用格式化输出,这篇文章重要讨论了一些使LLM响应格式化输出的方法和原理,同时使用LLM构建一个输出解释器
2024-02-07 03:37:05
1726
1
原创 Embeddings And Dense Retrieval
这篇文档介绍了如何使用嵌入(Embedding)和密集检索(Dense Retrieval)技术来处理和分析文本数据。文档通过几个示例来说明嵌入技术的应用: 单词嵌入:通过 cohere 库,将三个单词(joy, happiness, potato)转换为嵌入向量,并展示了这些向量的前五个元素。 句子嵌入:对一系列句子进行嵌入,然后使用 UMAP(Uniform Manifold Approximation and Projection)技术将嵌入向量降维到二维,以便可视化。文档提供了一个可视化脚本,
2024-02-07 03:30:11
1159
1
原创 关于LLM进行函数(工具)调用的思考
拆解openai的function_call功能,理解函数调用的底层原理,然后手搓一个自定义的Agent_call_tools
2024-02-07 03:07:19
3390
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人