- 博客(11)
- 收藏
- 关注
原创 如何安装spwmatrix用于空间计量
findit 可以找到界面,然后在根据他的提示下载文件,他会保存到一个特定路径,记住这个路径。把安装路径设成刚刚保存的路径。
2024-11-23 22:16:57
594
原创 llama-index制作workflow出现ctx没有_task属性
workflow里面context其实就是这里传入的参数,如果不指定变量名称直接输入查询语句的话,就会出现报错:
2024-11-10 19:43:49
372
原创 llama-index基础,节点以及文档
关系:从 Document 派生的每个 Node 都将从该 Document 继承相同的元数据,比如文件名称就会过来。表示源文档的“块”。与 Documents 类似,它们包含元数据和与其他节点的关系信息。提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档。
2024-11-03 07:47:22
163
原创 llama-index:把搜索引擎当作工具放到reactagent和workflow里面
可以参考之前的分享step,Context,Workflow,Event,StopEvent,MetaData,Table,Column,String,Integer,select,# 建一张表table_name = "原神人物信息"Column("人物名字", String(10), primary_key=True),#字符串,定义为主键Column("神之眼属性", String(6)),
2024-11-02 21:42:00
549
原创 用llama-index简单实现一个text2sql
第一次是self.sql_retriever.retrieve_with_metadata这里,这里面首先是获取表名和表的描述(我们这里没有输入),作为上下问,还有用户输入,根据预先设定好的prompt模板套进去,然后输入到模型里面,获取sql语句,然后参数解析获取sql,prompt模板如下。类解析:改类继承于BaseSQLTableQueryEngine,query的方法的主要操作是该类的_query方法,有两次调用大模型,这里再用上面的引擎定义一个数据库内,这个类提供很多参数,可以选表或者筛选表。
2024-11-02 20:20:41
1835
原创 llama-index做一个简单查询工作流(rag)
进行了多次尝试,输出结果都不是很理想哈,prompt里面又是英语又是中文的,有点为难这个0.5b的大模型了,第一次答的还算沾点边,第二次不知道为啥干翻译去了,然后这个任务的名字他也经常出错,返回错误的格式,就得不断重试和调整prompt。使用llamaparse解析PDF文件,有一个文件夹,里面都是pdf,这里可以随便放几篇论文进去,然后可以通过循环定义不同的引擎,这里我只放了一个,所以名称就没修改,只有一个。按理来说prompt的问题的话qwen也会有同样的错误,但是虽然也有发生,重复两次也总是能执行。
2024-11-02 11:57:58
1972
原创 利用llama-index的工作流生成结构化输出
要在生成的提取中传递的事件在提取无效时提供反馈的事件error: str定义了上面的agent工作步骤的函数,我想提取我们输入的省市名称Workflow,StopEvent,Context,step,上下文信息如下:{passage}根据上下文信息(而非先前的知识),从上下文中的信息创建一个 JSON 对象。JSON 对象必须遵循以下 JSON 模式:{schema}"""你之前已经创建了以下输出:这导致了 JSON 解码错误:{error}
2024-11-01 22:27:00
577
原创 llama-index的reactagent的工作流解析
处理最新的传入用户消息,包括添加到内存和准备聊天历史记录使用聊天历史记录和工具构建 ReAct 提示使用 react 提示符调用 llm,并解析函数/工具调用如果没有工具调用,我们可以返回如果有工具调用,我们需要执行它们,然后使用最新的工具调用循环返回以获得新的 ReAct 提示所以应该定义这些事件1.用于处理新消息和准备聊天历史记录的事件2.使用 react 提示符提示 LLM 的事件3.触发工具调用的事件(如果有)4.用于处理工具调用结果的事件(如果有)pass。
2024-11-01 21:24:49
1054
原创 llama-index使用vllm接口连接本地大模型qwen
一直出现这种连接错误,到后面解决了,发现是自己传进去的参数不对劲。可以看到结果可以正常输出。
2024-10-31 14:21:35
1527
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅