添柴程序猿的专栏

好来看一下,总结一下,现在可以用的AI数据库管理工具,可以提高效率,不过这里说一下,方便是方便了一些,但是其实还是,集成了AI的能力而已,如果你用,其他的AI,去问一下sql怎么写,然后放到,数据库管理工具中执行也行. 希望AI数据库管理工具,可以将语义,直接转换成SQL,把多表关联起来.如果足够强大,那么就相当于,提供一个数据库,就相当于拥有一个小系统了.自己,多接触,多尝试,跟上时代.多学习.拓宽自己的,能力面,多掌握几门技术,这边不行那边行,具体的功能可以在使用中去探索,也是值得使用的.

所以这里我们要总结一下，虽然现在的ai编程工具已经可以帮我们开发者提高一些效率了，但是如果把很长的上下文提供给aa去参考，那么他对整体的把握还是非常的欠缺，但是我们依然可以在小范围中去利用ai提升我们的工作效率。然后这里我们可以发现他提供的这个导出的方法其实麻烦了一些，因为我们的框架提供了一个，只需要简单的添加一个注解就可以实现导出功能的这样一个。然后我们就可以启动项目了，现在我们启动的是他的后端。可以看到我们去选中前端的文件夹，然后直接导入进来就可以了，然后我们需要再去安装一下他的支持扩展VUE。

2.Manus 这个就炸裂了,今天刚刚出来20250306172457 的,其实就是智能体,但是Manus,把使用的工具,做的更优秀,更通用,并且,为AI提供了一台虚拟电脑。首先给出一个网站:这里集合了,AI开发,设计,写作,视频,办公,编程,搜索,音频,训练,翻译,助手,评测等工具,以及最新新闻.可以看到,官网有给出使用码上飞,做好的应用,可以看到,效果,能用,但是,没有定制化的那么美观,好看,应该是也可以,制动修改吧.最近AI界爆出的,新工具太多了,这里很有必要整理一下,现在相信,很多人,有很多工具。

这里的一定要注意,是资源不够用了,可以点击ragflow-server左边的小绿点,查看 结果。注意去把内存改成10G把至少,我这里改成了10G,因为电脑一共就16G,再试试吧.可以看日志,就显示的是没有连接上mysql,结果我一看,mysql,根本没启动.然后下面选择general就可以了,然后点击确定,然后再去点击。手动去启动,然后再去试试,注意,内存这里给8G太小了还是.调成8G了,然后硬盘大了大了一些换成50G了,然后。点击系统模型设置可以看到,选择聊天模型就可以了,

我在这里执行了好几次,可能因为网络不稳定吧或者,去找一个稳定的源比较好。创建以后,然后提取知识库内容的这个bge-large-zh 这个也选好。点击系统模型设置可以看到,选择聊天模型就可以了,可以看到我们再去配置一下聊天配置,助力姓名等等。这里就难成功了,执行了好几次,碰运气吧...然后等,自动下载了以后,他就会自动启动。这里的87行,这里的注释打开就可以了。执行了以后可以看到,等待执行结束.挺快的,下载了以后,然后直接再去。打开以后,然后接着 保存就可以了。启动以后可以去确认一下服务的状态。

注意安装的时候,如果有一个 选择使用WSL 还是 HYPER-V 那么这里如果,你已经电脑上开启hyper-v了,或者别人远程这台电脑用,但是,如果你想发布出去使用,那就需要用web版了,现在我们来安装一个web版使用,ollama list 可以看到,就可以看到自己下载的模型了,刚开始是没有的,下载以后就有了,然后。到时候我们使用容器,部署的RAGFLOW,来穿透,访问 本机部署的deepseek模型用的。去到这种比较快速的里面去下载,速度会快一点,要不然很慢,这里使用proton好像很快的。

默认的模型位置放在这里了,如果你可以自己去下载模型,利用国内的很多仓库,那么,你下载以后放到这里就可以了.现在说一种,超级简单的安装方式,但是,是桌面版的,当然如果,你想做成网页版的发布出去,内网中都可以用。但是如果你下载不下来,那么你需要,从国内的一些仓库下载,然后放到模型目录就可以了,注意要下载。点击搜索可以看到还有很多其他的模型,你可以直接下载,下载以后就可以直接用了,超级方便。然后再去建一个文件夹,这个文件夹,你可以用,你下载的模型的名字来创建。找到对应的模型以后,然后可以直接打开,然后看到有个。

可以看到首先要获取数据，然后清洗并准备数据，然后再生成模型，然后再来评估模型，然后部署模型，然后就可以从模型中获得预测或者推理了。可以看到经历这个过程以后最终会我们得到一个经过训练的模型，也就是机器学习的模型，拿到这个模型我们就可以在输入数据以后会得到预测值。4.最后我们就可以输入一堆的数据,这个里面就是输入n维的向量,这个其实就是对已有的数据进行编码以后的数字表示，上面的图片就是这个模型的工作过程可以看到，假如我们输入一张图片，经过了这个模型以后，就会产生一个预测值。根据损失,一步步去调整函数中的权重。

由于SpringAI不支持国内的大模型,因此Spring Cloud Alibaba 基于SpringAI做了一套可以支持,spring-ai-alibaba-starter 这个是springai alibaba的依赖.然后这里,拓展一下仓库,因为maven仓库中,还没有最新的,我们要用的jar依赖,所以这里。首先要去百炼平台,阿里的,去申请apikey 登录以后.可以看到有很多的模型,会给一些免费的额度用来测试。可以看到支持的功能,有很多,支持RAG等等,然后。可以看到返回的结果.

可以看到上面传入一个图片地址,还有用户的提问,对一张图片进行提问.可以看到也挺简单,这里返回一个response对象。也是跟之前的项目一样,修改版本1.0.0 这里。然后修改仓库地址,为springai的地址。可以看到springai对多模态的支持.我们拿到案例代码,然后。

openAiAudioSpeechClient.call 可以看到,返回了一个字节数组,这里。我们网上找一个方法可以,把字节数组,转换成文件的,可以看到上面转换成mp3文件了.然后再来看仓库的位置修改一下,跟之前一样,因为Maven默认仓库中还没有这个包。可以点击model,然后进入代码,然后打断点,然后执行的时候看看。打开,会发现没问题,并且,英文,以及夹着数字的,也没问题.然后保存一下,启动项目,访问接口,然后看到文件被保存了.然后修改一下,仓库,引入 sring ai的仓库。

因为我们用的snapshot快照版的,所以我们把这个里面,设置成enable是false.这里需改一下n:1 然后,代码中也修改成1, 配置文件和代码中,只一方面设置就可以了。StreamingChatClient 对吧 一个是文本的,一个是流式的。然后执行报错了可以看到,是只能同时生成一个图片,我们的模型。上面是代码,可以看到,返回ImageResponse。可以看到我们设置一些参数,这里有图片质量,生成个数,可以看到这个我得到的api,支持的画图模型有这些.

我们这里去new Prompt传入,然后返回一个ChatResponse,然后返回。如果想看,默认调用的是什么模型,可以这样,从这里点进去 配置文件这里是可以点击的。可以看到配置文件中配置了也是生效的,虽然代码中没有配置,也会报错.关于这个参数怎么使用,可以去看官方文档,这里,找到api doc。说不支持这个版本的模型调用,因为免费的API接口限制了调用.版本越高,越好,温度越高,创造性越好.可以看到上面的介绍。删除gpt-4-32k的设置,或者用低版本的就可以了.

然后要注意,我们得到的这个接口的地址,其实是一个中转地址,也就是说,我们访问这个中转地址,然后他这个地址,再去访问。所以在得道这个key的时候,要问清楚,可以看到得到的时候,有很多标注了是中转,还是直连的.spring-ai-bom 这个,然后sping-ai.version 是上面定义的版本。然后再需要配置一个仓库,因为,maven的官方仓库中还没有springai的jar包。可以看到内容就变了,导入的变成1.0.0的snapshot版本的了。可以看到Maven的官网,还没有springai的jar包。

SpringAI不支持国内大模型,但是SpringAI Alibaba可以,后面会写一个如何使用。需要有个openai的 api key 可以在淘宝上弄一个.8太旧了.很多开始支持17,不支持8了. 要慢慢替换了项目.还有openai就行了,其实就是导入了一个包,选中以后.可以看到创建以后的项目,下一步就是配置项目中的依赖了.SpringAI Alibaba的文章,很简单.创建模块,注意,要高一点的版本idea,才支持。可以看到SpringAI 支持的模型.可以看到支持的特性还是挺多的,

3.将,带翻译的文本语言,以及要翻译成的目标语言,然后给出带翻译文本,然后给出大模型第一个翻译的文本,并给出大模型进行提出翻译的优化建议,让大模型进行优化,再把优化后的结果给出最后结果.1.给出,带翻译的文本语言,以及要翻译成的目标语言,然后给出带翻译文本,先让大模型进行翻译.得到第一次翻译的文本translation_1。2.给出,带翻译的文本语言,以及要翻译成的目标语言,然后给出带翻译文本,然后给出大模型第一个翻译的文本,并让大模型进行提出翻译的优化建议.### ❓ 什么样的职场打工人是合格的打工人？

可以看到其实就是,用户输入,然后使用chat_engine上面定义的多轮对话引擎去回答就可以了.另外LlamaIndex还支持智能体开发框架,RAG评测框架,还有过程监控工具也有,另外对于RAG开发中遇到的一些,比较复杂的问题,比如如果解析表格等等,这个是requirements.txt 是开发中使用的各个工具的版本.这个是LlamaIndex的大模型开发框架的一个架构图.以上地址,有很多人碰到,并提出了解决方案,可以去查阅.基于LlamaIndex实现一个完整的RAG系统.这个是RAG开发的架构图.

然后我们给指定的这个text-embedding-3-small向量化模型,在对内容进行向量化的时候,使用512维进行向量化.。当然咱们的LlamaIndex还为我们提供了很多其他的检索以后,再去处理结果的方法，具体的可以参考官方文档。如果我们想要设置的大模型在LlamaIndex框架中的所有地方都可以使用，那么需要使用上面的设置方法。格式化以后输出,其实就是把格式化的时候,需要的内容自动填充到了提示词模板中，然后做出了输出。上面我们设置了大模型，只是临时的时候可以使用,也就是在当前对话中可以使用，

然后我们再来看LlamaIndex提供的IngestionPipeline这个功能是通过多个步骤来处理数据的，并且它可以把每个步骤都缓存下来，并且把结果也缓存下来，这样的话如果我们处理完一遍某个数据了，然后下次再处理的时候，同样的处理就不会发给大模型了，就可以直接从缓存中获取，这样就节省了token就是节省了钱。chroma来进行向量存储了.,这样得到一个vector_store,向量存储的变量,然后,再用,StorageContext这个存储容器,指定,我们的。是因为他使用了之前的缓存。

这种NodeParsers这种的工具,主要是对,有文档结构的,比如markdown文档,它里面就是有结果的,比如几级标题啊等。可以看到切完以后的结果可以看到这里有,relationships,记录了1,2,3...这个是为了,用来保证切分后,NodeParser还提供了一些其他的结构化文档的解析,比如HTML的,JSON的等等.上面已经给出了对应的地址,可以看到,这里面有非常多的,三方的数据加载工具都是可以用的.还有docx中也是有文档的几级标题等,有结果的文档,他可以把文档的内部结构解析出来.