IT里的交易员-博客

给Dify 添加 OpenRouter DeepSeek V3 0324 (free)模型，竟然报错：Credentials validation failed with status code 400检查API keys是没问题的，最后发现时模型名称这里不可以随便命名，必须使用OpenRouter 给定的名称。其实很简单，复制一下即可。点击下图红色区域的复制按钮，就可以复制前面的模型名称，即：deepseek/deepseek-chat-v3-0324:free之后粘贴在上图的模型名称里即可。

安装docker，本地部署Dify，网上教程很多。关键步骤是下载Dify，进入docker目录，并运行以下命令。cd docker目前Dify 已升级到v1.1.2，感兴趣的小伙伴可以试试。

最近通过Ollama在本地部署deepseek的帖子甚多，这里不再重复。但使用中，总会发现有不顺手的地方，这就需要通过Ollama参数优化的方法来实现。为方便大家，这里做个简单分享。由于Ollama是直接在cmd命令行里运行，所以各种参数需要添加用户环境变量来实现，这个多少有点麻烦。希望以后可以在命令行里直接添加参数，或者使用json等文件修改配置。

使用过豆包AI，其反馈不论是速度还是质量都可圈可点，在中文大模型里很值得推荐。于是就想是否可以使用API调用一下。话说火山引擎的安装FAQ文档写得太简陋了。这么好的AI引擎，却在安装过程中折腾了这么好久，真是坏人心情。好在一起最终都搞定了。写个博文，给新来的小伙伴做个debug参考，免得走弯路！

ChatGPT的横空出世，打开了AI的大门，但是国内访问ChatGPT障碍颇多，那么有没有适合我们国人的大模型呢？答案是肯定的。在国人的聪明和勤劳下，这些都不是事儿。今天我们就介绍一款国人开发的AI平台，关键是可以部署在本地，还可以远程访问。最关键的是免费！！！对于文章、小说的宝宝们简直是福音！RWKV模型管理，一键启动前后端分离，如果你不想使用客户端，也允许单独部署前端服务，或后端推理服务，或具有WebUI的后端推理服务。简明服务部署示例 | 服务器部署示例。

要玩AI大模型，Hugging face 不可错过，但资源虽不错，可奈何国内下载速度很慢，动则GB的大模型，下载很容易超时，经常下载不成功。很是影响玩AI的信心。（有人说用迅雷啊，试试就知道了。经过多次测试，终于搞定了下载，即使超时也可以继续下载。就算程序中断，再打开仍可断点续传。真正实现下载无忧，大模型自由！通过镜像和程序化下载，可以彻底解决大模型下载，再配合大模型框架就可以自由玩耍了。【AI之路】使用Jan.ai在本地部署大模型开启AI对话（含通过huggingface下载大模型，实现大模型自由）

2023年是AIGC元年，2024，每个人多少都会接触到GPT带来的变换。别人都在用，我们也不能落下。ChatGPT咱用不了，可以用国内的各种大模型。今天，我们还可以把大模型放到本地电脑上运行，不信？咱往下看！Jan未来还将可以自行添加大模型，有兴趣的小伙伴也可以照着models目录的命名要求和model.json文件要求自行添加。

有2台电脑进行Catboost训练，新电脑训练一直正常，换到老电脑里总是报错，各种百度，还是没有解决问题，突然想到，会不会是版本环境问题。踏破铁鞋无觅处，得来全不费工夫。以后报错了，先检查库文件版本，甚至是Python版本。生产系统和测试系统要保持环境一致，避免不必要的麻烦。

Hugging face 资源很不错，可是国内下载速度很慢，动则GB的大模型，下载很容易超时，经常下载不成功。很是影响玩AI的信心。经过多次测试，终于搞定了下载，即使超时也可以继续下载。真正实现下载无忧！究竟如何实现？且看本文分解。