freewebsys的专栏

AI 编程时代，开发语言选型需综合考量AI适配度、编译速度、跨平台与学习成本。Python以海量语料和即时执行成首选，适用于AI/ML与原型开发；TypeScript凭借类型系统与秒级构建，成为前端及应用层主流；Go以极速编译与统一风格，契合AI代理高效迭代需求。Rust/C++虽性能强，但编译慢、学习成本高，不适于快速试错。综合推荐：优先选Python、TypeScript、Go，兼顾效率与生态，实现最优AI协作体验。

但是 Dify 运行报错，估计下一个版本就会修复了：但是测试接口，都是支持 stream 的：测试接口"messages": [{"role": "user", "content": "北京景点"}],}'

总体上效果还不错。速度也挺快的。需要 40G的显存才可以启动成功。而且可以使用webui 启动成功。

对 Dify 项目进行升级，同时可以通过配置 【 OpenAI-API-compatible】可以支持聊天模型和 embedding 接口。然后就可以搭建自己的知识库系统了。速度上yi 6b 稍微慢点，但是回答的问题比较详细。

对 Dify 项目进行升级，同时可以通过配置 【 OpenAI-API-compatible】可以支持聊天模型和 embedding 接口。然后就可以搭建自己的知识库系统了。但是发现 7b的模型聊天的时候还是有点小。后续可以研究下14B的大模型。

Dify 项目非常不错，代码写的也好，就是数据库是 Postgresdb 的，需要切换成Mysql。不过还好使用的是 sqlAlchomy 切换起来也是非常的方便的。