
rust
文章平均质量分 74
fly-iot
没什么大不了,一直写代码。
展开
-
【Tauri】(5):本地运行candle和 qwen 大模型,并测试速度
使用 candle还是非常方便的,使用另外一种方案运行大模型。使用 cpu 速度就慢多了。原创 2024-03-07 08:44:54 · 1372 阅读 · 0 评论 -
【Tauri】(4):整合Tauri和actix-web做本地大模型应用开发,可以实现session 登陆接口,完成页面展示,进入聊天界面
步骤三:设置 crates.io 镜像, 修改配置 ~/.cargo/config,已支持git协议和sparse协议,>=1.68 版本建议使用 sparse-index,速度更快。需要返回标准的 openai api 接口了。整合 tauri 代码和 actix。实现了 server::init。配置rust环境方法。原创 2024-03-07 08:02:15 · 1515 阅读 · 0 评论 -
【Tauri】(4):使用Tauri1.5版本+candle框架运行大模型,前后的搭建运行成功,整合前端项目,在应用中显示。
开源的Chatgpt-web应用。关于tauri 框架。原创 2024-03-05 23:12:52 · 566 阅读 · 0 评论 -
【candle】(4):使用rsproxy安装rust环境,使用candle项目,成功运行Qwen1.5-0.5B-Chat模型,修改hf-hub代码,使用hf-mirror加快下载模型
使用 candle还是非常方便的,使用另外一种方案运行大模型。不需要 python库直接运行,速度 10 token/s。使用gpu 速度还可以,但是使用 cpu 速度就慢多了。原创 2024-02-18 21:33:59 · 907 阅读 · 0 评论 -
【candle】(3):安装rust环境,使用GPU进行加速,成功运行qwen的0.5b,4b,7b模型,搭建rust环境,配置candle,使用hf-mirror下载模型
使用 candle还是非常方便的,使用另外一种方案运行大模型。可以对模型进行加速。原创 2024-02-18 12:22:53 · 1178 阅读 · 0 评论 -
【Tauri】(3):使用Tauri1.5版本,进行桌面应用开发,在windows上搭建环境,安装node,rust环境,可以打包成功,使用vite创建应用
请前往 https://www.rust-lang.org/zh-CN/tools/install 来安装 rustup (Rust 安装程序)。请注意,为了使更改生效,您必须重新启动终端,在某些情况下需要重新启动 Windows 本身。在windows 上需要安装 cpp 工具。原创 2024-02-13 20:37:09 · 1379 阅读 · 0 评论 -
【Tauri】(2):使用Tauri应用开发,使用开源的Chatgpt-web应用做前端,使用rust 的candle做后端,本地运行小模型桌面应用
同时,在Qwen-1.8B的基础上,我们使用对齐机制打造了基于大语言模型的AI助手Qwen-1.8B-Chat。本仓库为Qwen-1.8B-Chat的Int4量化模型的仓库。大规模高质量训练语料:使用超过2.2万亿tokens的数据进行预训练,包含高质量中、英、多语言、代码、数学等数据,涵盖通用及专业领域的训练语料。优秀的性能:Qwen-1.8B支持8192上下文长度,在多个中英文下游评测任务上(涵盖常识推理、代码、数学、翻译等),效果显著超越现有的相近规模开源模型,具体评测结果请详见下文。原创 2024-02-11 23:56:36 · 1096 阅读 · 1 评论 -
【Tauri】(1):使用Tauri1.5版本,进行桌面应用开发,在windows,linux进行桌面GUI应用程序开发,可以打包成功,使用 vite 最方便
最后就是12 mb的 文件,包括了htm。确实特别的小,运行速度快。这个函数使用的 rust 处理的,但是前端 vue 项目进行调用的。说明这个并不是 ajax 调用,而是直接调用 rust 的 函数。修改配置文件:把 com.tauri.dev 修改成其他的就行。虽然也有构建失败,但是已经生成了 二进制文件。类似java 的 jni 方式调用 c 函数。在windows 上需要安装 cpp 工具。在linux 上,需要安装 webkit2。只是没有打包成 AppImage 文件。原创 2024-02-11 09:25:22 · 2892 阅读 · 0 评论 -
rust编译器教我做人,为啥还要学习rust语言,因为想使用rust做一些底层服务,更深入的研究技术。
两周在学习 rust,这个编译器确实非常厉害。限制比较多,但是总体上感觉开发速度会慢一点。但是毕竟是后出现的语言,要是学习起来也会比C++要好理解下:坚持学习到地47 节课程了:10.5 - 生命周期(1)相比其他语言,学习曲线陡峭。而且是比较偏学术化的语言。但是做了这么多年的软件开发,学习起来还可以,慢慢学。原创 2022-12-07 08:46:46 · 579 阅读 · 0 评论 -
【rust语言】(3):rust项目有很多公司、程序员已经开始在学习、使用中了,都有 Rust Meetup 2022了,想往底层走的可以学习C++、Rust了。
实践证明,对于大规模的开发团队,即使成员的系统编程水平不同,Rust 仍是高效的协作工具。在 Rust 中,编译器充当了守门员的角色。bug,比如并发的 bug,它会拒绝编译。只要与编译器协同工作,团队就可以花更多的时间聚焦在程序。码中容易出现很多不易察觉的 bug。在其他编程语言中想要找到它们,只能设计大量的测试,并且让经。比较复古的网站呢,大家不要在意界面,访问速度还挺快的呢,去掉了样式啥的,像个纯BBS一样。活动作品Rust Web 全栈开发教程【完结】也有pdf 版本可以下载的。原创 2022-12-02 07:33:44 · 464 阅读 · 0 评论 -
【rust语言】(2):继续学习rust语言的基本语法,确实难度比java、golang的学习成本要高很多了,为了解决内存安全,提高效率做了很多的限制,同时内存安全后,安全漏洞也少很多。
未经博主允许不得转载。首先,官方自带的cargo非常方便,可以方便的创建项目,进行依赖管理,同时支持慢慢学习相关的视频。Rust编程语言入门教程(Rust语言/Rust权威指南配套)【已完结】原创 2022-11-30 08:15:15 · 388 阅读 · 0 评论 -
【rust语言】(1):开始学习rust语言,使用vscode进行开发,rust不要做为自己的第一门开发语言,c++和rust都要学习好,成年人两个都要。
Rust是一门系统编程语言 [1] ,专注于安全 [2] ,尤其是并发安全,支持函数式和命令式以及泛型等编程范式的多范式语言。Rust在语法上和C++类似 [3] ,但是设计者想要在保证性能的同时提供更好的内存安全。原创 2022-11-26 19:09:13 · 1062 阅读 · 0 评论