手机部署模型

原创 已于 2025-09-17 22:12:46 修改 · 415 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

于 2025-02-10 11:42:28 首次发布
部署运行你感兴趣的模型镜像

1.安装termux

Releases · termux/termux-app · GitHub

termux-app_v0.119.0-beta.1+apt-android-7-github-debug_arm64-v8a.apk

2.安装ollama 依赖

pkg install git cmake golang
git clone --depth 1 https://github.com/ollama/ollama.git

如果出错找不到库 运行pkg upgrade

3. cd ollama

4. generate

go generate ./

5. build

go build .

6.启动ollama服务

./ollama serve

7.新建 termux session 运行deepseek 模型

./ollama run deepseek-r1:1.5b

8.使用15亿参数 高通骁龙888 CPU占用率600%

CPU

9. 浏览器查看ollama状态

10. 安装火狐page assist插件

11. 选择模型

12.使用page assist

 

 

 

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调

iffy1
关注
Android Termux 安装Kali Linux 或 kali Nethunter史诗级详细教程
风云小虾米的博客
12-02 6万+
Termux 安装kali
Termux安装完整版Linux(Ubuntu)详细步骤
weixin_49663860的博客
03-12 8万+
Termux安装完整版Linux(Ubuntu)详细步骤
黑客真的能入侵你的摄像头吗？
分享Python知识
07-07 1714
黑客真的能入侵你的摄像头吗？
termux安装以及基本配置
weixin_63204687的博客
11-09 1万+
termux基本学习
termux 配置和系统安装
哦豁灬
12-25 6万+
通过配置 ssh，可以通过电脑远程连接（window 下的各种 terminal 工具或者是 Linux terminal 直接连接），这样可以降低眼睛的耗损，使用电脑也方便代码编辑。Termux 是 Android 平台上的一个终端模拟器，它将众多 Linux 上运行的软件和工具近乎完美的移植到了手机端。由于 Termux 默认使用国外的镜像源，在国内访问国外服务器会很慢或者连接不上，因此需要将镜像源换成国内的镜像源。注：在没有内网穿透的情况下，可以 ssh 连接的前提是手机和电脑处于同一局域网下。
Termux——安装配置
易冰亦寒的博客
10-23 3万+
1.修改启动问候语 2.定制功能键区 3.zsh——终端美化 4.超级管理员身份 1）手机已经root 2）手机未root 5.备份恢复 1）备份 2）恢复 6.ssh访问 1) 安装 openssh 2) Termux远程连接服务器 3) 电脑ssh连接Termux ① ssh服务启停 ② 通过密码认证连接 ③ 通过公私钥连接
ONNX Runtime安卓手机APP，水果分类模型部署
04-07
通过以上步骤，我们可以将一个训练好的水果分类模型部署到Android手机应用中，实现用户拍摄水果图片后，即时识别出水果种类的功能。在实际开发过程中，还应考虑性能优化、错误处理、用户体验等因素，以确保应用的...
模型部署以及Flask 本地部署模型
是十一月末的博客
03-18 1566
模型部署以及Flask 本地部署模型
【移动端AI部署】基于ADB与MNN框架的安卓端大模型推理系统实现：从模型转换到手机端性能测试全流程
最新发布
11-09
内容概要：本文详细介绍了如何通过ADB在安卓手机上运行基于MNN框架的大模型，主要包括三个核心步骤：首先将预训练模型转换为MNN支持的格式；其次在Linux环境下（文中使用Google Colab）编译MNN执行引擎及相关库文件...
fire_基于MNN-llm的安卓手机部署大语言模型：Qwen1.5-0.5B-Chat_Qwen1.
09-02
本文档详细介绍了一套系统，该系统基于MNN（Mobile Neural Network）-llm技术，实现了一个名为Qwen1.5-0.5B-Chat_Qwen1.5-0.5b-chat-android的大语言模型在安卓手机上的部署方案。 首先，这套系统的名称“Qwen1.5-...
精选资源
yolov5模型部署到安卓手机-源代码
06-20
yolov5模型部署到安卓手机-+模型文件+app源代码，下载后可以直接编译使用； 详情请参考文章： https://blog.youkuaiyun.com/qq122716072/article/details/125371307 示例： 内容概要：安全帽识别模型部署android app
Termux 0.118版本详细安装教程，成功解决了Pandas、Matplotlib、Numpy及Jupyter等安装失败的问题
金戈鐡馬
06-15 3万+
网上很多关于Termux安装Numpy、Matplotlib、Pandas的教程，都是依赖Python3.9以下的，自从Termux官方将Python升级到3.10之后，很多都失效了。准备：手机一台（Android 7.0及以上）官网下载地址：Termux | F-Droid - Free and Open Source Android App Repository或google play下载安装。 设置完换源后，记得更新哦利⽤ proot 可以为⼿机没有root的⽤户来模拟⼀个root的环境然后终端下
在Android手机上安装kali Linux
heStudio
03-12 8万+
由于kali官方的Nethunter[1]的安装代码因为…无法访问，手头又没有一些受支持的机器[2]，所以做了这个脚本供大家使用。 工具 搭载基于Android的手机 Termux VNC Viewer(不一定需要) 手（脚也可以）
Android 手机的高级终端 Termux 安装使用、busybox、安卓 手机 web
热门推荐
freeking101的博客
01-28 10万+
手机已经 root安装 tsu，这是一个 su 的 Termux 版本，是一个真正的 root 权限，用来在 Termux上替代su，操作不慎可能对手机有安全风险，因为官方封装了，所以安装也很简单：安装 tsu：pkg install tsu -y切换到 root：tsu退出 root：exittsu切换 root 用户时会弹出 root 授权提示，给予其 root 权限即可。在管理员身份下输入 exit 可回到普通用户身份。
Termux 安装使用
m0_69508376的博客
01-26 6268
Termux 是一个 Android 下一个高级的终端模拟器，开源且不需要 root，支持 apt 管理软件包，十分方便安装软件包，完美支持 Python、 PHP、 Ruby、 Nodejs、 MySQL 等。随着智能设备的普及和性能的不断提升，如今的手机、平板等的硬件标准已达到了初级桌面计算机的硬件标准，用心去打造 DIY 的话完全可以把手机变成一个强大的极客工具。下载地址特穆克斯|主术语站点和帮助页面。Termux - Google Play 上的应用。
2024最新最全Termux下载安装教学，黑客必备
xiangxue888的博客
09-12 4681
2024最新最全Termux下载安装教学，黑客必备
Termux 高级终端安装使用配置教程
Rebirth 重生
03-20 1万+
Termux 高级终端安装使用配置教程,这篇文章拖了有小半年.因为网上相关的文章相对来说还是比较少的,恰好今天又刷了机,所以就特意来总结一下,希望本文可以帮助到其他的小伙伴.发挥Android平台更大的DIY空间. 简介 Termux是一个Android下一个高级的终端模拟器,开源且不需要root,支持apt管理软件包，十分方便安装软件包,完美支持Python,PHP,Ruby...
网络安全未来十年会很吃香吗？跟当年的Java开发比如何？
QXXXD的博客
02-02 1340
网络安全入门到底是先学编程还是先学计算机基础？
termux安装linux（ubuntu、centos、opensuse等）
weixin_51228185的博客
12-13 3078
例如，在不影响主机系统的情况下，用户能在Android设备上模拟出一个完整的Ubuntu环境来运行相关软件。能够模拟众多常见的Linux发行版，如Debian、Ubuntu、Fedora等，方便用户体验不同发行版的特性。它能为每个模拟的发行版创建独立的环境，这意味着不同环境中的软件安装、配置和运行不会相互干扰。在模拟的环境中，用户可以使用对应发行版的包管理器安装软件，就像在真实的系统中一样。开发者可以在不同的Linux发行版环境中测试程序，确保软件在多种环境下的兼容性。
安卓手机部署大模型
07-05
在安卓设备上部署大型机器学习模型面临多个挑战，包括设备的计算能力限制、内存容量以及电池续航等问题。然而，通过一些优化和工具支持，可以实现高效的模型部署。 ### 使用 TensorFlow Lite 进行模型优化 TensorFlow Lite 是 Google 推出的一个轻量级解决方案，专门用于在移动设备和嵌入式设备上运行机器学习模型。它提供了一个转换器工具，可以将标准的 TensorFlow 模型转换为适用于移动设备的格式，并且支持多种优化策略以减少模型大小并提高推理速度 [^2]。 例如，可以使用以下代码片段来加载一个 TensorFlow Lite 模型并进行推理： ```python import numpy as np import tflite_runtime.interpreter as tflite # 加载 TFLite 模型 interpreter = tflite.Interpreter(model_path="model.tflite") interpreter.allocate_tensors() # 获取输入输出张量 input_details = interpreter.get_input_details() output_details = interpreter.get_output_details() # 创建输入数据 input_shape = input_details[0]['shape'] input_data = np.array(np.random.random_sample(input_shape), dtype=np.float32) # 设置输入张量 interpreter.set_tensor(input_details[0]['index'], input_data) # 执行推理 interpreter.invoke() # 获取输出结果 output_data = interpreter.get_tensor(output_details[0]['index']) print(output_data) ``` ### 利用云边协同训练与推理 为了减轻本地设备的压力，可以采用云端协同的方式来进行模型训练和部分推理任务。Pitaya 平台就采用了 MLX Notebook（字节跳动提供的设备-云协同 Notebook 服务），提供了集成的 JupyterLab 环境，以便于在设备上训练 AI 模型 [^3]。这种方式允许用户在云端处理复杂的计算任务，而仅将必要的模型推送到设备端执行。 ### 模型压缩与量化 对于大型模型来说，可以通过模型压缩技术如剪枝、量化等手段来减小模型体积，同时保持较高的准确率。TensorFlow Lite 支持量化感知训练（Quantization-Aware Training, QAT）以及后训练量化（Post-training Quantization），这些方法可以在不显著影响模型性能的前提下大幅降低模型复杂度 [^2]。 ### 分布式推理与边缘计算 如果单一设备无法承载整个模型，则可以考虑分布式推理架构，即将模型拆分成多个部分分别部署到不同的设备或服务器上，或者利用边缘计算节点来辅助完成计算密集型的任务。 ### 相关问题 1. 如何在 Android 应用中集成 TensorFlow Lite 模型？ 2. 哪些是适合移动端使用的机器学习框架？ 3. 如何对深度学习模型进行量化处理以适应移动端需求？ 4. 边缘计算如何帮助提升移动端机器学习应用的表现？ 以上措施可以帮助开发者克服在 Android 设备上部署大型机器学习模型时遇到的技术难题，并确保应用程序能够高效稳定地运行。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值