- 博客(2)
- 资源 (2)
- 收藏
- 关注
翻译 LLaMA.cpp HTTP Server 使用帮助(Readme.md中文译文)
LLaMA.cpp HTTP服务器是一个基于C/C++的轻量级HTTP服务,提供与OpenAI API兼容的LLM推理功能。主要特性包括:支持F16和量化模型的GPU/CPU推理、并行解码与多用户并发、连续批处理、多模态API、函数调用等功能。服务器提供丰富的参数配置选项,包括线程控制、CPU亲和性设置、上下文大小调整、批处理优化等。支持多种缓存策略和硬件加速选项,如Flash Attention和KV缓存卸载,同时提供NUMA系统优化和详细的性能监控功能。基于llama.cpp b7599版本汉化翻译
2026-01-09 16:10:03
1153
sqlite数据库操作
Android 提供了一个名为 SQLiteDatabase 的类,该类封装了一些操作数据库的 API,使用该类可以完成对数据进行添加(Create)、查询(Retrieve)、更新(Update)和删除(Delete)操作(这些操作简称为 CRUD) 。
2013-05-08
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅
1