不会飞的小龙人的博客

摘要：Ollama是一个开源工具（ollama.ai），支持在本地离线运行大语言模型（LLM），适用于数据敏感场景和开发者测试。支持模型包括Llama2、Mistral、CodeLlama等。部署方法包括下载二进制文件或使用安装脚本，通过环境变量配置API访问。集成BGE-M3向量模型时需注意格式兼容性（仅支持GGUF格式），需通过Modelfile导入并使用API调用嵌入功能。BGE-M3适用于多语言检索、语义搜索等场景，通过Ollama的/api/embed端点生成文本向量。相关资源包括模型下载地址和A

ollama是一个开源工具（ollama.ai），允许用户在 本地设备（无需联网）运行 LLM。终端用户通过ollama低成本体验大模型能力。Qwen3 是 Qwen 系列中的最新一代大型语言模型，提供了一整套密集型和专家混合（MoE）模型。基于广泛的训练，Qwen3 在推理、指令遵循、代理能力和多语言支持方面取得了突破性进展。