GitHub 爆火快速搭建企业级别知识库！！

最新推荐文章于 2025-10-21 13:40:16 发布

原创最新推荐文章于 2025-10-21 13:40:16 发布 · 792 阅读

CC 4.0 BY-SA版权

文章标签：

#人工智能 #RAG #embedding #langchain #github #llama

最近在企业级别的知识库需求特别多，在GitHub 上面找到了一个开源框架——llmware 是一个专为企业级 RAG（Retrieval-Augmented Generation）应用设计的统一框架，主打小型、专用模型，可在本地部署，兼顾隐私、安全与成本效益。

🧰 核心能力

模块	功能说明
RAG Pipeline	完整生命周期：从知识源接入 → 检索 → 生成
50+ 小型专用模型	专注企业任务：问答、分类、摘要、提取（如 SLIM、BLING、DRAGON 系列）
模型目录（ModelCatalog）	统一调用 150+ 模型（支持 GGUF、HuggingFace、OpenAI 等）
文档处理（Library）	支持 PDF、Word、Excel、PPT、图片等格式的解析、切块、向量化
检索（Query）	文本检索、语义检索、混合检索、元数据过滤
提示与生成（Prompt）	支持“带来源的提示”（Prompt with Sources），自动将检索结果注入 LLM
代理（Agents）	多模型协作，支持函数调用（如情感分析、提取、摘要）

🚀 快速上手

1. 安装

pip3 install llmware
# 或完整安装
pip3 install 'llmware[full]'

2. 运行第一个例子（本地合同分析）

from llmware.prompts import Prompt
from llmware.setup import Setup
import os

# 下载示例合同
sample_path = Setup().load_sample_files()
contracts_path = os.path.join(sample_path, "Agreements")

# 加载本地模型
prompter = Prompt().load_model("bling-phi-3-gguf")

# 分析合同
contract = os.listdir(contracts_path)[0]
prompter.add_source_document(contracts_path, contract, query="executive employment agreement")
responses = prompter.prompt_with_source("What is the executive's base salary?")
print(responses[0]["llm_response"])

🔥 最新亮点

• SLIM 模型：支持函数调用，适合构建多步代理工作流。
• DRAGON 系列：6-9B 参数，企业级 RAG 优化，支持 GGUF 本地部署。
• BLING 系列：1-5B 参数，笔记本即可运行，适合快速原型开发。
• 新工具：
- • BizBot：本地 RAG + SQL 商业智能聊天机器人。
- • Lecture Tool：语音转文字 + 问答。
- • OCR 支持：提取 PDF/图片中的文字。
• 多数据库支持：SQLite（免安装）、Mongo、Postgres、Milvus、ChromaDB 等。

📦 模型速览

系列	参数规模	特点	示例模型
SLIM	1-3B	函数调用、代理任务	`slim-extract-tool` , `slim-sentiment-tool`
BLING	1-5B	RAG 优化、笔记本运行	`bling-phi-3-gguf` , `bling-tiny-llama-v0`
DRAGON	6-9B	高精度、企业部署	`dragon-yi-answer-tool` , `dragon-mistral-answer-tool`
Industry BERT	-	行业专用嵌入模型	`industry-bert-sec` , `industry-bert-loans`