探索 AI 和 .Net 技术结合的前沿—

本文链接：https://blog.youkuaiyun.com/u012094427/article/details/145115379

在信息爆炸的今天，我们需要更加智能和高效的工具来帮助我们管理和处理海量数据。AntSK, 一个基于 .Net8、AntBlazor 和 SemanticKernel 构建的智能代理，正是应运而生。今天，我将为大家详细介绍这个强大的平台，其核心功能以及如何在不同业务场景中应用。

AntSK 核心功能解析

1. 语义内核（Semantic Kernel）

AntSK 利用了先进的自然语言处理技术，能够准确理解、处理并响应复杂的语义查询。这一功能使其能够为用户提供精确的信息检索和推荐服务，大大提升了用户体验。

2. 内核记忆（Kernel Memory）

内核记忆可以进行持续学习和存储知识点，具备长期记忆功能。这意味着 AntSK 可以积累经验，实现更加个性化的互动体验。

3. 知识库

AntSK 支持通过多种格式的文档（如 Word、PDF、Excel、Txt、Markdown、Json、PPT）导入知识库，并进行知识库问答。这为企业知识管理提供了强有力的支撑。

4. GPT 模型生成

平台支持创建个性化的 GPT 模型，用户可以根据需求构建自己的 GPT 模型。这使得 AntSK 可以轻松满足不同业务场景下的定制化需求。

5. API 接口发布

通过以 API 形式公开内部功能，开发者可以将 AntSK 集成到其他应用中，从而增强应用的智能化水平。

6. API 插件系统

开放 API 插件系统，允许第三方开发者或服务提供商轻松将其服务集成到 AntSK 中，持续增强应用功能。

7. .Net 插件系统

同样地，开放 dll 插件系统，第三方开发者或服务提供商可以通过生成标准格式的代码 dll，轻松将其业务功能集成，进一步提升应用的可扩展性。

8. 在线搜索

通过实时访问最新信息，AntSK 确保用户能够获取到最及时、相关的数据。

9. 模型管理

AntSK 能够适应并管理集成来自不同厂商的各种模型，包括由 llama.cpp 支持的 gguf 类型模型，以及由 llamafactory 和 ollama 支持的离线运行模型。

10. 国内创新

AntSK 支持国内模型和数据库，并可以在国内创新环境下运行，满足本地化需求。

11. 模型微调

基于 llamafactory 平台计划进行模型微调，以适配更多业务场景。

AntSK 的应用场景

AntSK 适用于各种业务场景，例如：

企业知识管理系统
自动客服和聊天机器人
企业搜索引擎
个性化推荐系统
智能写作助手
教育和在线学习平台
其他有趣的 AI 应用

功能示例演示

我们已经提供了一些在线 demo 供大家体验：

默认账号：test
默认密码：test

由于云服务器配置较低，本地模型无法运行，因此系统设置权限已关闭。用户可以简单查看界面。若需要使用本地模型，请下载并自行使用。在这里展示了如何使用 Postgres 作为数据和向量存储，但您也可以选择其他选项。

启动 AntSK 的快速指南

1. 使用 docker-compose

提供了 pg 版本的 appsettings.json 和简化版本（Sqlite+disk）的 docker-compose.simple.yml。

从项目根目录下载 docker-compose.yml，并将配置文件 appsettings.json 放在同一目录。

pg 镜像已经准备好。您可以在 docker-compose.yml 中修改默认用户名和密码，然后在 appsettings.json 中使数据库连接保持一致。

在目录中执行以下命令以启动 AntSK：

docker-compose up -d

2. 如何在 docker 中挂载本地模型和模型下载目录

示例配置文件内容：

version: '3.8'
services:
  antsk:
    container_name: antsk
    image: registry.cn-hangzhou.aliyuncs.com/AIDotNet/antsk:v0.5.0
    ports:
      - 5000:5000
    networks:
      - antsk
    depends_on:
      - antskpg
    restart: always
    environment:
      - ASPNETCORE_URLS=http://*:5000
    volumes:
      - ./appsettings.json:/app/appsettings.json # 本地配置文件需要放在同一目录下
      - D://model:/app/model
networks:
  antsk:
    external: true

这意味着将 Windows 的本地 D://model 文件夹挂载到容器中的 /app/model 文件夹。因此，您的 appsettings.json 文件中的模型地址应配置为：

3. 一些配置文件的含义

{
  "DBConnection": {
    "DbType": "Sqlite",
    "ConnectionStrings": "Data Source=AntSK.db;"
  },
  "KernelMemory": {
    "VectorDb": "Disk",
    "ConnectionString": "Host=;Port=;Database=antsk;Username=;Password=;",
    "TableNamePrefix": "km-"
  },
  "FileDir": {
    "DirectoryPath": "D:\\git\\AntBlazor\\model"
  },
  "Login": {
    "User": "admin",
    "Password": "xuzeyu"
  },
  "BackgroundTaskBroker": {
    "ImportKMSTask": {
      "WorkerCount": 1 
    }
  }
}

配置文件支持多种数据库，例如：SqlSugar、MySql、SqlServer、Sqlite、Oracle、PostgreSQL 等。

4. 使用 llamafactory

首先确保您的环境中安装了 Python 和 pip。若使用包含完整 Python 环境的镜像（如 v0.2.3.2 版），则无需此步骤。
进入模型添加页面并选择 llamafactory。
点击 'Initialize' 检查是否已完成 'pip install' 环境设置。
选择您喜欢的模型。
点击 'Start' 开始从接收塔下载模型。这可能需要一些时间。
下载完成后，在请求地址中输入 http://localhost:8000/。默认端口是 8000。
点击 'Save' 并开始聊天。
很多人问起 LLamaSharp 和 llamafactory 的区别。实际上，LLamaSharp 是 llama.cpp 的 .NET 实现，仅支持本地 gguf 模型，而 llamafactory 支持更多种类的模型，并采用 Python 实现。主要区别在此。此外，llamafactory 具备微调模型的能力，这是未来我们将重点集成的领域。