在即时通讯系统中集成AI大模型

我们的傲瑞通(OrayTalk)企业即时通讯系统的主要客户是事企业单位、政府部门等,这些客户的使用场景经常是需要在内网中私有化部署。由于安全方面的考虑,这些内网环境是不能连接到公网的,所以私有化部署傲瑞通IM就是必须的选择。

随着DeepSeek的热潮,越来越多的企业也开始部署并训练自己的AI大模型,这样能使企业以前沉淀的专业知识和经验能更高效地被利用起来。如果能在傲瑞通(OrayTalk)里集成AI大模型,那用户就可以在傲瑞通的聊天界面中,直接和AI大模型对话,就像和同事对话一样。

那傲瑞通是如何集成AI大模型的了?

(1)傲瑞通客户端新增了与AI大模型对话的UI入口。

傲瑞通IM集成AI大模型(DeepSeek)

(2)傲瑞通客户端也提供了查询与AI对话的历史记录。

傲瑞通IM中查看与AI的对话记录 

 点击对话记录中的问题,会弹出新窗口显示问题的答案。

傲瑞通IM中查看与AI的历史对话记录

(3)傲瑞通服务端实现了与私有部署的大模型(如DeepSeek、通义千问等)的对接。

         使用C#调用DeepSeek 的API是相当简单的,示例如下所示:

class DeepSeekApiClient
{
    private readonly string _apiKey;
    private readonly HttpClient _httpClient;
    
    // 构造函数,传入你的API密钥
    public DeepSeekApiClient(string apiKey)
    {
        _apiKey = apiKey;
        _httpClient = new HttpClient();
        
        // 设置基础URL(根据DeepSeek API文档调整)
        _httpClient.BaseAddress = new Uri("https://api.deepseek.com/v1/");
        
        // 设置授权头
        _httpClient.DefaultRequestHeaders.Add("Authorization", $"Bearer {_apiKey}");
    }
    
    // 发送聊天请求的异步方法
    public async Task<string> SendChatRequestAsync(string prompt)
    {
        try
        {
            // 构造请求体
            var requestBody = new
            {
                model = "deepseek-chat", // 根据API文档调整模型名称
                messages = new[]
                {
                    new
                    {
                        role = "user",
                        content = prompt
                    }
                },
                temperature = 0.7,
                max_tokens = 1000
            };
            
            // 序列化为JSON
            var json = JsonSerializer.Serialize(requestBody);
            var content = new StringContent(json, Encoding.UTF8, "application/json");
            
            // 发送POST请求
            var response = await _httpClient.PostAsync("chat/completions", content);
            
            // 确保请求成功
            response.EnsureSuccessStatusCode();
            
            // 读取并返回响应内容
            var responseContent = await response.Content.ReadAsStringAsync();
            return responseContent;
        }
        catch (Exception ex)
        {
            Console.WriteLine($"Error calling DeepSeek API: {ex.Message}");
            throw;
        }
    }
}

(4)数据库中增加AIChatRecord表,用于存储与AI的对话记录。

         AIChatRecord 表的创建脚本如下所示:

CREATE TABLE [dbo].AIChatRecord(
	[GUID] [nvarchar](50) NOT NULL,
	[UserID] [nvarchar](50) NOT NULL,
	[ModelType] [int] NOT NULL,
	[Question] [nvarchar](max) NOT NULL,
	[Attachments] [nvarchar](1000) NOT NULL,
	[Answer] [nvarchar](max) NOT NULL,
	[ProcessResult] [int] NOT NULL,
	[ErrorMessage] [nvarchar](max) NOT NULL,
	[CreateTime] [datetime] NOT NULL,
 CONSTRAINT [PK_AIChatRecord] PRIMARY KEY CLUSTERED 
(
	[GUID] ASC
)

在傲瑞通(OrayTalk)即时通讯软件中集成 ​如DeepSeek等AI大模型,可以为企业客户带来多方面的好处,既提升了用户体验,也能增强企业的办公效率。所以,在协同办公的应用场景中,将AI大模型集成进即时通讯系统,是非常有必要的。

傲瑞通支持信创国产的软硬件基础设施(如银河麒麟、统信等国产OS、如飞腾、龙芯等国产芯片、如达梦、人大金仓等国产DB),这样信创版即时通讯与开源的国产大模型搭配,将是非常不错的选择。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值