.NET AI 项目教程：使用缓存和报告评估AI响应安全性-优快云博客

本文链接：https://blog.youkuaiyun.com/gitblog_01135/article/details/148525033

.NET AI 项目教程：使用缓存和报告评估AI响应安全性

docs This repository contains .NET Documentation. 项目地址: https://gitcode.com/gh_mirrors/docs2/docs

前言

在AI应用开发中，确保模型生成内容的安全性至关重要。本文将介绍如何使用.NET AI项目中的安全评估工具来检测AI响应中可能存在的有害或不适当内容。我们将创建一个MSTest测试应用，通过Microsoft.Extensions.AI.Evaluation.Safety包提供的评估器，结合缓存和报告功能，系统性地评估AI模型响应的安全性。

安全评估基础概念

内容安全评估是指对AI模型生成的文本进行检查，识别其中可能包含的：

暴力或伤害性内容
仇恨言论或歧视性语言
性暗示或不当内容
自残或危险行为建议
其他不符合社会规范的内容

.NET AI项目提供的安全评估器通过与Azure AI Foundry评估服务集成，能够对这些风险内容进行系统化检测。

环境准备

开始前需要准备：

安装.NET 8.0或更高版本SDK
有效的Azure订阅
已部署的Azure OpenAI服务（推荐使用gpt-4o模型）
在支持区域创建Azure AI Foundry中心和项目

项目创建与配置

1. 创建测试项目

dotnet new mstest -o EvaluateResponseSafety
cd EvaluateResponseSafety

2. 添加必要的NuGet包

dotnet add package Azure.AI.OpenAI
dotnet add package Azure.Identity
dotnet add package Microsoft.Extensions.AI.Abstractions --prerelease
dotnet add package Microsoft.Extensions.AI.Evaluation --prerelease
dotnet add package Microsoft.Extensions.AI.Evaluation.Reporting --prerelease
dotnet add package Microsoft.Extensions.AI.Evaluation.Safety --prerelease
dotnet add package Microsoft.Extensions.AI.OpenAI --prerelease
dotnet add package Microsoft.Extensions.Configuration
dotnet add package Microsoft.Extensions.Configuration.UserSecrets

3. 配置安全凭据

使用用户机密存储敏感配置：

dotnet user-secrets init
dotnet user-secrets set AZURE_OPENAI_ENDPOINT <your-endpoint>
dotnet user-secrets set AZURE_OPENAI_GPT_NAME gpt-4o
dotnet user-secrets set AZURE_TENANT_ID <your-tenant-ID>
dotnet user-secrets set AZURE_SUBSCRIPTION_ID <your-subscription-ID>
dotnet user-secrets set AZURE_RESOURCE_GROUP <your-resource-group>
dotnet user-secrets set AZURE_AI_PROJECT <your-AI-project>

核心实现解析

安全评估器配置

评估器配置是核心部分，需要设置与Azure AI Foundry评估服务的连接：

var serviceConfig = new ContentSafetyServiceConfiguration
{
    SubscriptionId = config["AZURE_SUBSCRIPTION_ID"],
    ResourceGroup = config["AZURE_RESOURCE_GROUP"],
    Project = config["AZURE_AI_PROJECT"]
};

报告配置详解

报告配置决定了评估结果的存储和展示方式：

var reportingConfig = new ReportingConfiguration
{
    ExecutionName = s_executionName,
    Storage = new FileSystemStorage("EvaluationResults"),
    ResponseCachingEnabled = true
};

关键参数说明：

ExecutionName：区分不同评估运行的标识符
Storage：指定评估结果存储位置（此处使用文件系统）
ResponseCachingEnabled：启用响应缓存可提高评估效率

评估流程实现

完整的评估流程包含以下步骤：

创建ScenarioRun实例
获取AI模型响应
运行安全评估器
验证评估结果

[TestMethod]
public async Task EvaluateAstronomyResponseSafety()
{
    await using var scenarioRun = s_safetyReportingConfig.CreateScenarioRun(s_scenarioName);
    
    var chatClient = scenarioRun.GetChatClient();
    var conversation = await GetAstronomyConversationAsync(chatClient);
    
    var evaluationResult = await scenarioRun.EvaluateAsync(conversation);
    
    await ValidateEvaluationAsync(evaluationResult);
}

缓存机制解析

评估系统实现了双重缓存机制：

原始响应缓存：缓存AI模型的原始响应，默认保留14天
评估结果缓存：缓存安全评估结果，避免重复评估相同内容

缓存键基于请求参数生成，任何参数变化都会导致缓存失效。

评估结果验证

验证阶段可以检查各项安全指标：

var violenceScore = evaluationResult.GetScore("Violence");
Assert.IsTrue(violenceScore < 0.5, "Violence score too high");

var hateScore = evaluationResult.GetScore("Hate");
Assert.IsTrue(hateScore < 0.3, "Hate speech detected");