当前很多大模型都支持思考模式,会在输出内容增加
<think>标签,内容为大模型思考内容。
很多情况下,并不想要思考内容。就需要自己设置一下。
一、使用Ollama的Api设置
C# 类库使用OllamaSharp为例:
设置
Think属性为:false来禁用思考模式
var chatRequest = new ChatRequest
{
Think = false,
};
var modelResponse = await ollama.ChatAsync(chatRequest).StreamToEndAsync();
二、使用prompt设置
通过在prompt结尾设置
/no_think来禁用思考模式
var promptBuilder = new StringBuilder();
promptBuilder.AppendLine(@"你是一个知识检索系统,必须遵守以下规则:
1. 禁止行为:禁止联想、推测或添加任何外部知识
2. 免责声明:当参考内容不匹配时必须声明");
promptBuilder.AppendLine($"/no_think");//禁止思考模式
var chatRequest = new ChatRequest
{
Messages = new List<Message>()
{
new Message { Role = ChatRole.System, Content = promptBuilder.ToString() },
new Message { Role = ChatRole.User, Content = query }
}
};
var modelResponse = await ollama.ChatAsync(chatRequest).StreamToEndAsync();
return modelResponse.Message.Content;
三、Ollama控制台中禁用
ollama run llama3.1:8b --think #开启思考模式
ollama run llama3.1:8b --think=false #禁用思考模式
2547

被折叠的 条评论
为什么被折叠?



