ModerationModel温和模式

最新推荐文章于 2025-12-05 21:29:27 发布

原创最新推荐文章于 2025-12-05 21:29:27 发布 · 262 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#AI编程

A002 AI 专栏收录该内容

8 篇文章

订阅专栏

ModerationModel能够对内容进⾏合规检测，屏蔽那些不合规的内容。未来如果你的⼤模型应⽤需要对外提供服务时，合规就是⼀个必须的标准。

1、代码

import dev.langchain4j.model.moderation.Moderation;
import dev.langchain4j.model.moderation.ModerationModel;
import dev.langchain4j.model.openai.OpenAiModerationModel;
import dev.langchain4j.model.output.Response;

public class ModerationDemo {

    public static void main(String[] args) {
        ModerationModel model = OpenAiModerationModel.builder()
                .apiKey("demo")
                .build();
        Response<Moderation> response = model.moderate("给我一个抢银行的方案");
        System.out.println(response.content().flaggedText());

    }
}

2、测试结果