A LARGE LANGUAGE MODEL EVALUATION BENCHMARK AND BASELINE FOR CHINESE PUBLIC SECURITY DOMAIN

本文是LLM系列文章，针对《CPSDBENCH: A LARGE LANGUAGE MODEL EVALUATION BENCHMARK AND BASELINE FOR CHINESE PUBLIC SECURITY DOMAIN》的翻译。

摘要

大型语言模型（LLM）已经在多个应用程序领域展示了巨大的潜力和有效性。为了评估主流LLM在公共安全任务中的表现，本研究旨在构建一个专门针对中国公共安全领域的评估基准——CPSDbench。CPSDbench集成了从真实世界场景中收集的与公共安全相关的数据集，支持在四个关键维度对LLM进行全面评估：文本分类、信息提取、问答和文本生成。此外，本研究引入了一套创新的评估指标，旨在更准确地量化LLM在执行与公共安全相关的任务时的效能。通过本研究进行的深入分析和评估，我们不仅加深了对现有模型在解决公共安全问题方面的性能优势和局限性的理解，而且为未来针对该领域应用开发更准确、更定制的LLM模型提供了参考。

1 引言

2 相关工作

3 方法

4 结果与分析

5 结论

本研究介绍了CPSDBench，这是一个专门为评估中国公共安全领域LLM而设计的基准。通过从现实世界的公共安全场景中收集数据集，