Building Guardrails for Large Language Models

本文是LLM系列文章，针对《Building Guardrails for Large Language Models》的翻译。

摘要

随着大型语言模型（LLM）越来越融入我们的日常生活，识别和减轻其风险至关重要，尤其是当风险可能对人类用户和社会产生深远影响时。护栏过滤LLM的输入或输出，已成为一种核心防护技术。本文深入探讨了当前的开源解决方案（Llama Guard、Nvidia NeMo、Guardrails AI），并讨论了构建更完整解决方案的挑战和道路。根据先前研究的有力证据，我们主张采用系统的方法，在全面考虑各种LLM应用程序的不同背景的基础上，为LLM构建护栏。我们建议通过与多学科团队合作，采用社会技术方法来确定精确的技术要求，探索先进的神经符号实现来满足需求的复杂性，并开发验证和测试来确保最终产品的最高质量。

1 引言

2 现有实现方案