5、用于测试数据生成的领域特定语言（DSL）：创新与实践

用于测试数据生成的领域特定语言（DSL）：创新与实践

在软件测试中，缺乏接近生产环境的测试数据会给测试场景的执行带来挑战。近年来，随着深度学习技术的蓬勃发展，语言模型，尤其是大语言模型（LLMs）取得了显著的进展。不过，训练这些模型的计算成本非常高昂。

研究背景与动机

在当前的测试场景中，若没有与生产环境相似的测试数据，进行有效测试会变得十分困难。这正是相关研究的切入点，旨在解决这一难题。大语言模型虽然在很多领域展现出强大的能力，如用于修复代码漏洞，但训练成本巨大。例如，Hoffman 等人提出了模型规模扩大与训练令牌数量增加之间的关系，但这种关系并不适用于为数据生成目的而训练特定领域语言模型的方法。

语言模型特点

所使用的语言模型 Steve132 和 Steveflex - NPR 与大语言模型在多个方面存在差异：
| 对比项 | Steve132 和 Steveflex - NPR | 大语言模型（LLMs） |
| ---- | ---- | ---- |
| 学习目标 | 特定于数据生成的 DSL 设计 | 更广泛的语言理解和生成任务 |
| 复杂度 | 相对较低，针对特定领域 | 高，涵盖多种知识和任务 |
| 评估方法 | 基于生成数据的质量和约束满足情况 | 多种评估指标，如语言理解准确性等 |

此外，这些模型是按轮次训练的，并且不像许多大语言模型训练那样拥有无限的语料库，这使得随着语言规模的扩大，增加训练令牌数量变得具有挑战性。不过，提出的关系仍为优化模型训练提供了潜在方向。

Steve132 约束条件

以下是 Steve13