The Life Cycle of Large Language Models: A Review of Biases in Education

本文是LLM系列文章，针对《The Life Cycle of Large Language Models: A Review of Biases in Education》的翻译。

摘要

大型语言模型 （LLM） 越来越多地用于教育环境，为学生和教师提供个性化支持。基于 LLM 的应用程序理解和生成自然语言的空前能力可能会提高教学效率和学习成果，但 LLM 与教育技术的整合再次引发了对算法偏见的担忧，这可能会加剧教育不平等。在这篇综述中，基于先前绘制传统机器学习生命周期的工作，我们提供了 LLM 生命周期的整体地图，从 LLM 的初始开发到为教育环境中的各种应用定制预训练模型。我们解释了LLM生命周期中的每一个步骤，并确定了在教育背景下可能出现的潜在偏见来源。我们讨论了为什么当前传统机器学习的偏见测量无法转移到 LLM 生成的教育内容中，例如辅导对话，因为文本是高维的，可以有多个正确的回答，并且定制回答在教学上可能是可取的，而不是不公平的。本综述旨在阐明 LLM 申请中偏见的复杂性质，并为其评估提供实用指导，以促进教育公平。

1 引言

2 LLM在教育领域的应用

3 从开发到部署的 LLM 生命周期

4 讨论

传统的机器学习应用程序的生命周期，专注于预测标签，已经得到了很好的理解。众所周知，偏见会在这个生命周期的不同阶段进入，并且已经开发和测试了衡量和减轻这些偏见的方法，包括在教育的背景下。然而，随着 LLM 和其他形式的生成式 AI 在教育中的日益普及，目前的评估方法并不能充分满足支持教育目标的特定需求。这篇综述提供了 LLM 生命周期的整体视角，使用教育中特定领域的示例来强调将 NLU 和 NLG 支持纳入教育技术应用的机遇和