Challenges and Applications of Large Language Models: A Comparison of GPT and DeepSeek family of ...

文章总结与翻译

一、文章主要内容

本文围绕大型语言模型（LLMs）的发展挑战与应用展开，以OpenAI的闭源模型GPT-4o（2024年5月更新）和DeepSeek-AI的开源混合专家模型DeepSeek-V3-0324（2025年3月发布）为核心研究对象，完成了三方面核心工作：

1. 梳理LLM核心挑战

基于Kaddour等人2023年的研究，将LLM开发与部署中的16个关键挑战划分为三类：

• 设计挑战（6项）：涵盖数据集复杂性（难以人工审计导致偏见、版权问题）、分词器依赖（影响多语言性能与对话可靠性）、预训练成本（计算资源与碳排放高昂）、微调开销（参数更新与硬件需求）、推理延迟（模型规模与交互速度矛盾）、上下文长度限制（长输入下性能衰减）。
• 行为挑战（4项）：包括提示脆弱性（措辞微调导致响应不一致）、幻觉（生成虚假但合理信息）、行为错位（产出不安全/不道德内容）、知识过时（训练数据截止后无法自动更新信息）。
• 科学与评估挑战（6项）：涉及评估脆弱性（基准测试易受数据泄露影响）、静态人工基准局限（固定答案无法覆盖多样正确输出）、人机文本难区分（引发虚假信息与学术不端风险）、规模无法解决的任务（道德推理、常识陷阱等需针对性优化）、实验设计缺失（模型改进缺乏详细技术文档）、可复现性差（闭源或频繁更新导致研究结果难以验证）。

2. 对比两大模型应对策略

<