The Cultural Gene of Large Language Models: A Study on the Impact of Cross-Corpus Training on Mod...

文章总结与翻译

一、文章主要内容

该研究聚焦大型语言模型（LLMs）的“文化基因”，即模型从训练语料中继承的系统性价值倾向，核心探究跨语料训练对模型价值观与偏见的影响，具体内容如下：

1. 研究背景：LLMs在全球广泛应用，但背后的文化与伦理假设未被充分探索。现有AI安全讨论常默认单一“人类价值观”（多为西方、英语中心视角），而LLMs会像“随机鹦鹉”反射训练数据中的文化偏见，且这种偏见远超性别、种族层面，深入到模型对世界的认知基础。
2. 核心概念：提出“文化基因”概念，指LLMs因训练语料文化特异性，形成的与特定文化价值观、规范一致的深层推理与响应倾向，区别于表面语言生成偏见或刻板印象。
3. 研究框架：基于霍夫斯泰德文化维度理论，选取“个人主义-集体主义（IDV）”和“权力距离（PDI）”两大核心维度，构建“文化探针数据集（CPD）”作为评估工具。
4. 研究方法：
   • 设计200个独特探针（IDV和PDI维度各100个），分为价值困境探针（VDP）、场景判断探针（SJP）、刻板印象关联探针（SAP）三类，且经过英-汉双语交叉验证确保文化等效性。
   • 选取西方中心模型（GPT-4）与东方中心模型（文心一言）进行对比实验，采用零样本提示策略，结合定量（文化维度得分CDS、文化对齐指数CAI、t检验等）与定性（响应主题分析）方法分析模型表现。
5. 实验结果