Neural Thickets: Diverse Task Experts Are Dense Around Pretrained Weights

一、文章核心内容总结

本文提出神经灌木丛（Neural Thickets） 假说：大规模预训练模型的权重邻域内，密集分布着大量多样化的任务专家解，无需梯度优化，仅通过随机扰动+筛选集成即可获得媲美PPO、GRPO等强化学习后训练方法的性能。

• 核心发现：小模型优质解稀疏，大模型随规模提升呈现“灌木丛”特性，任务专家解密度与多样性遵循缩放律。
• 核心算法：RandOpt——随机采样N个参数扰动，选Top-K做多数投票集成，无反向传播、全并行、时间复杂度O(1)。
• 核心结论：预训练让下游适配变“易”，后训练更像搜索而非优化，为隐私计算、联邦学习提供轻量化适配路径。

二、核心创新点

1. 理论创新：颠覆“预训练仅为优化起点”认知，提出Neural Thickets假说，揭示大模型权重邻域的密集专家分布规律。
2. 方法创新：提出RandOpt轻量后训练方案，无梯度、全并行、低计算成本，性能对标主流RL方法。
3. 机制创新：区分推理型/格式型灌木丛，揭示多样化任务预训练是灌木丛形成的关键，可蒸馏压缩为单模型部署。
4. 范式创新：重构预训练—后训练关系，为无梯度、隐私友好的模型适配提供新范式。