InvestAlign: Overcoming Data Scarcity in Aligning Large Language Models with Investor Decision-Makin

最新推荐文章于 2025-11-24 18:29:32 发布
最新推荐文章于 2025-11-24 18:29:32 发布
阅读量166 收藏
点赞数 3
CC 4.0 BY-SA版权
分类专栏： LLM Daily LLM Alignment 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/150484757

在这里插入图片描述

文章主要内容总结

本文聚焦于行为金融领域中大型语言模型（LLMs）与羊群行为下投资者决策过程的对齐问题，核心挑战是监督微调（SFT）所需真实用户数据的稀缺性。为此，作者提出了InvestAlign框架，通过利用相似简单最优投资问题的理论解构建高质量SFT数据集，而非依赖复杂场景的真实数据。

理论分析表明，使用InvestAlign生成的数据集训练LLMs，其参数收敛速度快于真实用户数据，学习效率更高。基于该框架微调得到的InvestAgent，在简单和复杂投资问题中均比预微调模型更接近真实用户决策，验证了InvestAlign在解决复杂最优投资问题、对齐LLMs与投资者决策过程中的潜力。

文章创新点

  1. 领域应用创新：首次将LLMs应用于微观经济学和行为金融领域，重点研究羊群行为下的最优投资问题。
  2. 数据构建方法：利用简单最优投资问题的理论解生成大量高质量训练数据，解决真实用户数据收集成本高、隐私风险大的问题。
  3. 对齐技术提出：提出InvestAlign框架，通过生成的数据集对LLMs进行SFT微调，实现与投资者决策的有效对齐。
  4. 理论与实验验证：从理论上证明该方法的
了解本专栏 订阅专栏 解锁全文 超级会员免费看
详细解读腾讯视频生成代表作：VideoCrafter2 Overcoming Data Limitations for High-Quality Video Diffusion Models
沉迷单车的追风少年
01-28 1032
现在国内各个互联网大厂在视频生成领域的竞争相当激烈，腾讯的代表作当属VideoCrafter系列了。从2022年的Make-A-Video开始，学术界对视频生成的共识是T2I模型提供内容生成能力，时间模块提供运动能力，视频生成的难点在于运动能力的学习。这一观点在AnimateDiff中达到顶峰。然而在VideoCrafter2在论文中通过大量的对比实验，证明了微调空间层的优越性。这篇博客详细介绍这篇腾讯视频生成的代表作。
AI之MLM：《MM-LLMs: Recent Advances in MultiModal Large Language Models多模态大语言模型的最新进展》翻译与解读
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
01-27 5704
​ AI之MLM：《MM-LLMs: Recent Advances in MultiModal Large Language Models多模态大语言模型的最新进展》翻译与解读 目录 《MM-LLMs: Recent Advances in MultiModal Large Language Models》翻译与解读 Abstract摘要 1、Lntroduction引言 2、Model Architecture模型架构，五个组件 3、Tra
AGI之Agent：《ChemCrow: Augmenting large-language models with chemistry tools用化学工具增强大语言模型》翻译与解读
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
12-13 1809
​ AGI之Agent：《ChemCrow: Augmenting large-language models with chemistry tools用化学工具增强大语言模型》翻译与解读 目录 《ChemCrow: Augmenting large-language models with chemistry tools》翻译与解读 Abstract摘要 4、Conclusion结论 《ChemCrow: Augmenting large-language models with chemist
Mitigating Object Hallucinations in Large Vision-Language Models through Visual Contrastive Decoding
Mars_prime的博客
12-04 2986
大视觉语言模型（LVLM）已经取得了长足的进步，将视觉识别和语言理解交织在一起，生成不仅连贯而且与上下文相协调的内容。尽管取得了成功，LVLM 仍然面临物体幻觉的问题，即模型生成看似合理但不正确的输出，其中包括图像中不存在的物体。为了缓解这个问题，我们引入了视觉对比解码（VCD），这是一种简单且无需训练的方法，可以对比源自原始视觉输入和扭曲视觉输入的输出分布。所提出的 VCD 有效减少了对统计偏差和单峰先验的过度依赖，这是物体幻觉的两个重要原因。
AIGC-VideoCrafter2: Overcoming Data Limitations for High-Quality Video Diffusion Models-CVPR2024
hflexxx的博客！喜欢的话点个关注！
07-23 778
AIGC-VideoCrafter2: Overcoming Data Limitations for High-Quality Video Diffusion Models-CVPR2024，在不使用高质量视频的情况下训练高质量视频模型
VideoCrafter2: Overcoming Data Limitations for High-Quality Video Diffusion Models 论文解读
NPU 研0
12-19 1106
该论文提出在数据层面从分离运动和外观来从没有高质量视频中训练高质量的视频模型，另外设计了一个基于现有观察结果的有效的pipeline，首先获得完全训练过的视频模型（即所有模块完整训练要比仅仅训练时间模块能够实现外观和运动之间的最强的耦合。），之后用合成的高质量图像来微调空间模块。
Understanding Large Language Models-TianQi Chen
liangdengne_123的博客
05-26 859
1. 中文解读中文解读3. 中文解读4. 中文解读。
Laplacian-Former: Overcoming the Limitationsof Vision Transformers in Local TextureDetection
Together_CZ的博客
02-07 676
Laplacian-Former:OvercomingtheLimitationsofVisionTransformersinLocalTextureDetection 克服视觉Transformer在局部纹理检测中的局限性
Long-Context LLMs Meet RAG: Overcoming Challenges for Long Inputs in RAG
choose_c的博客
10-23 958
检索增强生成（RAG）使大型语言模型（LLMs）能够利用外部知识源。尽管LLMs处理更长输入序列的能力不断提升，但实证研究表明，生成输出的质量在检索段落数量增多时会先提升后下降。本文探讨了这一现象，识别出“硬否定”对性能下降的关键影响，并提出无训练和有训练的方法以增强基于长上下文 LLM 的 RAG 的鲁棒性。我们展示了检索重新排序的有效性，并探索了RAG特定的隐式微调和带有中间推理的微调方法。最后，对这些有训练方法的设计选择进行了系统分析，包括数据分布、检索器选择和训练上下文长度的影响。
联邦学习论文分享：Overcoming data-sharing challenges in centralbanking: federated learning of diffusion mode
qq_56757193的博客
09-30 1187
现实中生成高质量的合成表格数据非常困难，尤其是涉及金融、医疗等敏感领域时，必须兼顾数据隐私。表格数据本身具有复杂性：既包含不同类型的属性（数值型、类别型等），又存在隐含的关系结构。作者提出，一种新的，用于在不集中原始数据的情况下生成高保真合成表格数据。基于，并将其扩展到联邦学习场景。，多个实体可协作训练生成模型，同时保持数据本地化和隐私。，确保模型在多方之间有效融合。在真实的金融和医疗数据集上进行了实验。结果显示 FedTabDiff 能生成在上都表现良好的合成数据。
2021：AdaVQA: Overcoming Language Priors with Adapted Margin Cosine Loss∗自适应的边缘余弦损失解决语言先验
weixin_42653320的博客
07-26 570
摘要 现有的VQA模型都有严重的语言先验问题，然而，尽管现有VQA方法都将VQA视为一个分类任务，但是目前还没有研究从答案特征空间学习的角度解决此问题。因此，我们设计一个自适应的边缘余弦损失以正确区分每个问题类型下的频繁和稀疏答案特征空间，因此，语言模态中的有限制的模式在很大程度上减少了，我们的方法引入的语言先验也将更少。我们将该损失函数应用到基线模型中，并在两个VQA-CP基准上评估有效性，实验结果表明我们的自适应的边缘余弦损失可以极大提高基线模型，平均获得15%的绝对增益，从答案特征空...
【文献阅读】SplitLoRA: A Split Parameter-Efficient Fine-TuningFramework for Large Language Models
李韶华
04-29 377
FL LLM training/fine-tuning出现→LLM规模增长带来沉重的计算和通信负担→SL可以克服FL的弱点→SL LLM微调处于起步阶段→第一个SL LLM微调SplitLoRA→建立在SFL上→首个开源的SL LLM微调baseline。start→大规模数据集上预训练的llm→SFL training/fine-tuning（客户端前向传播（FP）、激活传输、服务器端FP和反向传播（BP）、激活的梯度传输、客户端BP和客户端模型聚合）评估：收敛精度、收敛速度和资源效率。
基于学习的人工智能（1）为什么学习？
致力于大数据+AI 的应用创新。
11-24 157
学习是人类最重要的认知活动之一，贯穿我们的一生。出生后，我们无时无刻不在学习：从父母那里学说话，自己尝试走路，从小伙伴那里学会折纸飞机，从老师那里学到语文、数学等各种知识。研究人员始终将光源和风扇放在同一侧，经由学习，玉米幼苗逐渐学会了“有风的地方就会有光”的规律。之后，研究人员移去光源，并改变风扇方向，玉米幼苗依然按照所学知识，向风扇方向生长。1959 年，美国计算机学家亚瑟·塞缪尔设计了一款可以自我学习的跳棋程序，并将这一新方法称为“机器学习”，从而开启了机器自我学习的道路。
2025企业微信AI落地新趋势：微盛AI·企微管家破解内外增长难题
最新发布
weisheng00的博客
11-24 374
2025年企业微信AI落地的三大关键趋势：微盛AI·企微管家通过智能客服、精准营销和内部协作三大场景，帮助企业实现200%的客服效率提升、90%的报修响应提速和50%的员工效能增长。作为企业微信生态最大ISV服务商，微盛依托"AI+SCRM"双引擎，已服务160家500强企业，提供合规AI聊天Agent、生态闭环整合及私有化部署方案，有效解决数据孤岛问题，90%客户在3个月内实现AI能力全员覆盖。
中国计算机学会（CCF）推荐学术会议-A（人工智能）：ACL 2026
iaast的博客
11-24 285
大会官网：https://2026.aclweb.org/录用率：20.3%（1699/8360，2025年）时间地点：2026年7月2日-加州·美国。截稿时间：2026年1月5日。CCF推荐：A（人工智能）
RAG 的诞生：为了让 AI 不再“乱编”
weixin_44876263的博客
11-24 51
RAG全称，中文为“检索增强生成”。其核心思想是：在生成答案时，不仅依赖大模型内部的训练知识，还能够实时访问外部知识库或文档，从而生成更加准确和可靠的内容。就像一个学生回答问题，不仅依靠自己记忆，还会去图书馆查资料，然后结合记忆和查到的资料回答问题。你问模型：“请告诉我最新的新能源补贴政策。纯模型可能只靠训练记忆，回答的是过时或模糊的信息。RAG 模型会先去查最新政策文件，再结合训练知识生成答案，因此更准确。检索资料：先找到相关文档或信息。结合生成：把找到的资料和问题一起输入模型，让模型生成答案。
基于华为开发者空间实现花卉识别
优快云高校俱乐部官方博客
11-21 1534
基于华为开发者空间实现花卉识别
人工智能在医疗行业的革命性应用：从诊断到个性化治疗
2501_94114442的博客
11-21 462
人工智能（AI）技术近年来已经渗透到各个行业，其中，医疗行业无疑是受益最大之一。从疾病的早期诊断到个性化治疗方案的制定，AI正在加速医学领域的变革。通过机器学习、深度学习、自然语言处理等技术，AI不仅能够处理和分析大量的医疗数据，还能够帮助医生做出更加精准的决策，提升患者的治疗效果，并优化整个医疗体系的运作效率。本文将探讨人工智能在医疗行业的应用，分析其在不同医疗领域的具体作用，并展望AI如何进一步推动医疗健康行业的发展。
【NullSwap】NullSwap: Proactive Identity Cloaking Against Deepfake
人生不是轨道，是旷野。希望每天都有好心情。
11-23 161
由于生成模型的进步，被动检测高质量Deepfake图像的性能瓶颈，主动扰动提供了一种有前途的方法，通过将信号插入良性图像来禁用Deepfake操作。【生成模型的发展，使得生成高质量伪图越来越难被检测】然而，现有的主动扰动方法在以下几个方面仍然不能令人满意：【当前主动扰动存在的问题】1）由于直接元素添加而导致的视觉退化;2）对交换操纵的有效性有限;3）不可避免地依赖于白盒和灰盒设置，以在训练期间涉及生成模型。我们分析了深度伪造swap技术的本质，并论证了保护源身份而非目标图像的必要性。
Overcoming catastrophic forgetting in neural networks
09-16
由于提供的引用内容未涉及克服神经网络中灾难性遗忘问题的方法，以下是一些常见的克服灾难性遗忘问题的方法： ### 正则化方法 - **弹性权重巩固（EWC）**：通过在损失函数中添加一个正则化项，来约束网络中重要参数的变化。重要性通过计算参数的Fisher信息矩阵来衡量，使得网络在学习新任务时，尽量保留对旧任务重要的参数值，从而减少对旧任务的遗忘 [1]。 ```python # 伪代码示例 import torch import torch.nn as nn # 假设model是神经网络模型 model = ... # 计算Fisher信息矩阵 fisher_matrix = ... # 旧任务的参数值 old_params = {n: p.clone().detach() for n, p in model.named_parameters()} # 定义损失函数 criterion = nn.CrossEntropyLoss() # 正则化系数 lambda_ewc = 0.1 # 训练循环 for inputs, labels in dataloader: outputs = model(inputs) loss = criterion(outputs, labels) # 添加EWC正则化项 for n, p in model.named_parameters(): loss += lambda_ewc * fisher_matrix[n] * (p - old_params[n]).pow(2).sum() optimizer.zero_grad() loss.backward() optimizer.step() ``` - **突触智能（SI）**：它通过跟踪参数的重要性来动态调整正则化强度。重要性是基于参数在学习过程中的变化对损失函数的影响来计算的。在学习新任务时，SI会对那些对旧任务有重要影响的参数变化进行惩罚，从而减少遗忘 [2]。 ### 基于记忆的方法 - **经验回放（Experience Replay）**：在训练新任务时，随机地从旧任务的数据集中采样一些样本，与新任务的数据一起进行训练。这样可以让网络在学习新任务的同时，不断回顾旧任务的数据，从而减轻遗忘 [3]。 ```python # 伪代码示例 import random # 旧任务数据集 old_dataset = ... # 新任务数据集 new_dataset = ... # 经验回放缓冲区大小 replay_buffer_size = 100 replay_buffer = [] # 填充经验回放缓冲区 for data in old_dataset: if len(replay_buffer) < replay_buffer_size: replay_buffer.append(data) else: index = random.randint(0, replay_buffer_size - 1) replay_buffer[index] = data # 训练循环 for new_inputs, new_labels in new_dataset: # 从经验回放缓冲区中采样 replay_inputs, replay_labels = random.choice(replay_buffer) combined_inputs = torch.cat([new_inputs, replay_inputs]) combined_labels = torch.cat([new_labels, replay_labels]) outputs = model(combined_inputs) loss = criterion(outputs, combined_labels) optimizer.zero_grad() loss.backward() optimizer.step() ``` - **生成重放（Generative Replay）**：使用生成模型（如生成对抗网络（GAN）或变分自编码器（VAE））来生成旧任务的数据样本。在学习新任务时，将生成的旧任务样本与新任务数据一起用于训练，以缓解灾难性遗忘 [4]。 ### 架构方法 - **多网络架构**：为不同的任务或任务组分配独立的子网络。当学习新任务时，只更新与该任务相关的子网络，而保留其他子网络的参数不变。这样可以避免不同任务之间的干扰，减少遗忘 [5]。 - **渐进式神经网络（Progressive Neural Networks）**：在学习新任务时，会添加新的列（一组新的神经元和连接）到网络中，同时保留旧任务的列不变。新列可以与旧列进行侧向连接，以利用旧任务的知识，同时不会覆盖旧任务的参数 [6]。 ### 元学习方法 元学习旨在学习如何学习，通过在多个任务上进行训练，让网络学会快速适应新任务，同时减少对旧任务的遗忘。例如，模型无关元学习（MAML）通过在多个任务上进行元训练，使得网络在遇到新任务时，能够快速调整参数以适应新任务，而不会忘记旧任务的知识 [7]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值