14、语言处理策略与认知合理性探索

语言处理与认知合理性研究

语言处理策略与认知合理性探索

1. 局部处理效应

在语言处理过程中,我们会逐步将新信息整合到已有表征中,同时对即将出现的信息形成预期。当预期与实际不符时,就需要调整表征以适应意外信息。例如,在句子 “The old train the young” 中,遇到第二个 “the” 时,我们要修正 “train” 作为名词的主导解读,这种现象被称为 “意外性”(surprisal),它与处理难度相关。

1.1 意外性理论

意外性理论认为,一个词的处理成本与其带来的信念改变程度成正比。研究者用概率语言模型近似意外性,并发现它与自定步速阅读中的阅读时间成正比。

1.2 局部处理难度的两种假设

Linzen 和 Jaeger 比较了局部处理难度的两种主要假设:
- 竞争假设 :如果需要同时维持大量具有相似概率的潜在解释,句子处理难度会增加。例如,以 “We admit” 开头的句子,后续可以接名词短语(如 “our mistake”)或句子补语(如 “that we were wrong”)。
- 熵减假设 :处理负载的增加是由于不确定性的降低。不是阅读 “admit” 带来的多个预测候选的维持导致处理复杂性,而是阅读后续单词(如 “our” 与 “that”)消除候选导致的。

研究发现,意外性(遇到意外单词)和熵减(遇到消除歧义的单词)能解释数据中的现象,但竞争导致的处理难度增加(遇到增加不确定性的单词)无法通过测量的阅读时间得到证实。

1.3 遗忘现象

处理难度会随着理解所需的上下文

内容概要:本文介绍了基于贝叶斯优化的CNN-LSTM混合神经网络在时间序列预测中的应用,并提供了完整的Matlab代码实现。该模型结合了卷积神经网络(CNN)在特征提取方面的优势长短期记忆网络(LSTM)在处理时序依赖问题上的强大能力,形成一种高效的混合预测架构。通过贝叶斯优化算法自动调参,提升了模型的预测精度泛化能力,适用于风电、光伏、负荷、交通流等多种复杂非线系统的预测任务。文中还展示了模型训练流程、参数优化机制及实际预测效果分析,突出其在科研工程应用中的实用。; 适合人群:具备一定机器学习基基于贝叶斯优化CNN-LSTM混合神经网络预测(Matlab代码实现)础和Matlab编程经验的高校研究生、科研人员及从事预测建模的工程技术人员,尤其适合关注深度学习智能优化算法结合应用的研究者。; 使用场景及目标:①解决各类时间序列预测问题,如能源出力预测、电力负荷预测、环境数据预测等;②学习如何将CNN-LSTM模型贝叶斯优化相结合,提升模型能;③掌握Matlab环境下深度学习模型搭建超参数自动优化的技术路线。; 阅读建议:建议读者结合提供的Matlab代码进行实践操作,重点关注贝叶斯优化模块混合神经网络结构的设计逻辑,通过调整数据集和参数加深对模型工作机制的理解,同时可将其框架迁移至其他预测场景中验证效果。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值