探讨:亦真亦幻的困惑

NLP基础知识点:困惑度(Perplexity) 词序列的条件概率越高,困惑度越低。因此,根据语言模型,最小化困惑相当于最大化测试集概率。 公式如下: 困惑度可以理解为,如果每个时间步都根据语言模型计算的概率分布随机挑词,(假设所有的词出现的概率相同)那么平均情况下,挑多少个词才能挑到正确的那个。 ... 阅读详情

?

※在这里涉及心态与能力两大问题,三言两语没法说清楚。由于人性弱点的客观存在,所以,这也是个见仁见智的问题,无法说清楚的问题。

我相信,这也是大多数人的困惑。当然,在我看来,这是个不是问题的问题。

现在就请朋友们说说你的看法,来帮助亦真亦幻大姐解惑,谢谢!

?

想不明白的事

作者:亦真亦幻 ?(2009-08-05)

?

昨天又被老妈批评,不用脑子,不跟热点,死守银行,错失赚钱行情。心中那份郁閟!

其实我已经注意到,过去自己买过的一批前期滞涨的股票最近在连续上涨,比如0422湖北宜化,600058五矿发展,002064华峰氨伦等行,就连鞍钢也涨幅巨大了。

因为一轮牛市下来大多数的股票其实是涨得差不多的,只是涨前涨后而已,那么这里确实就有一个轮涨的问题,如果把握好了,涨了这一波就赶那一波,赶了那一波再追下一波,那赚得钱确实会比死守一个板块强多了,我不否认会有这样好运的奇人存在,但我行吗?

?

看到个股乱涨,自己的股票进入了调整期,再加上老妈的批评,我的心情也是矛盾的,矛盾时,我会想起老股民的投资方法和收益,他一般只选一到二个板块跟踪,然后心静如水的坚守等待,牛市里到处繁花似锦,他却只守着自家的菜园,偶尔白菜换萝卜,偶尔茄子换冬瓜。有时看一眼远处的风景却不被的园外的艳丽玫瑰国色牡丹吸引。结果收获的季节,他一点也没比别人得到的少反而更多,那是为什么呢?

以他的技术,看看趋势,分析大势,然后找个马上突破的个股埋伏进去,应该不是难事,可为什么他不做?他虽然不这样做,可他的长期收益仍然是那样的可观,那样的一般人可望而不可及,为什么呢?

我有点想不明白的

是只赚确定性收益吗?

希望明白的你也来帮我解惑

?

作者:亦真亦幻

?

困惑度 perplexity 在自然语言处理中,困惑度是用来衡量语言模型优劣的一个方法。它的值是对交叉熵损失函数做指数运算后得到的结果。 交叉熵损失函数 单个训练样本的损失: loss=−1n∑i=1nyilogyi^=−logyj^loss=-\frac{1}{n}\sum_{i=1}^{n}y_{i}log\hat{y_{i}}=-log\hat{y_{j}}loss=−n1​∑i=1n​yi​logyi​^​=−logy... 阅读详情

相关推荐

【LM】(八)语言模型评价指标——困惑度Perplexity原理及代码

0.语言模型 语言模型(Language Model,LM),基于统计的语言模型,给出一句话的前k个词,预测第k+1个词,即求第k+1个词出现的概率p(xk+1|x1,x2,...,xk)。在深度网络中,比如bert,可以词前后的内容,预测当前词,类似做完形填空。 1.什么是困惑度 在信息论中,perplexity(困惑度)用来度量一个概率分布或概率模型预测样本的好坏程度。它也可以用来比较两个概率分布或概率模型。(应该是比较两者在预测样本上的优劣)低困惑度的概率分布模型或概率模型能更好地预测样本。

凝眸伏笔的博客 3万+

大模型中的困惑度(Perplexity)是个啥?:小白都能看懂的讲解

用举案例的方式,浅显的讲解“困惑度“文本大模型生成质量评估指标。

wzkecps770126的博客 4609

lda主题模型困惑度_LDA主题建模中主题数的确定——基于困惑度与主题一致性

LDA主题建模中主题数的确定——基于困惑度与一致性前言1. 首先是导入包2. 分词3. 复杂性和一致性4. 绘制Perplexity-Coherence-Topic 折线图5. 依据困惑度和一致性评价结果进行主题建模前言最近在《比较》公众号上读到《叙事的经济学与经济学叙事》一文,这篇文章介绍到2013年诺贝尔经济学奖得主,耶鲁大学经济学罗伯特·希勒在2017年发表了一篇论文(Narrat...

weixin_31468621的博客 2万+

困惑度 | NLP中对"困惑度"感到困惑?

每天给你送来NLP技术干货!干货作者:时晴来自:炼丹笔记困惑度(Perplexity)在NLP中是个最流行的评估指标,它用于评估语言模型学的到底有多好.但是很多炼丹师可能至今对"困惑度...

zenRRan的博客 1251

AI写作的深度探索:困惑度与爆发度的极致追求

虽然我们已经取得了一些进展,但要实现AI写作的高困惑度和高爆发度仍然面临许多挑战。在追求高困惑度的同时,我们也需要关注到爆发度的保持。同样地,在追求高爆发度的过程中,我们也要确保困惑度不会因此而增加。本文将深入探讨AI写作的困惑度和爆发度,并探索如何在这两个方面达到极致。困惑度,衡量的是文本的流畅度和自然度。为了使AI写作更接近人类创作,我们首先需要关注其困惑度的优化。爆发度,描述的是文本中词汇使用的独特性和创新性。大家好,今天来聊聊AI写作的深度探索:困惑度与爆发度的极致追求,希望能给大家提供一点参考。

number_516的博客 1411

机器学习:什么是困惑度?从信息熵和交叉熵谈起

信息量和信息熵 https://blog.youkuaiyun.com/hearthougan/article/details/76192381 http://www.ruanyifeng.com/blog/2014/09/information-entropy.html 信息熵和交叉熵有什么关系吗? https://www.cnblogs.com/kyrieng/p/8694705.html 信息熵和困惑度的关系 https://www.zhihu.com/question/58482430 ...

JacksonKim的博客 3889

mysql幻读详解

之前一直以为要锁表才能解决幻读,没想到mvvc和nextkey-locking,组合使用就可以解决了。转自https://www.jianshu.com/p/47e6b959a66e MySQL解决幻读 啥是幻读 The so-called phantom problem occurs within a transaction when the same query produces di...

混血王子的博客 535

困惑度(perplexity)的基本概念及比较多种模型下的计算(N-gram, 主题模型/LDA, 神经网络/RNN)

发现网络上流传的关于困惑度(perplexity)大多数都是利用了N-gram或者主题模型的例子来阐述的。但是现在这个年代来学习这个指标的人多半都是想研究神经网络的,而两者的对困惑度的计算方法又很不同,这就不能不让人对“困惑度”感到“困惑”了。本人虽然才疏学浅,还是斗胆在这里尝试写一篇文章,试图用简洁的方式来梳理清楚其中的困惑。 困惑度的基本定义 首先,困惑度是用来评价语言模型好坏的指标。语言模型...

blmoistawinde的博客 1万+

困惑度(Perplexity)的计算方法和意义

困惑度(Perplexity)是一种用于评估语言模型性能的指标,特别是在自然语言处理领域中。它衡量的是模型对一组样本数据的预测能力,通常用于评估语言模型的预测准确度和泛化能力。

m0_48923489的博客 7662

探索AI写作的深度奥秘:以困惑度与爆发度为核心的创作之旅

虽然我们已经取得了一些进展,但要实现AI写作的高困惑度和高爆发度仍然面临许多挑战。在AI技术日新月异的今天,AI写作已经逐渐成为我们生活中的一部分。本文将深入探讨AI写作的困惑度和爆发度,以揭示其深度的奥秘。困惑度和爆发度并不是互相排斥的。在追求高困惑度的同时,我们也需要关注到爆发度的保持。同样地,在追求高爆发度的过程中,我们也要确保困惑度不会因此而增加。困惑度,简单来说,就是衡量文本的流畅度和自然度。大家好,今天来聊聊探索AI写作的深度奥秘:以困惑度与爆发度为核心的创作之旅,希望能给大家提供一点参考。

a17348的博客 895

allegro转AD-(附工具)

本文介绍了将Allegro的.brd文件转换为Altium Designer可用的.alg文件的操作流程。首先需要下载专用转换工具,然后通过运行.bat脚本将.brd文件转换为.alg格式。最后在Altium Designer中使用导入向导完成文件转换,生成可用的PCB设计文件。整个过程简单快捷,只需三个步骤即可实现Allegro到Altium Designer的工程文件转换。

weixin_50120208的博客 1731

大模型评测指标:困惑度、BLEU、ROUGE

本文系统介绍了大模型评测的三大核心指标:困惑度、BLEU和ROUGE。首先从背景意义出发,指出理解这些指标对AI从业者的重要性。随后详细解析了各指标的技术原理,包括困惑度的概率评估机制、BLEU的n-gram匹配方法以及ROUGE的召回率计算方式。文章通过架构图、代码示例和对比表格等形式,深入浅出地阐述了这些指标的计算方法和应用场景。最后总结了各指标的优缺点及适用领域,为读者提供了完整的评测指标体系认知框架。(149字)

未来 95% 的 AI 应用将变得隐形,广泛融入日常生活。 2836

CAN总线BusOff恢复机制详解:快慢恢复策略在车载网络中的实战应用

本文深入解析了CAN总线BusOff恢复机制,重点阐述了快慢恢复策略在车载网络中的工程应用。通过对比NXP S32K与STM32平台的实现代码,并结合CANoe仿真与参数优化方法,为工程师提供了从理论到实战的完整解决方案,旨在提升车载网络的可靠性与功能安全。

7up55的博客 615

困惑度详解(perplexity)

喔的天 困惑度??perplexity,没有用也要用。开头我就这么爆狼式发言,不是没有道理的,在现今的主题模型评判中,困惑度仍然是一种主流,虽然还有held-out-log likelihood (出自 Crowdsourced Time-sync Video tagging using temporal and personalized...

weixin_33709590的博客 3947

40-基于STM32与LD3320的智能语音调光台灯开发全攻略(代码+硬件+调试心得)

本文详细介绍了基于STM32与LD3320的智能语音调光台灯开发全攻略,包括硬件设计、软件实现和调试心得。项目利用STM32单片机控制LD3320语音识别模块,实现语音控制开关和PWM调光功能,适合非接触式操作场景。文章还分享了硬件选型、PWM调光算法优化及常见问题解决方案,为开发者提供完整参考。

weixin_29163797的博客 325

docker部署zabbix6.2.7+grafana

docker部署zabbix6.2.7+grafana。

qq_48391148的博客 3656

Perplexity:深入理解语言模型评价指标——困惑度

对于困惑度指标的理解

a61022706的博客 1900

UE5.4像素流送实战:GPU驱动、WebRTC与系统级调优全解析

像素流送是将实时3D渲染画面通过WebRTC编码推流至浏览器的关键技术,其本质是GPU硬件编码(如NVENC)与低延迟网络传输(UDP+BBR)的深度协同。理解其原理需跨越图形API(Vulkan/DX12)、实时音视频(H.264/H.265)、WebRTC信令与NAT穿透四大技术层。技术价值在于突破终端算力限制,支撑远程工业仿真、云VR看房等高交互场景;但落地难点集中于基础设施层——如NVIDIA驱动与UE5.4.3的CUDA Toolkit 12.2兼容性、Linux内核TCP/UDP参数调优、GPU

weixin_32943857的博客 616

困惑度PPL

语言模型中经常使用困惑度来作为语言模型的评价 对于一段 句子(sentence) s 由词构成,即: ,w代表词 对两边都取 对数 则: 所以:一般的困惑度越小,模型越好,应该尽可能找困惑度小的模型 ...

ding_programmer的博客 4038

SAP_MM模块库存概览俄罗斯报表简介

本文介绍了SAP MM模块中"库存概览俄罗斯报表"的功能与应用。该报表主要用于查看物料在不同库存地点和类型的库存情况,并满足俄罗斯当地法规要求。文章解释了"俄罗斯报表"可能指代本地化合规库存报表或客户自定义报表,详细说明了事务代码J3RFLVMOBVEDH的操作步骤,包括公司代码、物料编码、日期范围等查询条件,并解释了报表中各字段含义如期初期末库存数量与价值。最后强调在物料分类账处理完成后使用该报表可获得实际库存价值,为SAP用户提供了实用的库存管理参考。

我小时候很黑的博客 1092

YOLOv5/v7/v8首发革新改进——轻巧、创新的LADH检测头

本文介绍了一种原创改进的轻量化非对称多级压缩LADH检测头,该检测头能够实现即插即用,并在YOLOv5/v7/v8检测器中取得了显著的性能提升。本文将介绍一种原创改进的轻量级非对称多级压缩LADH(Lightweight Asymmetric Dual-Head)检测头,该检测头能够实现即插即用,并显著提升YOLO检测器的性能。因此,我们提出了一种非对称多级压缩的方法,即对不同类别的检测头采用不同的压缩比例。然而,为了进一步提高YOLO的性能,我们进行了一项原创改进,设计了一种轻巧且创新的LADH检测头。

IpyVariable的博客 2727

自然语言处理 —— 困惑度

我们通常用困惑度(perplexity)来评估语言模型的好坏。可以探索一下交叉熵损失函数的定义。困惑度是对交叉熵损失函数做指数运算后得到的值。特别地: 最佳情况下,模型总是把标签类别的概率预测为1,此时困惑度为1; 最坏情况下,模型总是把标签类别的概率预测为0,此时困惑度为正无穷; 基线情况下,模型总是把预测所有类别的概率都相同,此时困惑度为类别个数。 显然,任何一个有效模型的困惑度必须小于类...

然后就去远行 1789

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

LDA主题模型困惑度计算

对于LDA模型,最常用的两个评价方法困惑度(Perplexity)、相似度(Corre)。 其中困惑度可以理解为对于一篇文章d,所训练出来的模型对文档d属于哪个主题有多不确定,这个不确定成都就是困惑度。困惑度越低,说明聚类的效果越好。 计算公式 分母是测试集中所有单词之和,即测试集的总长度,不用排重。其中p(w)指的是测试集中每个单词出现的概率,计算公式...

5940

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

【干货】NLP中对"困惑度"感到困惑?

视学算法推荐作者:时晴来自:炼丹笔记困惑度(Perplexity)在NLP中是个最流行的评估指标,它用于评估语言模型学的到底有多好.但是很多炼丹师可能至今对"困惑度"依然感到困惑,这篇...

zandaoguang的博客 523

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

上一篇: 我为下跌而欣慰
下一篇: 浦发调换民生的理由
Labber
博客等级 码龄19年 26粉丝 1976原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值