Know what you don‘t know

[论文分享] VOS: Learning What You Don‘t Know by Virtual Outlier Synthesis 这篇文章是ICLR‘ 2022的一篇文章。 阅读详情

How great leaders peevent problems before they happen
-Michael A.Roberto
知道

  • 对于这个世界, 我们所知道的只是冰山的一角, 更多的是我们所不知道不了解的冰山之下. 永远保持一颗赤子之心, 不停追寻探索…

1.从解决问题到发现问题

problem-solving ->problem-finding
视问题为学习和提高的机会
领导者:问题发现者,拥抱问题,这是一个没有终点的旅程

问题为什么会隐藏

1.恐惧
2.组织复杂
3.守门者(信息封闭者)
4.缺乏直觉
5.缺乏训练

…

9.问题发现者的思维模式

问题发现者的三个维度特点:
1.有智慧的好奇心
2.系统思考能力
3.健康的偏执狂特点

第一章

作为领导者,相比解决问题,能够提前发现问题并阻止问题的发生才是一个领导者最重要的能力。这是一个孤独的,没有终点的旅程…

Large Language Models Do NOT Really Know What They Don’t Know 现有研究认为LLMs的内部状态(如隐藏层、注意力权重)可用于检测幻觉,暗示其“知道自己不知道什么”,但LLMs常依赖数据中的虚假关联产生事实错误,引发“内部计算能否可靠区分事实与幻觉”的疑问。关联幻觉(AH)(依赖主题知识但事实错误,如“奥巴马出生于芝加哥”)和非关联幻觉(UH)(与主题知识无关,如“奥巴马出生于东京”),核心探究两类幻觉在LLMs内部处理中的差异。 阅读详情

相关推荐

I Know What You Do Not Know: Knowledge Graph Embedding via Co-distillation Learning

这里可能是为了强调要把target entity预测对,损失函数分为两部分,前半部分是target,后面是非target,由于KL散度要处理的是分布,因此把target由标量转为向量如下图所示。论文以类似的提示词方式计算两个方向上的邻居嵌入并求和,不过反正最后是相加,所以其实没必要分开写。以一种递归的模式,上述基于三元组的重建过程可以推广到基于邻居子图的重建。传统的蒸馏学习中,用t表示老师,s表示学生,损失函数如下。是关系相关的提示词,会被加入词表中,下标对应不同的位置。共蒸馏确实利用了两个模型的互补性。

羊城迷鹿的博客 734

DBA, If don’t know what you are doing, please don’t do

今天收到一个发过来请求帮助的case,Oracle数据库无法启动,请求帮助恢复。仔细阅读了发过来的告警日志,这是一个典型的“事情越弄越糟”的案例。以下就来根据告警日志,一条一条地回顾这位DBA是如何将数据库弄到完全启动不了的。故障最开始是从1月11日的凌晨3:30开始出现,数据库在归档的时候,意外发现某个控制文件的头块全部被清零了,这可能是存储本身的问题,并非人为。Fri J...

weixin_34368949的博客 153

I Know What You Do Not Know:Knowledge Graph Embedding via Co-distillation Learning

1

weixin_44466434的博客 228

CVPR2022 | 论文阅读—Unknown-Aware Object Detection: Learning What You Don’t Know from Videos in the Wild

Unknown-Aware Object Detection: Learning What You Don’t Know from Videos in the Wild1. Motivation2. Overview of the object detection framework2.1 Spatial-Temporal Unknown Distillation2.1.1 Spatial unknown distillation2.1.2 Temporal unknown distillation2.1.

Liaojiajia-Blog 2396

FC游戏Hack实战:从零开始修改游戏数据

本文以《忍者神龟3》为例,详细介绍了从零开始进行FC游戏Hack的完整实战流程。通过使用FCEUX模拟器和调试器,结合“递减法”精准定位生命值内存地址,并利用十六进制编辑器修改关键指令,最终实现“无限生命”效果。文章旨在引导读者理解游戏数据修改的核心原理与操作技巧,重温经典的同时深入计算机程序运行机制。

weixin_28366353的博客 357

PDF与OFD电子发票解析技术实战:从格式转换到精准识别

本文深入探讨了PDF与OFD电子发票解析技术的实战应用,从格式转换到精准识别,提供了全面的解决方案。通过OFD转PDF技术、动态定位算法和多重校验机制,显著提升电子发票识别效率与准确率,助力企业财务数字化转型。

weixin_42565652的博客 164

Unknown-Aware Object Detection:Learning What You Don’t Know from Videos in the Wild(未知目标检测)CVPR 2022

构建能够检测出分布外(OOD)对象的可靠的目标检测器至关重要,但尚未得到充分的研究。关键的挑战之一是,模型缺乏来自未知数据的监督信号,导致对OOD对象的预测过于自信。我们提出了一种新的,通过,从野生视频中提取未知对象,并有意义地规范化模型的决策边界。STUD首先在空间维度上识别未知的候选物体建议,然后将多个视频帧中的候选物体聚集起来,形成决策边界附近的多样化未知物体集。同时,我们采用了基于能量的不确定性正则化损失,它形成了不确定性在分布和蒸馏的未知对象之间的空间。......

qq_54828577的博客 2365

VS2015编译配置GDAL(图文并茂、超详细!!!)

文章目录一、GDAL介绍二、下载GDAL三、修改源代码四、工具命令提示符操作五、编译GDAL六、安装GDAL七、在VS2015的项目中配置GDAL八、添加环境变量九、测试是否配置成功 一、GDAL介绍 GDAL(Geospatial Data Abstraction Library)是一个在XMIT许可协议下的开源栅格空间数据转换库。它利用抽象数据模型来表达所支持的各种文件格式。它还有一系列命令行工具来进行数据转换和处理。OGR是GDAL项目的一个分支,功能与GDAL类似,只不过它提供对矢量数据的支持。因此

weixin_46196863的博客 3756

Dare to say‘I don’t know’关于说…

Dare to say‘I don’t know’ 敢于说不知道 Confucius has preached that we should be honest, never lie about the stuff we don’t know and should never pretend to have the answers. However, people make the mistake

编程之路 562

基于STM32和MPU6050的手势控制小车设计与实现

MPU6050传感器:用于检测手势变化,采集加速度和陀螺仪数据。STM32微控制器:处理MPU6050传感器的数据,根据手势变化控制小车的运动。电机驱动模块:接收来自STM32的控制信号,驱动小车的电机,实现小车的前进、后退、左转和右转。小车底盘:作为整个系统的机械部分,提供移动平台。MPU6050是一款集成了3轴加速度计和3轴陀螺仪的传感器,具有高精度、低功耗和小体积等特点。它通过I2C接口与微控制器通信,可以实时采集加速度和角速度数据,广泛应用于运动检测、姿态控制和手势识别等领域。

m0_57781768的博客 2309

如何下载最新版本的VMware Workstation

随着虚拟化技术的发展,VMware Workstation作为行业领先的桌面虚拟化软件,为用户提供了在单一物理计算机上运行多个操作系统的能力。本文将详细介绍如何从Broadcom支持网站下载最新的VMware Workstation Pro版本。

安呀智数据坊的博客 669

Can AI Assistants Know What They Don’t Know?学习

问题提出:AI助手是否能够意识到它们不知道的事情,并通过自然语言表达这种意识。研究方法:研究者构建了一个模型特定的“I don’t know”(Idk)数据集,包含监督微调数据和偏好数据,将问题分为AI助手知道或不知道答案的类别。实验设计:通过不同的对齐方法(如监督微调和偏好优化)将AI助手与Idk数据集对齐,以提高其识别知识范围的能力。实验结果:与原始助手相比,经过Idk数据集对齐的助手更能拒绝回答其知识范围之外的问题,并且在表达真实性方面有显著提高。知识象限。

2201_75956817的博客 1536

SillyTavern 向量存储配置踩坑记:从卡死到本地部署 Ollama 跑通

用此命令看到镜像就算成功。

qq_62483451的博客 1259

Can AI Assistants Know What They Don‘t Know?

在不同大小的模型(如Llama-2-7b-chat、Llama-2-13b-chat和Llama-2-70b-chat)上进行Idk-SFT,观察模型大小对识别未知问题能力的影响。通过这些方法,论文展示了AI助手在经过特定训练后,能够在一定程度上识别其知识边界,并能够通过自然语言明确表达出其不知道的问题,从而提高AI助手的可信度和真实性。总的来说,这篇论文的核心目标是提高AI助手在面对未知问题时的自我认知能力,以减少错误信息的传播,并提高其在实际应用中的可靠性和真实性。

步子哥的博客 1285

初学者入门YOLO目标检测:从懵圈到上手,这篇文章讲透所有核心(附学习路径+避坑指南)

目标:比如训练一个“检测苹果和橘子”的模型,或者“检测人脸”的模型;任务:学会用LabelImg标注数据,制作YOLO格式的数据集,用命令行训练模型;关键:不用追求高精度,能训练出一个能检测出目标的模型就行。很多初学者卡在入门阶段,不是因为智商不够,而是因为“想太多,做太少”——总觉得要把所有原理搞懂才能动手,结果越想越怕,最后放弃。先动手,再动脑。先跑通一个案例,获得成就感;再制作自定义数据集,训练简单模型;最后再回头去理解原理,优化模型。

专注于Python爬虫开发,分享爬虫技巧、项目实战与反爬经验,使用Scrapy、BeautifulSoup等工具,解决数据抓取难题。 690

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

Do Large Language Models Know What They Don’t Know?

复旦大学与新加坡国立大学团队2023年发表的研究聚焦大语言模型(LLMs)的自我认知能力,即模型识别知识边界并表达不确定性的能力。研究构建了包含3369个问题的SelfAware数据集,提出基于文本相似度的自动化评估方法,测试了20个主流LLMs。结果表明:模型规模与自我认知正相关,指令微调能显著提升能力,但GPT-4(75.47% F1)仍低于人类基准(84.93%)。研究为LLMs可靠性评估提供了新范式,揭示了当前模型与人类的认知差距。

thesky123456的博客 772

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

do you know What is RFID?

<br />RFID stands for Radio-Frequency IDentification. The acronym refers to small electronic devices that consist of a small chip and an antenna. The chip typically is capable of carrying 2,000 bytes of data or less. http://www.wlead.com<br />The RFID devi

wleadcom的专栏 709

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

don‘t know what to do with file “/root/mongo/zdw/bj.bson“, skipping...

total 8数据目录不对,需要是下面的结构:格式需要是:total 0total 0total 0。

u013584020的博客 703

论文浅尝 | Language Models (Mostly) Know What They Know

笔记整理:程思源、梁孝转,浙江大学在读硕士,研究方向为知识图谱的表示学习,自然语言处理,预训练对于一个语言模型,我们最终希望得到一个“诚实”的人工智能系统,即语言模型需要准确并且忠实地评估它们对于自己的知识和推理的置信水平。AI模型进行自我评估(self-evaluation),首先需要让语言AI在回答问题的时候校准(Calibration)自己的答案。校准就是让后验概率和经验概率相匹配,这样就可...

开放知识图谱 1787

解决mongorestore恢复警告don‘t know what to do with subdirectory “xxxx/xxx“, skipping...

使用mongorestore时,导入的文件直接指定到.bson这样就可以恢复一个库里的固定的集合。

呆萌的代Ma 2743

论文笔记:How Can We Know What Language Models Know?

论文链接:https://arxiv.org/abs/1911.12543 代码开源:GitHub - jzbjyb/LPAQA: Language model Prompt And Query Archive

qq_43183860的博客 1702

Inside Internet Security:What Hackers Don't Want You To Know

 A bit old.......but still a good read for free Book Description Hackers know things that you dont. Thats their edge. Its the reason that they are able to break into networks, leaving a path

Linhanshi Blog 540

Dont't lose hope, you never know what tomorrow will bring

别灰心,谁知道明天有怎样的惊喜!going on

每天都有收获! 812

I don’t know what if a snake eats its tail, But a file can not import itself.

noname666的博客 886

Re53:读论文 How Can We Know What Language Models Know?

论文阅读笔记:How Can We Know What Language Models Know?

诸神缄默不语的博客 928
上一篇: 反脆弱
下一篇: 小趋势2
shatule
博客等级 码龄8年 8粉丝 35原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值