CONCEPTEDIT: Conceptualization-Augmented Knowledge Editing in Large Language Models

最新推荐文章于 2025-06-11 12:06:04 发布
最新推荐文章于 2025-06-11 12:06:04 发布
阅读量176 收藏
点赞数 5
分类专栏： LLM Daily LLM Editing 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/145052872
版权

本文是LLM系列文章，针对《CONCEPTEDIT: Conceptualization-Augmented Knowledge Editing in Large Language Models for Commonsense Reasoning》的翻译。

CONCEPTEDIT：用于常识推理的大型语言模型中的概念化增强知识编辑

摘要

知识编辑（KE）旨在调整大型语言模型（LLM）的内部表示和参数，以纠正不准确之处并提高输出一致性，而不会产生重新训练整个模型的计算费用。然而，编辑常识知识仍然面临困难，包括现有资源中的知识覆盖范围有限，为过多的常识知识标注标签的不可行性，以及当前编辑方法的严格知识格式。在本文中，我们通过提出CONCEPTEDIT来应对这些挑战，CONCEPTEDT是一个框架，它将概念化和实例化集成到LLM的KE管道中，以增强其常识推理能力。CONCEPDIT使用另一个验证器LLM动态诊断LLM中不可信的常识知识，并通过概念化来增强要编辑的源知识，以获得更强的泛化能力。实验结果表明，与其他基线相比，使用CONCEPTEDIT增强的LLM成功生成了可信度更高的常识知识，并在多个问答基准测试中实现了更强的性能。

1 引言

2 相关工作

3 CONCEPTEDIT框架

了解本专栏 订阅专栏 解锁全文 超级会员免费看
（转） [it-ebooks]电子书列表
weixin_34233618的博客
01-15 2074
[it-ebooks]电子书列表 [2014]: Learning Objective-C by Developing iPhone Games || Leverage Xcode and Objective-C to develop iPhone games http://it-ebooks.info/book/3544/Learning Web App Devel...
[it-ebooks]电子书列表
wadexmy的专栏
12-30 6655
#### it-ebooks电子书质量不错，但搜索功能不是很好 #### 格式说明  [ ]中为年份      ||  前后是标题和副标题  #### [2014]: Learning Objective-C by Developing iPhone Games || Leverage Xcode and Objective-C to develop iPhone gam
[it-ebooks]电子书列表v0.1.1
mapoor的专栏
02-06 1万+
#### 感谢it-ebooks团队 #### it-ebooks电子书质量很好，但搜索功能不太完善 #### 格式说明： [年份] 书名 || 副标题 || 页码 || 链接 #### [2015]: Data Mining Algorithms || Explained Using R || 720 || http://it-ebooks.info/book/4
CVPR2017论文摘要汇总
super_chicken的博客
04-09 1万+
1. Exclusivity-Consistency Regularized Multi-view Subspace Clustering Abstract: Multi-view subspace clustering aims to partition a set of multi-source data into their underlying groups. To boost the ...
插件8：拼写检查
热门推荐
dearbaba_1666的博客
06-27 15万+
<?php // Plug-in 8: Spell Check // This is an executable example with additional code supplie
【AI视野·今日NLP 自然语言处理论文速览 第六十一期】Tue, 24 Oct 2023
TomRen
11-01 2429
AI视野·今日CS.NLP 自然语言处理论文速览 Tue, 24 Oct 2023 (showing first 100 of 207 entries) Totally 100 papers 👉上期速览✈更多精彩请移步主页 Daily Computation and Language Papers LINC: A Neurosymbolic Approach for Logical Reasoning by Combining Language Models with First-Order Lo
EMNLP2023 | 长篇论文接受列表
yinizhilianlove的博客
12-12 2292
EMNLP2023 长篇论文接受列表~
yolo模型精度提升策略
qq_47798402的博客
06-09 800
结合起来，才能最大程度地提升那6种相似BGA的区分能力，从而显著提高整体mAP。持续进行基于难例分析的主动学习是突破瓶颈的可持续方法。使用自适应优化器、学习率热身与余弦退火，进行充分长周期的训练（配合早停）。持续收集模型在相似BGA上的错误样本，优先标注并加入训练集进行迭代。设计模拟BGA实际成像挑战（反光、模糊、视角变化）的增强方案。尝试引入注意力机制，将分类损失替换为。训练数据（2倍以上是合理起点）。（Focal Loss）以及。显著增加6种相似BGA的。（特别是注意力机制）、
原始的 P-Tuning 和 P-Tuning v2 在实现细节上有哪些不同
ZJQ的博客
06-10 729
P-Tuning v2（2022） - **改进点**： - 在模型的每一层都添加软提示（类似 Prefix Tuning 的思路），而不只是输入层。 - **引入轻量级 MLP 层**：在预训练模型的输出后添加一个小型的多层感知机，增强分类能力。 - **结构特点**： ``` 输入文本 + 软提示 → 预训练LM → MLP层 → 分类输出 ``` MLP 通常由 1-2 层线性层组成，参数量远小于全量微调。
二维张量dim=1
GHL_17768588743的博客
06-11 428
在PyTorch中处理二维张量（矩阵）时，‌dim=1‌，也就是逐行处理每一行的所有列元素。
扣子开发汽车行业智能客服示例
brucexia的专栏
06-11 1004
在本节中，我们想要创建一个AI客服，用于介绍汽车领域的行业知识，因此需要利用知识库的能力。首先，梳理汽车行业知识，形成FAQ（常见问题解答）。然后，将其上传到知识库中。最后，将知识库配置到AI Agent智能体中，使其能够调用知识库的内容作为回复。完成以上步骤之后，当用户咨询Agent有关汽车领域知识的问题时，Agent将根据FAQ的内容进行回答。传统的机器人客服只能生硬地套用FAQ，缺乏灵活性。
简繁体智能翻译软件
weixin_62784879的博客
06-09 493
以常见物品为例：内地称\"创口贴\"，香港称\"胶布\"，台湾称\"OK绷\"；汽车品牌\"奔驰\"在香港译作\"平治\"、台湾译作\"宾士\"，这类词汇差异需要额外认知成本。该工具内置智能词库系统，能自动识别并转换具有地区特色的用词表达，实现内地、香港、台湾三地语言习惯的精准转换。针对台湾地区使用的注音符号（如ㄅㄆㄇㄈ）及网络流行的火星文等特殊文字形式，提供对应的转换方案。这款工具还有许多功能，我就不一一介绍啦。
大模型Transformer触顶带来的“热潮退去”，稀疏注意力架构创新或是未来
最新发布
打造全国最全的AI Agent开发知识领域的博客
06-11 1465
大模型狂欢落幕，硬核创新登场！Transformer逼近能力天花板，Agent应用成落地新大陆，而架构层正孕育颠覆性突破。中国团队在云端与终端双轨并进，用稀疏注意力、端侧推理优化打开效率魔盒。告别内卷式数据堆砌，迎接深水区技术创新——这一篇，看懂AI未来十年胜负手！
Sklearn 机器学习 缺失值处理 填充数据列的缺失值
Kant2048的博客
06-07 769
使用Scikit-learn处理数据缺失值的完整指南，多种有效的缺失值处理方法。
（五）动手学深度学习计算：从数学原理到高效实现的全流程指南
hanyuge的专栏
06-08 755
在实际应用中，我们常常需要自定义层和块来实现特定的功能。PyTorch提供了灵活的API来创建自定义层和块。无参数层：实现不包含可学习参数的层，如激活函数层。return torch.sigmoid(x) # 示例：Sigmoid激活函数含参数层：实现包含可学习参数的层，如自定义的全连接层。组合层：将多个层组合成一个块，实现复杂的功能。return x层是深度学习模型的基本构建块，执行特定的计算任务。块是由多个层组成的模块，提高代码的可读性和可维护性。
职业生涯思考
fuyouzhiyi的博客
06-06 637
这种复杂的感受，我来帮你试着梳理出来。如果你觉得某些句子正好说中了你，就把它留下。
【强化学习】——04Model-Based RL
Piccaboo的博客
06-07 718
一是，算法收敛后的策略在初始状态下的期望回报二是，算法达到收敛结果需要的样本数量基于模型的算法得益于这个环境模型，Agent对真实环境中的样本量的需求往往会减少通常具备较低的样本复杂度，但由于环境模型不可能完全准确，因此其期望回报通常较低之前的Model-Free RL中，Agent只可以与环境进行交互如果环境模型已知，那么Agent可以与模型进行交互，基于模型来规划或决策这个模型的作用在于提供环境状态转移概率和预测生成的奖励，以产生或优化策略MPR状态转移函数Ps′∣sa奖励函数Rs。
引领AI安全新时代 Accelerate 2025北亚巡展·北京站成功举办
Sophya89的博客
06-06 914
6月5日，网络安全行业年度盛会——"Accelerate 2025北亚巡展·北京站"圆满落幕！来自智库、产业界、Fortinet管理层及技术团队的权威专家，与来自各行业的企业客户代表齐聚一堂，围绕"AI智御全球·引领安全新时代"主题，就AI技术驱动的安全防御体系重构、网络与安全的原生融合实践、全球化场景下的SASE技术落地三大核心议题展开深入研讨。
钉钉C10圆桌派在北京召开 AI一体机首次签约
weixin_43735236的博客
06-09 139
一体机也提供多种AI助理，覆盖审批、工单、行政、法务等多个高频场景，可广泛应用于零售、连锁、生产制造、教育、法律服务等众多行业，帮助企业进一步提质降本增效，数智化升级。通过部署钉钉AI一体机，杰锐思打造了装配助手、代码助手等AI应用，实现了从知识检索到业务协同的全链路升级，在数据安全的基础上，进一步实现了增效降本和效率提升。6月6日，钉钉在北京举办C10圆桌派-AI专场思享会，会上，钉钉和苏州杰锐思智能科技股份有限公司（以下简称：杰锐思）就AI一体机应用签署合作协议，这是钉钉首次在客户落地AI一体机实践。
Conceptualization of historical geography and its research objectives
04-25
好的，下面是使用arcade库实现双人贪吃蛇的代码： ```python import arcade import random # 定义贪吃蛇 class Snake: def __init__(self, x, y): self.x = x self.y = y self.w = 20 # 定义蛇头的大小 self.speed = 20 # 定义每次移动的距离 self.dir_x = self.speed self.dir_y = 0 self.body = [[x, y], [x-self.w, y], [x-self.w*2, y]] # 初始化蛇身列表 self.color = arcade.color.YELLOW_ORANGE # 定义颜色 # 更新蛇的位置和方向 def update(self): self.x += self.dir_x self.y += self.dir_y self.body.insert(0, [self.x, self.y]) self.body.pop() # 绘制蛇 def draw(self): arcade.draw_rectangle_filled(self.x, self.y, self.w, self.w, self.color) for i in range(1, len(self.body)): arcade.draw_rectangle_filled(self.body[i][0], self.body[i][1], self.w, self.w, arcade.color.YELLOW_ORANGE) # 定义食物 class Food: def __init__(self): self.x = random.randint(1, 39) * 20 # 随机生成食物的位置 self.y = random.randint(1, 39) * 20 self.w = 20 # 食物的大小 self.color = arcade.color.RED # 颜色 # 重新生成食物 def respawn(self): self.x = random.randint(1, 39) * 20 self.y = random.randint(1, 39) * 20 # 绘制食物 def draw(self): arcade.draw_rectangle_filled(self.x, self.y, self.w, self.w, self.color) class SnakeGame(arcade.Window): def __init__(self): super().__init__(800, 800, "双人贪吃蛇") arcade.set_background_color(arcade.color.BLACK) self.snake1 = Snake(200, 200) # 初始化两只蛇 self.snake2 = Snake(600, 600) self.food = Food() # 初始化食物 # 检查蛇是否碰到边缘或者碰到对手 def check_collisions(self): if self.snake1.x < 0 or self.snake1.x > 780 or self.snake1.y < 0 or self.snake1.y > 780: arcade.close_window() print("Snake 2 Wins!") if self.snake2.x < 0 or self.snake2.x > 780 or self.snake2.y < 0 or self.snake2.y > 780: arcade.close_window() print("Snake 1 Wins!") for i in range(1, len(self.snake1.body)): if self.snake1.x == self.snake1.body[i][0] and self.snake1.y == self.snake1.body[i][1]: arcade.close_window() print("Snake 2 Wins!") for i in range(1, len(self.snake2.body)): if self.snake2.x == self.snake2.body[i][0] and self.snake2.y == self.snake2.body[i][1]: arcade.close_window() print("Snake 1 Wins!") if self.snake1.x == self.snake2.x and self.snake1.y == self.snake2.y: arcade.close_window() print("Draw!") # 蛇吃到食物 def check_eat(self): if self.snake1.x == self.food.x and self.snake1.y == self.food.y: self.food.respawn() self.snake1.body.append([self.snake1.x, self.snake1.y]) if self.snake2.x == self.food.x and self.snake2.y == self.food.y: self.food.respawn() self.snake2.body.append([self.snake2.x, self.snake2.y]) # 检查键盘输入 def on_key_press(self, key, modifiers): if key == arcade.key.LEFT and self.snake1.dir_x != self.snake1.speed: self.snake1.dir_x = -self.snake1.speed self.snake1.dir_y = 0 elif key == arcade.key.RIGHT and self.snake1.dir_x != -self.snake1.speed: self.snake1.dir_x = self.snake1.speed self.snake1.dir_y = 0 elif key == arcade.key.UP and self.snake1.dir_y != -self.snake1.speed: self.snake1.dir_x = 0 self.snake1.dir_y = self.snake1.speed elif key == arcade.key.DOWN and self.snake1.dir_y != self.snake1.speed: self.snake1.dir_x = 0 self.snake1.dir_y = -self.snake1.speed elif key == arcade.key.A and self.snake2.dir_x != self.snake2.speed: self.snake2.dir_x = -self.snake2.speed self.snake2.dir_y = 0 elif key == arcade.key.D and self.snake2.dir_x != -self.snake2.speed: self.snake2.dir_x = self.snake2.speed self.snake2.dir_y = 0 elif key == arcade.key.W and self.snake2.dir_y != -self.snake2.speed: self.snake2.dir_x = 0 self.snake2.dir_y = self.snake2.speed elif key == arcade.key.S and self.snake2.dir_y != self.snake2.speed: self.snake2.dir_x = 0 self.snake2.dir_y = -self.snake2.speed # 每帧更新 def on_draw(self): arcade.start_render() self.snake1.draw() self.snake2.draw() self.food.draw() # 更新位置 def update(self, delta_time): self.snake1.update() self.snake2.update() self.check_collisions() self.check_eat() if __name__ == '__main__': game = SnakeGame() arcade.run() ``` 希望对你有所帮助!
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值