- 博客(48)
- 收藏
- 关注
原创 MySQL-基础篇学习总结(2025-03-02)
这部分内容介绍数据库相关概念及MySQL数据库的介绍、下载、安装、启动及连接。具体的内容这里略过。下面几个命令比较实用:在cmd里面启动mysql服务和关闭mysql服务的命令:在命令行连接mysql的命令:mysql [-h 主机ip] [-p 端口] -uroot -p密码用来定义数据库对象(数据库、表、字段)连接查询有以下几种类型:内连接、外连接、左外连接、右外连接、自连接。
2025-03-02 15:14:11
715
原创 mysql密码及配置相关内容(2025-03-01)
如何解决这个问题:还好我的navicat一直连着数据库,于是我打开navicat进去,找到mysql数据库里面的user表,把root用户对应的密码列清空,这样的话就可以不用密码在cmd登录了。首先,我用:net start mysql在cmd里面打开MySQL一直不成功,后来才发现是以前配置了打开二进制日志,但是没有设置server_id,这里我的MySQL版本是5.7.24。我把之前下载的MYSQL密码弄忘记了,弄了好久才弄好,现在记录一下。之后又出现一个问题:我忘记mysql密码了555。
2025-03-02 10:00:50
94
原创 LLM相关知识&技术学习记录(01)--GPT3.5和GPT4.0里的各个版本区别与联系
对话情绪识别的发展一直受到pipeline设计复杂性的阻碍,导致ERC模型经常过度拟合特定的数据集和对话模式。在这项研究中,我们提出了一种新的方法,即InstructERC,将ERC任务从判别式框架重新调整为基于大型语言模型( LLMs )的生成式框架。instructERC有4个重大贡献:引入一个简单但是有效的模板检索模块,通过将语义相似度较高的历史对话内容、标签陈述、情绪域演示连接起来进行串联,从而显式地整合多粒度对话监督信息。
2024-12-14 22:06:19
1007
1
原创 Prompt相关论文阅读(05)--TAKE A STEP BACK: EVOKING REASONING VIA ABSTRACTION IN LARGE LANGUAGE (2024-11-30)
我们提出了STEP - BACK PROMPTING,一种简单的提示技术,它可以使LLMs进行抽象,从包含特定细节的实例中导出高级概念和第一原理。利用这些概念和原理来指导推理,LLMs显著地提高了他们沿着正确的推理路径进行求解的能力。我们在PaLM - 2L、GPT - 4和Llama2 - 70B模型上进行了STEP - BACK PROMPTING实验,并在包括STEM、知识问答和多跳推理在内的各种具有挑战性的推理密集型任务上观察到了实质性的性能提升。
2024-11-30 15:23:48
277
1
原创 Prompt相关论文阅读(04)--Rephrase and Respond: Let Large Language Models Ask Better Questions(2024-11-29)
误解不仅出现在人际交往中,也出现在人与大语言模型( LLMs )之间。这种差异会使语言模型以意想不到的方式解释看似毫不含糊的问题,从而导致错误的回应。尽管提示的质量,如问题,显著影响LLMs提供的回复的质量已经广为人知了,但是LLMs能够更好地理解问题的系统化方法仍然没有找到。在本文中,我们提出了一种名为“复述和回复”的方法,该方法允许LLM重新复述拓展,并扩展人类所提出的问题,并以单一提示中提供响应。该方法为提高表现提供了一种简单而有效的激励方法。
2024-11-29 23:38:04
329
1
原创 Prompt相关论文阅读(03)--Active Prompting with Chain-of-Thought for Large Language Models(2024-11-29)
大规模语言模型( Large Language Models,LLMs )的不断增加为各种需要推理的复杂任务,如算术和常识推理等带来了新的能力。众所周知,针对特定任务的提示的有效设计对LLMs产出高质量答案的能力至关重要。特别地,一种有效的方法是基于样例的提示和思维链推理,这极大地改善了大模型的表现。然而,目前的CoT方法依赖于一组固定的人工标注样本,对于不同的任务来说,这并不一定是最有效的例子。这篇论文提出了一个方法,自动提示,通过特定任务的示例提示,使LLM适应不同的任务。
2024-11-29 16:19:16
887
1
原创 Prompt相关论文阅读(01)--大语言模型是人类级别的提示工程师(2024-11-23)
通过在自然语言指令上的条件化,大语言模型作为通用目的的计算机展示出了令人印象深刻的能力。然而,任务的表现在很大程度上依赖于用来指导模型的提示的表现,并且大多数有效的提示是人类起草的。受到经典程序合成和人类提示工程的启发,我们提出了自动提示工程APE用于自动指令生成和选择。在我们的方法中,我们将指令视为“程序”,通过搜索一个由LLM提出的指令候选池来优化,以最大化选择的得分函数。为了评估所选指令的质量,我们评估了跟随所选指令的另一个LLM的零样本性能。
2024-11-23 14:59:51
770
1
原创 Prompt相关论文阅读(02)--Auto-CoT(2024-11-25)
使用常识知识来解决ERC任务。提出了一个新的框架COSMIC,包含常识的不同元素,如心理状态、事件和因果关系并在此基础上学习对话中的说话者间的交互。目前最先进的方法经常在上下文传播、情绪偏移检查、区分情绪类别等方面遇到困难,通过学习不同的常识表征,COSMIC解决了这些挑战并在4个不同的基准数据集上取得了新的SOTA结果。
2024-10-29 20:35:09
587
1
原创 ERC论文阅读(02)--SAC;-LSTM论文阅读笔记
这篇论文是研究ERC任务的论文,发表在2023年ACL上。作者利用对比学习和对抗训练策略来完成ERC任务,采用LSTM作为基础模型,在基础模型上使用对抗训练的方法和对比学习的方法来改进ERC任务效果,是当时第一个将对抗训练引入ERC任务的工作,该项工作基于文本模态,在常用的数据集MELD、iemocap、emoryNLP上取得了SOTA的效果。
2024-10-26 20:52:54
552
1
原创 ERC论文阅读(01)--BiosERC论文阅读笔记
这篇论文是研究ERC任务的论文,作者提出了微调LLM和训练了自己的基于bert的预训练模型。中心思想是将对话中说话者的性格特征注入模型中,实验证明了其思想的有效性,在常用的数据集MELD、iemocap、emoryNLP上取得了SOTA的效果。
2024-10-21 16:39:10
417
1
原创 python学习记录
python其实本科的时候系统学习过基础语法,不过后来一直没有用过,忘记了。研一的时候又重新看课程学习了一遍基础语法,不过最近在看论文代码的时候发现很多地方我还是混淆了,所以昨天和前天系统回顾了一遍基础语法(国庆长假正是弯道超车的好时机啊!)。
2024-10-02 10:51:00
660
原创 NLP经典论文研读--xlnet论文代码复现记录
xlnet这个模型还是相当复杂的,我看了很长一段时间也还是有很多地方没有搞明白,最后又在网上搜了很多大佬写的相关博客,才算是大致弄明白了,想了解xlnet的原理,请参考原论文,这里推荐一位大佬写的博客,写得非常清楚明白,也解决了我的很多困惑。在这里,我重点讲解一下xlnet的代码实现,我这个代码是注:这代码里面没有说实验配置,但是我自己的实验环境是cuda11.3 ,经过实验可以正常运行,我的实验配置供参考,如下:python:3.6。
2024-06-27 10:10:13
1053
1
原创 NLP经典论文研读--transformer-XL论文源码难点记录
transformerXL论文源码研读,这篇论文我看了差不多快10天,555~主要我确实太菜了,代码也看不明白,花了好久的时间才勉强啃下来。现在来记录一下看这篇论文的一些想法。
2024-06-27 09:44:07
557
原创 动手学深度学习加载数据集错误:FashionMNIST
md,太难了下载raw里面的4个压缩文件,不用解压使用网友的代码读取压缩文件加载正确如图:更改读取代码:import osimport sys若佬有更好的方法,欢迎留言。
2024-03-21 21:07:32
304
1
原创 navicat右边显示无连接怎么办
救命,今天在安装完navicat测试连接的时候发现右边死活是灰色,在网上找个半小时,才解决,原来只要双击一下设置的连接就可以了,好想去撞墙啊~~参考:https://blog.youkuaiyun.com/weixin_48576892/article/details/129637232。
2024-01-07 22:50:02
519
1
原创 李宏毅机器学习2023课程记录(1)--课程介绍
总结:第一节课就是讲解这门课的一些内容、作业规则、评分规则、课程内容等;然后,老师说旁听也可以上传作业到kaggle,但是助教不会批改旁听生的作业(哈哈哈,这不是很正常莫):这门课虽然叫做机器学习,但是李宏毅老师讲课主要以深度学习的技术,特别是最新的深度学习技术进展为主。在这里,记录我最近听的李宏毅老师的机器学习课程的一些笔记和感想,进行归纳总结同时方便后续复习回顾。:本内容完全根据本人听课的心得体会~下面是我在B站上面听课的几张截图。:2023年12月16日。:课程介绍、作业介绍、
2023-12-17 11:41:38
649
原创 论文阅读笔记(12月15)--DialogXL
本文介绍了我们在使用预训练语言模型进行会话情感识别( ERC )方面的开创性工作。与常规文档不同,会话话语交替出现于不同的参与方,在以往的工作中通常被组织成层级结构。这样的结构不利于XLNet等预训练语言模型的应用。为了解决这个问题,我们提出了一个一体式的XLNet模型,即DialogXL,它具有增强的内存来存储更长的历史上下文和对话感知的自注意力来处理多方结构。具体来说,为了更好地对会话数据进行建模,我们首先将XLNet的递归机制从segment-level修改为utterance-level。其次。
2023-12-16 22:28:27
3676
原创 使用bash文件运行的python深度学习项目如何调试
因为我是第一次调试这种用bash文件运行的项目,故记录以备以后查看。我要运行的bash文件为:在终端运行项目的话,命令是:bash exp_meld.sh。
2023-12-05 15:12:16
1034
原创 Hierarchical Dialogue Understanding with Special Tokens and Turn-level Attention代码复现记录
我没有完全按照作者在readme里面说的,因为我第一次装了那个出了很多bug,我现在也不知道是什么原因,就换了一些版本,总算是跑通了。如regex,tqdm等,这些没有依赖版本的要求的包,我就是直接在创建的虚拟环境里面pip install 安装的。其实呢,我还是有很多地方不清楚,如果有大佬路过,恳请指点一二,不要吝惜您的赐教,在此拜谢~目前只是跑通了,具体的逻辑细节,我还要再看一下。在运行这个命令的时候,有几点细节要注意。
2023-12-04 16:36:12
365
原创 复现论文代码的时候老是遇到需要安装各种不同版本的cuda的问题
然后运行 sh cudaxxxxx.run(就是你下载的那个文件名),由于我不是管理员账号,所以不要sudo,这里要安装在自己账号的路径下面,不然安装不了。参考的博客:https://blog.youkuaiyun.com/qq_41917697/article/details/114437924。如图,建立后,又有cudal1,图中浅蓝色为cuda,表示是软链接(看网友说的,我不敢保证一定是这个意思)根据网友的说法,参考:https://www.zhihu.com/question/622711856。
2023-12-03 15:49:43
2055
原创 看transformer源代码时候遇到的问题(ONMT)
这个文件的介绍网友已经写得很仔细了,我就不搬运了,参考:https://zhuanlan.zhihu.com/p/433176170。这里目录也太复杂了,本菜鸟实在不明白每个部分是干啥的,有大佬路过愿意指点一二的话,本人感激不尽。这个我也不太懂,救命,我项目都没怎么跑过呀,研一导师放养过得可快乐了,现在啥也不会。其实我之前看的源代码是另一个版本,这里也贴在这里,我刚刚克隆下来,还没有仔细看。大佬路过指点一下,感激不尽!我放弃了,这个源代码对我来说太复杂了,我决定先看看哈佛团队的。
2023-11-29 10:53:24
408
原创 记录创建虚拟环境和在虚拟环境中安装pytorch的过程
这里版本要根据自己的实际情况来确定。参考博客:https://blog.youkuaiyun.com/yup1212/article/details/124277058。每次复现论文都要创建新的环境,安装对应版本的pytorch等,每次都要到处找教程,太麻烦了,所以记下来。conda env list(展示有哪些虚拟环境)
2023-11-27 15:08:56
414
原创 Transformer学习系列(1)
其实我之前一直以为transformer是指具体的一个模型,但是今天在网上查看资料的时候才发现,transformer既可以指具体的一个模型(2017年谷歌的那个模型),也可以指一类具有某些特征架构的深度学习模型。而BertTokernizer直接一步将话语转成id,还有对应的句子号码(token_type_ids)、是否是填充的token(attention_mask)目前看到的AutoTokenizer是对话语进行分词,是真的分为一个个自然语言里面的词,若要进行后续操作,需要调用相应的函数。
2023-11-24 23:06:01
399
原创 ModuleNotFoundError: No module named ‘torch.utils._pytree‘
conda uninstall pytorch即可(这里因为我使用conda install 命令安装的,所以这么卸载,若是pip命令安装,则要pip uninstall )该问题为版本不匹配问题,经查询,我当前环境下安装的pytorch版本为1.7.1,而报错的模块为1.8.0以后引入,故需要将现存的pytorch卸载重新安装对应版本。接着,我想尝试一下这个,结果又报错。烦死,这应该是网络的问题。
2023-11-24 22:14:56
5969
原创 论文复现记录:A Bipartite Graph is All We Need for Enhancing Emotional Reasoning with Commonsense Knowledge
经过我的查询,原来每个epoch都要训练、验证、测试,然后看在哪一个epoch上面模型的表现最好就将其保存为最好的模型。哭了,本人实在是太无知了,跨考生如何快速入门科研,如何快速上手实验,如有大佬经过看到此处,愿意留下三言两语指点一二,本人感激不尽~~我大致明白它的意思,这里测试应该加载的是一个训练完的模型,但是我这个指定的是一个目录,里面保存的是每个epoch结束后模型的状态,关键在于我不知道是不是应该指定最后一个epoch训练完的模型状态作为测试用的模型。改回去以后还是报错,特喵的,我要风了!
2023-11-19 21:17:41
216
原创 【无标题】
今天刚刚下载了visio,由于开题报告里面画图有公式,所以想在Visio里面编辑公式,结果发现Visio菜单栏没有插入公式的选项,于是在网上找了一会,把插入公式加入菜单栏里面了。按照这个教程安装mathtype后即可使用,不过这里这个是30天试用版本。到时候可能还能找一个永久激活方法。2. 使用wps(详情不知,我不用wps)1.下载安装mathtype。
2023-11-15 16:20:15
1354
原创 ValueError: Connection error, and we cannot find the requested files in the cached path. Please try.
ValueError: Connection error, and we cannot find the requested files in the cached path. Please try.记录自己复现论文代码的过程
2023-10-31 14:04:31
1289
原创 could not find git, can not register for you ...巴拉巴拉
could not find git, can not register for you ...巴拉巴拉
2023-10-29 22:00:35
549
原创 pycharm 里面将编译器interpreter改为conda环境下自己创建的环境,就会有问题,求大佬指点。
pycharm使用conda环境出错
2023-09-12 14:35:01
116
原创 研一下阅读论文--会话情感识别(1)
EmoCaps:Emotion Capsule based Model for Conversationl Emotion Recognition
2023-05-17 22:22:31
728
4
原创 研一下学习记录(一)并发网络编程(一)--网络编程
面向连接的传输服务传输特征 :– 提供了可靠的数据传输,可靠性指数据传输过程中无丢失,无失序,无差错,无重复。– 可靠性保障机制(都是操作系统网络服务自动帮应用完成的): 确认应答机制 通信结束要正常断开连接三次握手(建立连接)– 客户端向服务器发送消息报文请求连接– 服务器收到请求后,回复报文确定可以连接– 客户端收到回复,发送最终报文连接建立四次挥手(断开连接)– 主动方发送报文请求断开连接– 被动方收到请求后,立即回复,表示准备断开。
2023-03-20 11:41:31
78
原创 研一寒假MySQL数据库学习笔记(四)
(1) 不可重复读是读取了其他事务更改的数据,针对update操作解决:使用行级锁,锁定该行,事务A多次读取操作完成后才释放该锁,这个时候才允许其他事务更改刚才的数据。(2) 幻读是读取了其他事务新增的数据,针对insert和delete操作解决:使用表级锁,锁定整张表,事务A多次读取数据总量之后才释放该锁,这个时候才允许其他事务新增数据。
2023-02-03 17:21:40
133
1
原创 研一寒假MySQL数据库学习笔记(三)
1. 表连接内连接 inner join外连接 left join,right join;2. 视图3. 函数和存储过程delimiter 自定义符号beginsql;return val;end 自定义符号delimiter 自定义符号beginsql;end后续内容,见下一篇笔记整理。
2023-02-03 16:18:30
218
B站上的视频《论文写作:如何写论文系列讲座合集(1-10),DrLiuResearchTIP》字幕
2023-06-11
东北大学C++课程资料,上传方便自己查收,也给有需要的网友参考 1 introduction
2023-04-27
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人