- 博客(329)
- 资源 (7)
- 收藏
- 关注
RSS订阅原创 使用linux的mail命令发送html格式的邮件
2、然后修改/etc/mail.rc，在文件末尾增加以下内容，指定邮箱和授权码。1、关闭本机的sendmail服务或者postfix服务。3、然后通过命令来发送邮件。3、授权码的获取方式。
2024-07-10 05:32:12
10229
原创 github的优秀项目
GitHub - keon/awesome-nlp: A curated list of resources dedicated to Natural Language Processing (NLP)GitHub - glample/tagger: Named Entity Recognition Toolhttps://github.com/guoguibing/librec 优秀推荐系统代码https://github.com/ottokart/punc
2024-05-27 13:57:58
714
原创 模型蒸馏笔记
Hinton在NIPS2014提出了知识蒸馏（Knowledge Distillation）的概念，旨在把一个大模型或者多个模型ensemble学到的知识迁移到另一个轻量级单模型上，方便部署。简单的说就是用小模型去学习大模型的预测结果，而不是直接学习训练集中的label。
2024-05-26 20:20:47
801
原创 语料清洗的难点——为什么gbk编码常用抽取正则表达式无法抽取“嘚瑟“的“嘚”字
原因是：“嘚”的二进制编码是874e，而4e的编码正好是大写字母N，经过lower()函数后，就变成n，对应的二进制编码是6e，而876e就是”噉”因此语料预处理时需要非常小心，大小写转换在语料处理流程中的顺序，以及中文字符的抽取的正则都需要多加检验才能保证语料的干净。而我们常用的gbk汉字抽取正则表达式为[\x80-\xff][\x80-\xff]原因是：现在很多年轻人喜欢用兔斯基表情-.-，在语料处理时-被删除了，但是.留下了。其中0a为\n字符，874e即“嘚”字的gbk编码。
2024-05-16 14:24:24
401
原创 streamlit报错：AxiosError: Request failed with status code 403
步骤三：重新启动你的streamlit网页。步骤一：创建config.toml。步骤二：加入以下内容。
2024-05-14 22:44:26
1415
原创 deepspeed笔记
传统的深度学习，模型训练并行，是将模型参数复制多份到多张GPU上，只将数据拆分（如，torch的Dataparallel），这样就会有大量的显存冗余浪费。ZeRO Stage 3: 划分模型参数，或者说，不同的layer. ZeRO-3会在forward和backward的时候，自动将模型参数分配到多个memory。由于ZeRO-1只分配optimizer states(参数量很小)，实际使用的时候，我们一般只会考虑ZeRO-2和ZeRO-3。而ZeRO的实现方法，就是把参数占用，逻辑上分成三种类型。
2024-04-18 14:43:03
558
原创 isascii、isdecimal、isdigit、isnumeric、isprintable、islower、isupper、isalpha、isalnum到底有什么异同
在使用python进行文本预处理时，经常会用到以上函数，那么它们到底有什么异同？
2024-04-16 16:48:31
294
原创 linux 的split命令如何确保split出来的多个文件，每个文件都 带上原始文件开头的第一行
split_with_header.sh如下。
2024-04-11 07:15:37
291
原创 hanlp的使用
hanlp最流行的是java的1.*版本（代码支持python和java），但是后来研发了2.0版本（代码仅支持python），2.0的版本是深度学习版本，功能也很多，但是貌似没有1.*那么流行。本文重点介绍1.*版本的使用（以v1.8.4为例）
2024-03-29 17:46:14
403
原创 报错：failed to initialize nvml driver/library version mismatch
【代码】报错：failed to initialize nvml driver/library version mismatch。
2024-03-23 16:27:58
1409
1
原创 报错：openai.error.RateLimitError: You exceeded your current quota, please check your plan and billing
出现这个问题的原因是主要是在OpenAI的账户余额不足导致的。点击下面的Billing，然后点击Add to credit balance，即可开始充值。充值完成后，把原有API key 删除，然后新建一个key。以后都用这个新key即可。
2024-03-10 07:32:19
2724
原创 如何使用sort快速得对当前文件夹下所有文件大小进行排序
将上面的的代码保存至/usr/local/bin/sortfile，后面只需要执行sortfile命令即可。
2023-12-30 15:50:11
603
原创 报错:RuntimeError: CUDA error: no kernel image is available for execution on the device
例如，假设你的cuda版本是12.2，那么你可以将就着用下面的cuda12.1的torch版本。一般报这样的错，主要原因是torch版本和cuda版本不匹配导致的。，找到适合自己cuda的torch版本。
2023-12-28 10:12:25
7909
原创 docker报错：Got permission denied while trying to connect to the Docker daemon socket at unix:///var/ru
这个错误通常表示用户尝试执行与Docker守护程序通信的操作，但没有足够的权限。
2023-12-22 22:20:04
6941
1
原创 在打日志时，如何使用snowflake-id快速方便得随机获取query的唯一id
【代码】如何使用snowflake-id快速方便得随机获取query的唯一id。
2023-12-21 18:55:00
557
原创 技术人做管理的思考
格鲁夫有过这样一句名言：一个经理人的产出，就等于他直接管辖和间接影响力所及的组织产出总和。a、b、c代表了管理杠杆率，A、B、C代表了各种管理活动。也就是说经理人的产出=组织产出的加权总和=a。
2023-09-13 22:10:53
155
原创 python多线程真是让人受够了
一、有8种不同的方法三、参考文献https://superfastpython.com/multiprocessing-pool-issue-tasks
2023-08-19 10:10:35
132
原创 pip install总是报错：ValueError: Trusted host URL must include a host part: ‘#‘
把 ~/.pip/pip.conf改成下面这样即可。主要原因是第4行后面的注释内容导致的。
2023-08-13 16:27:46
2084
3
原创 如何修改hugging face的模型默认下载地址
主要原因是hugging face 的数据缓存比较大，jupyter执行的时候，需要加一个环境变量。
2023-06-14 10:01:46
11597
1
原创 linux系统限制进程的cpu使用率
cpu是公平的，大多数进程以相同的优先级启动，并且Linux内核在处理器上平均地为每个任务调度时间。在资源紧张时，cpu一般也是平均的分配进程占用cpu的时间片段。不过我们要对某些进程调高优先级，或者降低某进程的优先级呢，我们可以用下面几种方式控制cpu：系统limits配置文件/etc/security/limits.conftaskset命令设置手动调整nice值。
2023-06-14 09:59:41
1079
hanlp的data-for-1.7.5.zip
2024-03-29
哈米尔顿环问题(c++实现)
2010-05-15
EM算法(附实验报告文档,java实现)
2010-04-21
八数码问题(附实验报告文档,java实现)
2010-04-21
条件随机场（史上最牛条件随机场教程）
2010-03-30
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人