<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[小欧欧的博客]]></title><description><![CDATA[你好，智能！]]></description><link>https://blog.youkuaiyun.com/github_36923418</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; github_36923418]]></copyright><item><title><![CDATA[Matplotlib找不到Times New Roman的解决方案]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/135263345</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/135263345</guid><author>github_36923418</author><pubDate>Thu, 28 Dec 2023 10:42:05 +0800</pubDate><description><![CDATA[在使用seaborn或者matplotlib进行论文画图的时候，一般都会用。字体，在我查阅资料后终于尝试到了一个可行的解决方案。文件夹下(如果不存在就新建一个)将这四个文件上传到服务器的。]]></description><category></category></item><item><title><![CDATA[pytorch如何混合进度训练transformer【各种不同方式】]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131868841</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131868841</guid><author>github_36923418</author><pubDate>Sat, 22 Jul 2023 15:53:27 +0800</pubDate><description><![CDATA[Hugging Face 的 Transformers 库为我们提供了大量预训练的 Transformer 模型，以及一个易于使用的训练和微调工具——Trainer。在 Trainer 中，我们可以很容易地启用混合精度训练，也称为自动混合精度 (AMP) 训练。要在 Hugging Face 的 Trainer 中启用混合精度训练，只需要在创建 Trainer 时设置fp16=True。]]></description><category></category></item><item><title><![CDATA[Python绘制多条折线图对比]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131555584</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131555584</guid><author>github_36923418</author><pubDate>Wed, 05 Jul 2023 14:47:57 +0800</pubDate><description><![CDATA[我们这里要把这两个数据画在一个这线图里，要求如下：1.用折线图画在一起，target只需要画一条横线就行，reals每个元素有两个值，第一个值是横坐标，第二个是纵坐标；纵轴单位token/s，横轴单位ngb2.给每个数据点标记上纵坐标值，target也要标记值并且用红色。]]></description><category></category></item><item><title><![CDATA[Ninja is required to load C++ extensions |【终极 - 问题解决】]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131523532</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131523532</guid><author>github_36923418</author><pubDate>Mon, 03 Jul 2023 20:58:55 +0800</pubDate><description><![CDATA[没有的话执行：sudo apt-get install build-essential。]]></description><category></category></item><item><title><![CDATA[非连续内存上执行计算操作，和连续内存上执行计算操作有什么效率上的区别？]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131275901</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131275901</guid><author>github_36923418</author><pubDate>Sun, 18 Jun 2023 20:53:14 +0800</pubDate><description><![CDATA[总之，与非连续内存相比，连续内存上执行计算操作通常具有更高的效率。但在某些情况下，非连续内存布局可能会对内存使用率和数据结构的灵活性有所帮助。因此，根据具体的应用场景和需求来选择适当的内存布局是非常重要的。在计算机内存中，数据可以存储在连续（contiguous）或非连续（non-contiguous）的内存区域。两者在执行计算操作时的效率上存在一定的区别。]]></description><category></category></item><item><title><![CDATA[python求解线性规划问题]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131251207</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131251207</guid><author>github_36923418</author><pubDate>Fri, 16 Jun 2023 17:34:32 +0800</pubDate><description><![CDATA[在这个示例中，最优解为 x = 2 和 y = 2，最优值为 Z = 8。接下来，我们来看一个简单的线性规划问题示例。默认求解的是最小化问题。要在 Python 中求解线性规划问题，通常可以使用。注意，我们将目标函数的系数乘以 -1，因为。首先，确保你已经安装了。最大化：Z = 3x + 2y。]]></description><category></category></item><item><title><![CDATA[如何清理docker在var目录下的大量空间占用]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131249701</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131249701</guid><author>github_36923418</author><pubDate>Fri, 16 Jun 2023 16:32:12 +0800</pubDate><description><![CDATA[目录下可能会产生大量空间占用，主要原因是镜像、容器、数据卷和临时文件的累积。悬空镜像是指没有与任何容器关联的镜像。这将删除所有未使用的镜像、容器、网络和数据卷。执行上述操作后，Docker 在。目录下的空间占用应该会大幅减少。]]></description><category></category></item><item><title><![CDATA[如何安全的清理/var 下的docker临时文件，在不停用docker正在运行的容器情况下]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131249615</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131249615</guid><author>github_36923418</author><pubDate>Fri, 16 Jun 2023 16:31:07 +0800</pubDate><description><![CDATA[在不停止正在运行的 Docker 容器的情况下清理 `/var` 目录下的临时文件有一定的风险，因为这可能导致正在运行的容器出现问题。这些命令只会删除未使用的资源，因此对正在运行的容器的影响较小。然而，在尝试清理 `/var/lib/docker/tmp` 目录下的临时文件时，你需要格外小心。这个命令会列出 `/var/lib/docker/tmp` 目录下修改时间超过 7 天的文件。在删除文件之前，请仔细检查这些文件是否可以安全删除。在删除任何文件之前，请务必仔细检查，以确保不会影响正在运行的容器。]]></description><category></category></item><item><title><![CDATA[如何安全的清理/var 下的docker临时文件，在不停用docker正在运行的容器情况下]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131249650</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131249650</guid><author>github_36923418</author><pubDate>Fri, 16 Jun 2023 16:30:36 +0800</pubDate><description><![CDATA[在执行上述操作时，请确保你了解这些操作可能带来的风险。在删除任何文件之前，请务必仔细检查，以确保不会影响正在运行的容器。在尝试这些操作之前，建议备份重要数据和配置。这些命令只会删除未使用的资源，因此对正在运行的容器的影响较小。目录下的临时文件有一定的风险，因为这可能导致正在运行的容器出现问题。悬空镜像是没有与任何容器关联的镜像。目录下的临时文件时，你需要格外小心。在删除文件之前，请仔细检查这些文件是否可以安全删除。目录下修改时间超过 7 天的文件。在不停止正在运行的 Docker 容器的情况下清理。]]></description><category></category></item><item><title><![CDATA[如何清理docker在var目录下的大量空间占用]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131249596</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131249596</guid><author>github_36923418</author><pubDate>Fri, 16 Jun 2023 16:30:25 +0800</pubDate><description><![CDATA[Docker 在 `/var` 目录下可能会产生大量空间占用，主要原因是镜像、容器、数据卷和临时文件的累积。你还可以手动删除 `/var/lib/docker/tmp` 目录下的临时文件。- 删除网络：`docker network rm <NETWORK_ID>`- 删除数据卷：`docker volume rm <VOLUME_ID>`- 删除容器：`docker rm <CONTAINER_ID>`- 删除镜像：`docker rmi <IMAGE_ID>`- 列出容器：`docker ps -a`]]></description><category></category></item><item><title><![CDATA[pip 使用pyproject.toml进行安装，出错]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/131150046</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/131150046</guid><author>github_36923418</author><pubDate>Sun, 11 Jun 2023 09:23:29 +0800</pubDate><description><![CDATA[pip 使用pyproject.toml进行安装]]></description><category></category></item><item><title><![CDATA[【Bug修复】error: invalid static_cast from type ‘const torch::OrderedDict＜std::basic_string＜char＞, std:]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/130984045</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/130984045</guid><author>github_36923418</author><pubDate>Thu, 01 Jun 2023 11:00:20 +0800</pubDate><description><![CDATA[转自知乎大哥本人实测有效！！！]]></description><category></category></item><item><title><![CDATA[jupyter lab 配置nginx转发]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/130219590</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/130219590</guid><author>github_36923418</author><pubDate>Wed, 19 Apr 2023 00:15:00 +0800</pubDate><description><![CDATA[这里的8217是nginx机器对外开放的端口，8214那个端口是用jupyter所运行的端口。]]></description><category></category></item><item><title><![CDATA[Failed to initialize NVML: Driver/library version mismatch]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/130219139</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/130219139</guid><author>github_36923418</author><pubDate>Tue, 18 Apr 2023 12:49:02 +0800</pubDate><description><![CDATA[系统本来可以正常跑深度学习的，突然就报错了。把nvidia开头的，几个执行下面的代码。2、网上的其他方法，重新装驱动，装不上。然后执行下面的命令检查下。]]></description><category></category></item><item><title><![CDATA[【分布式深度学习-文章阅读】GPipe: Efficient Training of Giant Neural Networksusing Pipeline Parallelism]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/126341569</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/126341569</guid><author>github_36923418</author><pubDate>Mon, 15 Aug 2022 10:52:31 +0800</pubDate><description><![CDATA[1、这篇文章是近期大多数做分布式并行训练的 baseline之一 ；

2、这篇文章侧重点就是model parallelism，往细了说就是layer parallelism，再通俗点就是，grouped layer parallelism；

3、曾经最常用的是，data parallelism，但是随着transformer等大模型的出现，不用model parallelism基本上等于放弃研究了，所以model parallelism再次回归，然后大热。......]]></description><category></category></item><item><title><![CDATA[【分布式深度学习 二】--- 分布式训练demo]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/126261006</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/126261006</guid><author>github_36923418</author><pubDate>Fri, 12 Aug 2022 10:40:15 +0800</pubDate><description><![CDATA[【分布式深度学习 二】--- 分布式训练demo]]></description><category></category></item><item><title><![CDATA[【分布式深度学习 一】--- 环境构建篇之基于物理机-手把手]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/126246021</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/126246021</guid><author>github_36923418</author><pubDate>Tue, 09 Aug 2022 17:35:17 +0800</pubDate><description><![CDATA[分布式训练，从0开始搭建一个分布式训练环境]]></description><category></category></item><item><title><![CDATA[【NLP入门-中文文本分类】步骤详解，附keras代码]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/123194392</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/123194392</guid><author>github_36923418</author><pubDate>Mon, 28 Feb 2022 22:58:29 +0800</pubDate><description><![CDATA[一、NLP 文本分类步骤

第一步：准备数据集，X：句子；Y：类别

第二步：分词，并去除停词（中文理由停词，比如而且，逗号之类；英文的话需要做词的时态转换之类）

第三步：word2idx/word2vec；这里word2vec，可以利用语料库，训练一个单词转为向量的model，这个模型你输入单词，会给你一个向量，并且能计算单词的相似度，相当于提前给词语做了归一化；word2idx就直接用词汇表的id作为向量的元素；

第四步：建模训练



二、代码

1、数据准备➕预处理


我们采用，头条新闻数据集]]></description><category></category></item><item><title><![CDATA[【文章阅读visual granding】GuessWhat?! Visual object discovery through multi-modal dialogue]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/106627419</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/106627419</guid><author>github_36923418</author><pubDate>Mon, 08 Jun 2020 20:13:02 +0800</pubDate><description><![CDATA[一、文章主要有两个贡献点

   1、建立了基于对话的visual granding数据集

   2、给出了基于深度学习的baseline model

二、数据集

这是数据集中的两个例子，可以发现每一张图有一个instance级别的标注，并且对应若干个问答形式的描述！任务的目的在于通过这些问答形式的描述，自动的确定所描述的目标物体是谁！

三、基础模型

从图中可以发现，模型的结构还是比较简单的，有5类不通的输入内容：1、context也就是全局上下文，也就是整张图像；2、crop，也...]]></description><category></category></item><item><title><![CDATA[Pytorch 在训练NLP相关模型中的一些BUG]]></title><link>https://blog.youkuaiyun.com/github_36923418/article/details/106525452</link><guid>https://blog.youkuaiyun.com/github_36923418/article/details/106525452</guid><author>github_36923418</author><pubDate>Wed, 03 Jun 2020 15:41:05 +0800</pubDate><description><![CDATA[1、RuntimeError: Expected `len(lengths)` to be equal to batch_size, but got 9 (batch_size=18)

这个问题，有很多人讨论。主要是涉及到使用


nn.DataParallel 利用多GPU训练RNN模型会碰到这个问题，
主要是因为输入RNN的之前数据为 b,c,h;
但是输入的时候会利用permute(1, 0)变成c,b,h;
这个时候DataParallel会把数据变成c//2,b,h;
此时问题就出现了，tor.]]></description><category></category></item></channel></rss>