<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[qq_45654059的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/qq_45654059</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; qq_45654059]]></copyright><item><title><![CDATA[ollama linux下载]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/145460947</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/145460947</guid><author>qq_45654059</author><pubDate>Wed, 05 Feb 2025 20:12:51 +0800</pubDate><description><![CDATA[实验室服务器（A6000）执行curl -fsSL https://ollama.com/install.sh | sh太慢了。发现 https://www.modelscope.cn/models/modelscope/ollama-linux。而sudo snap install ollama，容易爆cudalibrt.so12无法正常使用的bug。使用modelscope进行ollama的下载，网速很稳定，2-3mb/s。并且ollama拉取模型后，正常推理不报错。]]></description><category></category></item><item><title><![CDATA[/usr/bin/ld: 当搜索用于 /lib/i386-linux-gnu/libcuda.so 时跳过不兼容的 -lcuda]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/139751728</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/139751728</guid><author>qq_45654059</author><pubDate>Mon, 17 Jun 2024 18:42:28 +0800</pubDate><description><![CDATA[参考 https://stackoverflow.com/questions/16710047/usr-bin-ld-cannot-find-lnameofthelibrary。/usr/bin/ld: 当搜索用于 /lib/i386-linux-gnu/libcuda.so 时跳过不兼容的 -lcuda。做微调时，发现找不到libcuda，很自然想到需要软链接到最新cuda版本下的libcuda.so。将正确的libcuda.so软连接到lib/下，ld可以找到正确的libcuda.so了。]]></description><category></category></item><item><title><![CDATA[使用accumulate step节省显卡内存]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/133862992</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/133862992</guid><author>qq_45654059</author><pubDate>Mon, 16 Oct 2023 17:16:52 +0800</pubDate><description><![CDATA[使用accumulate step的意思就是，每次forward较小的batch，如batch=4，每4steps再更新一次参数，训练结果等效于batch=16。再跑一次batch设置为4，且accumulate step为4的情况。单卡，模型+batch=1的数据能跑起来。显存占比： 514MB VS 494MB。]]></description><category></category></item><item><title><![CDATA[并行训练模型，模型的参数修改过程是累积的。]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/131849472</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/131849472</guid><author>qq_45654059</author><pubDate>Fri, 21 Jul 2023 12:50:54 +0800</pubDate><description><![CDATA[【代码】并行训练模型，模型的参数修改过程是累积的。]]></description><category></category></item><item><title><![CDATA[Pytorch 引用和复制]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/129180718</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/129180718</guid><author>qq_45654059</author><pubDate>Thu, 23 Feb 2023 14:17:41 +0800</pubDate><description><![CDATA[Pytorch的引用复制的区别]]></description><category></category></item><item><title><![CDATA[load_state_dict注意事项]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/129097258</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/129097258</guid><author>qq_45654059</author><pubDate>Sat, 18 Feb 2023 09:58:10 +0800</pubDate><description><![CDATA[简单记录]]></description><category></category></item><item><title><![CDATA[统计代码行数]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/128982480</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/128982480</guid><author>qq_45654059</author><pubDate>Sat, 11 Feb 2023 12:40:31 +0800</pubDate><description><![CDATA[统计python代码行数]]></description><category></category></item><item><title><![CDATA[pytorch节省显存小技巧]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/126087911</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/126087911</guid><author>qq_45654059</author><pubDate>Sun, 31 Jul 2022 17:18:38 +0800</pubDate><description><![CDATA[del 加 torch.cuda.empty_catch()可以减少显存]]></description><category></category></item><item><title><![CDATA[conda update anaconda-navigator失败]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/125028987</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/125028987</guid><author>qq_45654059</author><pubDate>Sun, 29 May 2022 11:41:05 +0800</pubDate><description><![CDATA[直接使用conda update --all一劳永逸

]]></description><category></category></item><item><title><![CDATA[学校机房坑爹的devc++]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/121749762</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/121749762</guid><author>qq_45654059</author><pubDate>Mon, 06 Dec 2021 16:20:08 +0800</pubDate><description><![CDATA[昨天考csp，机房devc不知道如何调成c++11导致我浪费了很长时间。
正确做法：
工具–》编译选项–》勾选“编译时加入以下命令”–》-std=c++11

]]></description><category></category></item><item><title><![CDATA[SGD和Adam优化算法区别]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/120872077</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/120872077</guid><author>qq_45654059</author><pubDate>Wed, 20 Oct 2021 18:06:32 +0800</pubDate><description><![CDATA[深度学习二分类问题，选择使用已经训练好的resnet。

在用Adam微调模型时，发现性能很差。

在用SGD（随机梯度下降）时，效果很好。
原因在于是二分类问题，数据的分布好计算，更适合SGD，而对于Adam更适合计算复杂分布的数据

...]]></description><category></category></item><item><title><![CDATA[jupyter notebook 加载图片 服务器挂掉]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/120834137</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/120834137</guid><author>qq_45654059</author><pubDate>Mon, 18 Oct 2021 20:33:06 +0800</pubDate><description><![CDATA[在代码前加
import os   #解决服务器挂掉的问题
os.environ[“KMP_DUPLICATE_LIB_OK”]=“TRUE”
相当于设置选项允许重复加载动态链接库。

]]></description><category></category></item><item><title><![CDATA[为什么我的gtx1650比李沐的1050慢]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/120324372</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/120324372</guid><author>qq_45654059</author><pubDate>Thu, 16 Sep 2021 10:56:40 +0800</pubDate><description><![CDATA[我的1650：

李沐的1050：

显卡天梯图：

1650跑alexnet：

1050：


]]></description><category></category></item><item><title><![CDATA[从pytorch1.9.0cpu转到pytorch1.1.0gpu]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/120314152</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/120314152</guid><author>qq_45654059</author><pubDate>Wed, 15 Sep 2021 18:19:07 +0800</pubDate><description><![CDATA[首先conda install pytorch torchvision cudatoolkit=10.0
嗯 卡在下载几百m的pytorch上了
https://mirrors.bfsu.edu.cn/anaconda/cloud/pytorch/win-64/
去这里下载
用  conda install --use-local $PATH_ROOT/XXX.tar.bz2再试试。。。。
竟然成功了？

...]]></description><category></category></item><item><title><![CDATA[vs2017 安装cuda10.0 踩过的坑]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/120054087</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/120054087</guid><author>qq_45654059</author><pubDate>Thu, 02 Sep 2021 09:42:36 +0800</pubDate><description><![CDATA[首先，尝试在vs2019上搭配cuda10.0失败，因为2019和cuda10不兼容
我把2019卸载，换成2017,然后惊喜得发现，我的c盘多出了十几个G,不得不说，如果是初学者，安装低版本VS也没什么影响。
在2017上看csdn各种教程，配置各种链接库，包含目录等等，都执行不了，并且代码无高亮。
找到cuda10.0的安装包，尝试重新安装
在安装的过程中，发现它自动给2017适配了，效果就是：

多出了一个Nsight选项卡，说明此时才适配。
我之前是先安装了cuda然后再安装的2017 所以没有出.]]></description><category></category></item><item><title><![CDATA[15 残差网络（ResNet）稠密连结网络（DenseNet)]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/119931044</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/119931044</guid><author>qq_45654059</author><pubDate>Thu, 26 Aug 2021 14:36:28 +0800</pubDate><description><![CDATA[残差神经网络
残差块
在实践中，添加层往往不会减低误差，使用批量归一化层可以提升数据的稳定性，但问题依然存在。

如果我们的理想映射为f(x)，那么虚线框里需要拟合出f(x)-x，残差映射比起直接拟合出f(x)更容易优化。当f(x)及接近恒等映射时，残差映射容易捕捉恒等映射的细微变动。
class Residual(nn.Module):  # 本类已保存在d2lzh_pytorch包中方便以后使用
    def __init__(self, in_channels, out_channels, use_]]></description><category></category></item><item><title><![CDATA[14 批量归一化]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/119930975</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/119930975</guid><author>qq_45654059</author><pubDate>Thu, 26 Aug 2021 14:34:33 +0800</pubDate><description><![CDATA[批量归一化利用了小批量的平均值和方差，调整神经网络的中间输出。改善了因模型参数的更新造成的输出层输出的剧烈变化。
对全连接层做批量归一化
批量归一化层的输入是全连接层的输出，批量归一化层的输出是激活函数的输入。
对一批小批量做归一化，目标维度是批次，即求出的均值的形状是一个样本的形状，对每一个样本做标准化后得到的也是一个样本的形状。

引入可学习参数γ和β，与样本形状相同，分别与样本做按元素乘法和加法计算。

最终得到了批量归一化层的输出yi
在学习过程中，也存在批量归一化层不对样本造成任何变化的可能，即若]]></description><category></category></item><item><title><![CDATA[13 GooLeNet]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/119930935</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/119930935</guid><author>qq_45654059</author><pubDate>Thu, 26 Aug 2021 14:32:18 +0800</pubDate><description><![CDATA[含并行连结的网络，googlenet

inception块
inception出现了四条并行的线路。前三条线路的窗口大小分别为1，3，5，对第二条和第三条线路会进行1×1卷积减少通道数。最后在通道维上将每条线路的输出连结。
因为inception块中引入了并行， 所以需要对其前向传播重定义，所以定义了一个类。
class Inception(nn.Module):
    # c1 - c4为每条线路里的层的输出通道数
    def __init__(self, in_c, c1, c2, c3, c4]]></description><category></category></item><item><title><![CDATA[12 VGG，NIN]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/119930916</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/119930916</guid><author>qq_45654059</author><pubDate>Thu, 26 Aug 2021 14:31:03 +0800</pubDate><description><![CDATA[vgg 利用重复块的网络
与alexnet相比进步的地方在于出现了block结构，可以重复使用此结构来设计网络结构。
vgg_block连续使用连续使用数个相同的填充为1、窗口形状为3×33\times 33×3的卷积层后接上一个步幅为2、窗口形状为2×22\times 22×2的最大池化层。池化层可以使输入高和宽减半。
def vgg_block(num_convs, in_channels, out_channels):
    blk = []
    for i in range(num_convs]]></description><category></category></item><item><title><![CDATA[11 卷积神经网络（LeNet）深度卷积神经网络（AlexNet）]]></title><link>https://blog.youkuaiyun.com/qq_45654059/article/details/119930854</link><guid>https://blog.youkuaiyun.com/qq_45654059/article/details/119930854</guid><author>qq_45654059</author><pubDate>Thu, 26 Aug 2021 14:29:08 +0800</pubDate><description><![CDATA[卷积神经网络（LeNet)
import time
import torch
from torch import nn, optim

import sys
sys.path.append("..") 
import d2lzh_pytorch as d2l
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

class LeNet(nn.Module):
    def __init__(self):
       ]]></description><category></category></item></channel></rss>