<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[gailj]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/gailj</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; gailj]]></copyright><item><title><![CDATA[人工智能与物理学（软体机器人能量角度）的结合思考]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/132087574</link><guid>https://blog.youkuaiyun.com/gailj/article/details/132087574</guid><author>gailj</author><pubDate>Thu, 03 Aug 2023 17:46:03 +0800</pubDate><description><![CDATA[说白了，施加的外部能量，必须要克服伸直态和卷曲态之间的能量壁垒（可以结合上面的图观察，施加的能量必须要大于它的极大值才能跃迁，如果我们只给了一点点能量肯定是不行的）。其实人工智能和双稳态是一样的，人工智能在运算过程中会陷入局部极小值（Local Minimum），但是我们想要的不是局部极小值，而是一个全局最小值，这样才能保证算法的最优化（就像我们高中学数学导数一样，题目要求我们必须要找到一个最小值，但是往往我们容易把极小值当成最小值来算）。这也相当于数学在物理学中的实际应用了，品味知识的乐趣。]]></description><category></category></item><item><title><![CDATA[Pycharm使用（配置）技巧]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/124131098</link><guid>https://blog.youkuaiyun.com/gailj/article/details/124131098</guid><author>gailj</author><pubDate>Tue, 12 Apr 2022 20:08:22 +0800</pubDate><description><![CDATA[下载Pycharm后，需要将界面配置的人性化一点，下面介绍一下本人觉得方便的配置方法和使用技巧。
配置方法：

版本汉化： Chinese
  打开File,找到Settings
  打开Settings中的Pulgins，选择Marketplace,搜索chinese；安装完成后重新打开Pycharm即可。
CodeGlance
将类似于Sublime中的代码小地图嵌入到编辑器窗格中
Rainbow Brackets
这个插件可以让代码块之间很清晰的显示出各种颜色的高亮（让代码的颜色更好看）
Fast M]]></description><category></category></item><item><title><![CDATA[深度学习中常见卷积（普通卷积、1×1卷积、转置卷积、可分离卷积、膨胀（空洞）卷积、3D卷积）]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/124081613</link><guid>https://blog.youkuaiyun.com/gailj/article/details/124081613</guid><author>gailj</author><pubDate>Sun, 10 Apr 2022 23:47:57 +0800</pubDate><description><![CDATA[  总是在网络上看到各种名词的卷积，但是有搞不懂是什么含义，于是结合网上查阅的资料，总结一下。目前比较常用的卷积主要有常规的卷积、1×1卷积、转置卷积、可分离卷积、膨胀卷积、3D卷积。
  以下是一些可参考的链接：
https://cloud.tencent.com/developer/article/1413083
https://zhuanlan.zhihu.com/p/267249291
https://www.cnblogs.com/gshang/p/13548561.html
https://bl]]></description><category></category></item><item><title><![CDATA[视频理解开山之作——双流卷积网络]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/123797614</link><guid>https://blog.youkuaiyun.com/gailj/article/details/123797614</guid><author>gailj</author><pubDate>Mon, 28 Mar 2022 16:37:31 +0800</pubDate><description><![CDATA[  结合部分博客，和李沐老师的课程，总结一下自己理解的双流卷积网络。
为什么要有双流网络？
  视频理解的一大难题是，不同帧之间的内容是相互关联的，因此我们需要学习到不同帧之间的关联信息。直觉做法是丢入全部图片进入网络，让网络自己学习图片信息和图片间的关联信息。但是这样效果不好，因为网络很难学到这么多信息。因此我们有个主意，能不能用两个网络，一个网络学习图片信息，另一个网络学习时序信息。然后将这两个网络汇总起来判断。
双流模型结构

  如上图所示，模型分为两部分，spatial stream部分以单帧图片]]></description><category></category></item><item><title><![CDATA[经典论文学习笔记——13篇对比学习（Contrastive Learning）]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/123782548</link><guid>https://blog.youkuaiyun.com/gailj/article/details/123782548</guid><author>gailj</author><pubDate>Mon, 28 Mar 2022 12:06:32 +0800</pubDate><description><![CDATA[跟着李沐老师的对比学习课程看了一遍，又照着知乎 / 优快云等各位大佬的总结，重新理解了一遍，下面根据自己的学习来总结一下。着重讲一下MoCo，及附带其他12种对比学习的论文的改进之处。
]]></description><category></category></item><item><title><![CDATA[经典论文阅读笔记——VIT、Swin Transformer、MAE、CILP]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/123664828</link><guid>https://blog.youkuaiyun.com/gailj/article/details/123664828</guid><author>gailj</author><pubDate>Tue, 22 Mar 2022 21:09:33 +0800</pubDate><description><![CDATA[  本博客针对视觉Transformer方面的工作，对当前热点研究做一下总结。主要是VIT、Swin Transformer、MAE、CILP 这四篇。
VIT（用于图像分类）
  ViT（vision transformer）是Google在2020年提出的直接将transformer应用在图像分类的模型，后面很多的工作都是基于ViT进行改进的。
  ViT的思路很简单：直接把图像分成固定大小的patchs，然后通过线性变换得到patch embedding，这就类比NLP的words和word embe]]></description><category></category></item><item><title><![CDATA[经典论文阅读笔记——R-CNN、Fsst R-CNN、Faster R-CNN、Mask R-CNN、YOLO、SSD 等]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/123605249</link><guid>https://blog.youkuaiyun.com/gailj/article/details/123605249</guid><author>gailj</author><pubDate>Mon, 21 Mar 2022 21:48:15 +0800</pubDate><description><![CDATA[本博客针对目标检测方面的经典论文，参考现有博客等资料和自己的感想，进行一点总结，方便自己以后看笔记。

]]></description><category></category></item><item><title><![CDATA[经典论文阅读笔记——AlexNet、VGGNet、GoogLeNet、ResNet、DenseNet]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/123594439</link><guid>https://blog.youkuaiyun.com/gailj/article/details/123594439</guid><author>gailj</author><pubDate>Sat, 19 Mar 2022 23:01:34 +0800</pubDate><description><![CDATA[  近期读了一些经典论文，本博客主要是基于CNN方面经典的网络做一下总结，基于自己对论文的理解和向他人博客的学习总结。
AlexNet
  AlexNet是2012年由深度学习之父Hinton的学生Alex提出的，其在图像处理方面优异的表现开创了一个新时代。这篇文章个人感觉偏重于工程性应用，尽管说许多idea放在今天已经不太实用了（现在有更好的方法和模型），但是在十年前能做出这样的成果确实是难能可贵的了。

  上图是AlexNet的网络结构，总共有8层，其中卷积层有5层，剩下的是3个全连接层。可以看出它的]]></description><category></category></item><item><title><![CDATA[domain adapation 初步理解]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122693864</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122693864</guid><author>gailj</author><pubDate>Wed, 26 Jan 2022 00:34:31 +0800</pubDate><description><![CDATA[domain adapation（领域自适应）是迁移学习的一种，也是目前迁移学习中主要研究方向，旨在解决测试数据不方便采集、标注，耗时耗力等情况，希望通过迁移学习提高识别准确率。
Domain adapation 回顾

核心问题：训练资料和测试资料的分布不同，采用迁移学习的方法，提高准确率。

情况一：有一小部分标注了的测试资料
  这种算是domain adapation中很简单的情况了，你可以用这些有标注的资料，来微调你在 Source Domain（训练集）上训练出来的模型，只要稍微跑2-3个epo]]></description><category></category></item><item><title><![CDATA[Adversarial Attack的粗略总结]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122692276</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122692276</guid><author>gailj</author><pubDate>Tue, 25 Jan 2022 22:30:44 +0800</pubDate><description><![CDATA[  这部分挺有意思，建议了解。不过知乎说这个方向有点坑，不建议深入学习。
  要把 Network 真正应用，光是它们正确率高是不够的，它们还需要能够应付来自人类的恶意。比如说我们在网上下载数据集训练时，如果有人恶意在数据集上加入很小的噪点（人眼看不出），导致数据集被误判为另一个种类，这样训练出来的网络就有了隐患（后门）。
攻击方法
攻击可分为两种类型，一种无目标攻击，一种有目标攻击。


无目标攻击：
我们现在要做的目标就是,我们要找到一张新的图片，这张新的图片 我们用 x 来表示,当我们把 x 丢到这个]]></description><category></category></item><item><title><![CDATA[AutoEncoder的初步理解]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122623457</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122623457</guid><author>gailj</author><pubDate>Fri, 21 Jan 2022 17:17:20 +0800</pubDate><description><![CDATA[结合李宏毅老师机器学习2021——AutoEncoder课程和网上查阅的资料，总结一下对AutoEncoder的理解
什么是AutoEncoder

Auto Encoder简称为AE，是一种生成式模型。从训练过程需不需要标签数据的角度来看，它属于自监督学习self-superivised（无监督学习的一种）。 
Auto Encoder主要用于特征提取、降维、去噪等方面。它的过程是：一张图片encoder之后，得到了一个固定维度的向量表示，然后再经过decoder还原这个图像。如果encoder-deco]]></description><category></category></item><item><title><![CDATA[GAN的初略理解]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122606516</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122606516</guid><author>gailj</author><pubDate>Thu, 20 Jan 2022 18:39:14 +0800</pubDate><description><![CDATA[结合李宏毅老师机器学习2021——GAN课程和网上查阅的资料，总结一下对GAN的理解
GAN的本质是什么
  GAN本质是分布的拟合。 详细说就是，把输入的向量拟合成特定的分布。例如，输入一个随机向量，另外给一堆二次元图像，要求将这个随机向量生成二次元的头像，其实就是将这个向量，拟合为二次元的分布形式，训练完成后生成的图片与真实的二次元图片是分不开的（很相似）。因此它的本质还是一个拟合问题。

GAN真的创造新的信息了吗？

  我认为是没有的。因为它的本质只是一个学到了原始数据分布的生成模型，所生成的图片]]></description><category></category></item><item><title><![CDATA[关于Transformer、BERT的理解]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122547880</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122547880</guid><author>gailj</author><pubDate>Mon, 17 Jan 2022 22:25:51 +0800</pubDate><description><![CDATA[结合李宏毅老师机器学习2021——Transformer课程和网上查阅的资料，总结一下对Transformer的理解
Transformer是什么？
从宏观角度来看，Transformer是一种基于Self-Attention机制的Seq2seq模型（序列模型），由编码器和解码器组成（自己总结的）。所以在学习Transformer前，需要先弄明白Seq2seq、编码器 / 解码器、Self-Attention（见本人之前的csdn博客）是什么。

Seq2seq模型：
这是一个序列到序列的模型，输入一个序列]]></description><category></category></item><item><title><![CDATA[关于Attention、Self-Attention机制的理解]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122531182</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122531182</guid><author>gailj</author><pubDate>Mon, 17 Jan 2022 00:38:13 +0800</pubDate><description><![CDATA[结合李宏毅老师机器学习2021——Self-Attention课程和网上查阅的资料，总结一下对Attention机制的理解
Attention机制就是权重分布

Attention机制的核心就是，决定整段输入的哪个部分需要更加关注。
Attention机制翻译中文就是注意力机制，这就和我们人类看图片、看自然语言是一样的，我们人读一句话是有自己的关注点，重点词汇的。比如我输入一张图，我让你判断这是一只鸟，那么鸟嘴、鸟爪等等patten是很重要的，而Attention机制就是给这些patten一个权重。再比如我]]></description><category></category></item><item><title><![CDATA[CNN 学习总结 （Pytorch）]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122516327</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122516327</guid><author>gailj</author><pubDate>Sat, 15 Jan 2022 22:35:02 +0800</pubDate><description><![CDATA[  这篇博客总结一下我在学习卷积神经网络（CNN）中遇到的疑惑

卷积神经网络出现的原因？

  如果模型很大，可能会过拟合，所以我们必须要对模型进行一些限制。因此首先要思考我们如何针对影像问题来做limitation。对一个影响辨识系统而言，最重要的是侦测在这张图片中有没有很重要的patten，例如我们人类看一张鸟类的图片，怎么知道这是一只鸟呢？肯定是先看鸟嘴、鸟爪等部分，这些在影像系统中就是很重要的。
  基于此，CNN提出了卷积的概念，CNN会设定一个区域叫做 Receptive Field（感受野）]]></description><category></category></item><item><title><![CDATA[深度学习中optimization的方法]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122484146</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122484146</guid><author>gailj</author><pubDate>Fri, 14 Jan 2022 00:54:39 +0800</pubDate><description><![CDATA[结合网上的资料与李宏毅老师的课堂教学，总结一下optimization的方法。如果以对训练结果不满意，可以尝试用下述的方法，可以优先考虑方法1-4、方法6
方法1：正则化(Regularization)
正则化是防止神经网络overfitting的一种方法，由于模型的参数太多，所以就容易过拟合（可以想象一下决策树需要剪枝），其原理是在损失函数中增加一个惩罚项来限制过大的权重。通常有3种方法：L1正则化，L2正则化，dropout

L1正则化，江湖中也人称Lasso，表示各个参数绝对值之和：它之所以可以防止]]></description><category></category></item><item><title><![CDATA[apt-get和pip的区别]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122400377</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122400377</guid><author>gailj</author><pubDate>Sun, 09 Jan 2022 22:08:26 +0800</pubDate><description><![CDATA[在下载swig时，我先是采用了pip install swig 结果报错了，提示我没法下载，然后我去官网看了看，linux系统下swig安装是这么写的：Many Unix-like operating systems also include packages of SWIG (e.g. Debian GNU/Linux, FreeBSD, Cygwin). Consult your package management application to see if your operatin...]]></description><category></category></item><item><title><![CDATA[Python/Pytorch 显示图片]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122331304</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122331304</guid><author>gailj</author><pubDate>Wed, 05 Jan 2022 21:08:22 +0800</pubDate><description><![CDATA[python如何显示图片是一个谜题，今天就让我们来揭秘它！
首先，python中一般采用plt.imshow()函数读取，今天我们主讲这个。
一、plt.imshow()函数参数：
通常直接采用 plt.imshow(img) 即可：
img图像数据，支持的数组形状是：
（M，N） ：     带有标量数据的图像。数据可视化使用色彩图。
（M，N，3） ：具有RGB值的图像（float或uint8）。
（M，N，4） ：具有RGBA值的图像（float或uint8），即包括透明度。
前两个维度（M，N）定义]]></description><category></category></item><item><title><![CDATA[以机器学习为背景，什么样的机器学习小技巧、代码风格比较好？]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122205510</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122205510</guid><author>gailj</author><pubDate>Wed, 29 Dec 2021 00:36:52 +0800</pubDate><description><![CDATA[   不同人编程时的思路不一样，本人想将学习过程中看到的、个人认为比较好的机器学习小技巧、代码写作风格整理一下，便于以后写程序时去用。


机器学习时会需要调整许多hyper-parameters，有些时候可能我们将这些超参数左定义一个，右定义一个，等程序庞大后，就容易忘记有哪些hyper-parameters了，一个有效的办法是将这些超参数统一整理成一个字典。例如：
config = {
    'n_epochs': 3000,                # maximum number of ep]]></description><category></category></item><item><title><![CDATA[matplotlib常见绘图函数]]></title><link>https://blog.youkuaiyun.com/gailj/article/details/122201413</link><guid>https://blog.youkuaiyun.com/gailj/article/details/122201413</guid><author>gailj</author><pubDate>Tue, 28 Dec 2021 22:31:49 +0800</pubDate><description><![CDATA[可参考这篇文章

xlabel、ylabel: 设置横轴、纵轴标签及大小
 例如plt.xlabel("csdn test", fontsize=20)
xlim、ylim： 设置x、y坐标轴的起始点（从哪到哪）
 例如plt.xlim(0,50) plt.ylim(0,60)
xticks、yticks： 设置坐标轴刻度的字体大小
 例如plt.xticks(labelsize=20)
title： 设置图片的标题
 例如 plt.title(“csdn test”)
plt.figure():  制一个]]></description><category></category></item></channel></rss>