<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[星海泛舟记]]></title><description><![CDATA[思学作桨溯银河 回首星火蓦阑珊]]></description><link>https://blog.youkuaiyun.com/Woolseyyy</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; Woolseyyy]]></copyright><item><title><![CDATA[关于交叉熵在loss函数中使用的理解]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/107615047</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/107615047</guid><author>Woolseyyy</author><pubDate>Mon, 27 Jul 2020 16:35:12 +0800</pubDate><description><![CDATA[转载自：https://blog.youkuaiyun.com/tsyccnh/article/details/79163834

                                            关于交叉熵在loss函数中使用的理解
交叉熵（cross entropy）是深度学习中常用的一个概念，一般用来求目标与预测值之间的差距。以前做一些分类问题的时候，没有过多的注意，直接调用现成的库，用起来也比较方便。最近开始研究起对抗生成网络（GANs），用到了交叉熵，发现自己对交叉熵的理解有些模糊，不够]]></description><category></category></item><item><title><![CDATA[TensorFlow的数据并行读取：reader, decode, 与 batch_join]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/106385316</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/106385316</guid><author>Woolseyyy</author><pubDate>Wed, 27 May 2020 17:25:26 +0800</pubDate><description><![CDATA[为了实现TensorFlow的数据并行读取，我们常常为将一个tensor list传入batch_join函数，该函数会为list中的每个元素开一个新线程进行数据读取。构建tensor list的方法有很多：新开很多个reader，开一个reader然后新开很多个decoder，甚至新开很多个reader并新开很多个decoder。

它们的并行效果是不同的。]]></description><category></category></item><item><title><![CDATA[tensorflow分布式训练]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/106364206</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/106364206</guid><author>Woolseyyy</author><pubDate>Tue, 26 May 2020 20:22:28 +0800</pubDate><description><![CDATA[tensorflow分布式训练博客：http://blog.youkuaiyun.com/hjimce微博：黄锦池-hjimce&nbsp;&nbsp;&nbsp;qq:1393852684情况一、单机单卡单机单卡是最普通的情况，当然也是最简单的，示例代码如下：#coding=utf-8#单机单卡#对于单机单卡，可...]]></description><category></category></item><item><title><![CDATA[Practice on Long Sequential User Behavior Modeling for Click-Through Rate Prediction]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/106348745</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/106348745</guid><author>Woolseyyy</author><pubDate>Tue, 26 May 2020 09:51:21 +0800</pubDate><description><![CDATA[本文主要记录了这篇文章的主要方法和贡献，以及个人的一些思考和想法，欢迎讨论！
最开始是在语雀写的，导出后可能格式有点问题，欢迎移步语雀：

https://www.yuque.com/docs/share/fee366de-68ba-4254-9a57-cccfe3edd356?#




Alibaba, KDD 2019

https://arxiv.org/abs/1905.09248



Contribution

解耦了用户兴趣捕捉模块，UIC
	traffic request Vs. t...]]></description><category></category></item><item><title><![CDATA[pytorch的一些细节记录]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/105719263</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/105719263</guid><author>Woolseyyy</author><pubDate>Thu, 23 Apr 2020 22:28:03 +0800</pubDate><description><![CDATA[Dilation of Conv]]></description><category></category></item><item><title><![CDATA[Recommender System - Survey]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/104889387</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/104889387</guid><author>Woolseyyy</author><pubDate>Sun, 15 Mar 2020 23:25:40 +0800</pubDate><description><![CDATA[发展脉络


]]></description><category></category></item><item><title><![CDATA[V4d:4d Convolutional Neural Networks For Video-level Representation Learning]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/104589595</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/104589595</guid><author>Woolseyyy</author><pubDate>Sun, 01 Mar 2020 12:44:49 +0800</pubDate><description><![CDATA[本文是一篇ICLR2020的文章
文章地址：
http://xxx.itp.ac.cn/abs/2002.07442
Open Review:
https://openreview.net/forum?id=SJeLopEYDH

Background
对于视频分类、动作识别等任务来说，如何简洁、高效地建模时序信息一直是重要的研究问题。3D-CNN的提出虽然提供了一个时序建模的方案，但是它的运算...]]></description><category></category></item><item><title><![CDATA[CNN发展相关问题]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/104455512</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/104455512</guid><author>Woolseyyy</author><pubDate>Sun, 23 Feb 2020 12:53:06 +0800</pubDate><description><![CDATA[Inception 系列的发展与区别

从Inception v1到Inception-ResNet，一文概览Inception家族的「奋斗史」 - 机器之心的文章 - 知乎
https://zhuanlan.zhihu.com/p/37505777

Inception V1:

采用了多尺寸卷积核提取特征后融合的“加宽”设计。
采用了两条辅助的中间层softmax分类器，用以改善梯度消失的问题...]]></description><category></category></item><item><title><![CDATA[CNN发展]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/104408311</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/104408311</guid><author>Woolseyyy</author><pubDate>Thu, 20 Feb 2020 12:20:30 +0800</pubDate><description><![CDATA[&gt; ﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿﻿参考：

CNN系列模型发展简述（附github代码——已全部跑通） - KevinCK的文章 - 知乎 https://zhuanlan.zhihu.com/p/66215918


演变

LeNet：2个卷积3个全连接，最早用于数字识别
AlexNet：12年ImageNet冠军，5个卷积3个全连接，多个小卷积代替单一大卷积；使用...]]></description><category></category></item><item><title><![CDATA[计算机视觉面试题复习]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/104405556</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/104405556</guid><author>Woolseyyy</author><pubDate>Thu, 20 Feb 2020 11:49:21 +0800</pubDate><description><![CDATA[CNN在图像上表现好的原因
相比于手工特征，

CNN可以采用数据驱动的方式学习特征提取，能够提取到更好更丰富的特征。
深层网络可以拟合更复杂的计算，从而提取更复杂更抽象的特征。

相比于普通深度神经网络，

卷积核共享参数，充分利用图像上的空间局部性，因此具有参数共享和稀疏连接两条优点，不容易过拟合。
CNN中的池化层还使网络具有平移不变性的特性。



参数共享： 不同图像区域用的卷积核共享一...]]></description><category></category></item><item><title><![CDATA[Attention 机制]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/103870090</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/103870090</guid><author>Woolseyyy</author><pubDate>Wed, 08 Jan 2020 00:23:56 +0800</pubDate><description><![CDATA[Attention是一种近年来较为流行的机制，广泛地在自然语言处理、计算机视觉等领域应用。它的作用机制易于人类理解——给重要区域更多的注意力。
但是，如何判断什么是“重要”的？注意力又是如何影响决策的？
本文将尝试细致理解Attention机制及其几个典型变种，以期真正理解attention机制并得以在今后灵活运用和改进。]]></description><category></category></item><item><title><![CDATA[python的犄角旮旯]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/103811658</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/103811658</guid><author>Woolseyyy</author><pubDate>Thu, 02 Jan 2020 22:22:45 +0800</pubDate><description><![CDATA[python的语法细节。
持续更新。]]></description><category></category></item><item><title><![CDATA[科研经验与习惯——2019年末课题组总结]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/103702051</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/103702051</guid><author>Woolseyyy</author><pubDate>Wed, 25 Dec 2019 17:51:01 +0800</pubDate><description><![CDATA[年末老师组织几个课题组进行了2019年的总结，总结了一下科研过程中的经验与习惯，这里做一个整理。内容包括：关于创新点寻找、关于论文阅读、关于实验部分、关于合作、关于rebuttal。]]></description><category></category></item><item><title><![CDATA[[ICCV2019] Co-segmentation Inspired Attention Networks for Video-based Person Re-identification]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/103621664</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/103621664</guid><author>Woolseyyy</author><pubDate>Thu, 19 Dec 2019 20:51:38 +0800</pubDate><description><![CDATA[这篇文章提出了一种Co-Segmentation Inspired Attention模块，用于专注于视频中的人像主体，忽略背景信息的干扰。本质上这是一篇将non-local模块，或是temporal self-attention机制应用于video-reid的文章，但相较于其他应用non-local在video-reid的文章来说，它的分析较为详尽。]]></description><category></category></item><item><title><![CDATA[Denoise: from image to point cloud]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/103500096</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/103500096</guid><author>Woolseyyy</author><pubDate>Thu, 12 Dec 2019 10:31:28 +0800</pubDate><description><![CDATA[在掠读ICCV2019论文集的过程中，读到[Total Denoising: Unsupervised Learning of 3D Point Cloud Cleaning]，觉得这篇文章在写作上写的很漂亮，并且把 Denoise 问题的脉络介绍的详细清晰。因此在这里基于这篇文章对 Denoise 做一个领域梳理。

...]]></description><category></category></item><item><title><![CDATA[SegNet 速览笔记]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/74716853</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/74716853</guid><author>Woolseyyy</author><pubDate>Fri, 07 Jul 2017 15:08:25 +0800</pubDate><description><![CDATA[SegNet用于做图像语义分割。比以往神经网络要训练参数更少、速度更快、memory需求更低。Architecture总体上是encoder-decoder的结构。  
encoder采用了与VGG16网络相同的13层卷积层，decoder由上采样和卷积层构成。  
每一个encoder和一个decoder对应。]]></description><category></category></item><item><title><![CDATA[caffe 速览笔记]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/74716248</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/74716248</guid><author>Woolseyyy</author><pubDate>Fri, 07 Jul 2017 15:06:46 +0800</pubDate><description><![CDATA[本文主要是在阅读Caffe Tutrorial的过程中做的笔记，精要地提取了要点。]]></description><category></category></item><item><title><![CDATA[Batch Normalization —— 加速深度神经网络收敛利器]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/74712946</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/74712946</guid><author>Woolseyyy</author><pubDate>Fri, 07 Jul 2017 15:02:18 +0800</pubDate><description><![CDATA[Batch Normalization 提出自《Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift》。其效果主要是加速网络收敛速度，并简化超参数的调节。]]></description><category></category></item><item><title><![CDATA[主成分分析（PCA）原理详解]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/73761337</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/73761337</guid><author>Woolseyyy</author><pubDate>Tue, 27 Jun 2017 00:45:49 +0800</pubDate><description><![CDATA[转载自：http://blog.youkuaiyun.com/zhongkelee/article/details/44064401
一、PCA简介
1. 相关背景
      上完陈恩红老师的《机器学习与知识发现》和季海波老师的《矩阵代数》两门课之后，颇有体会。最近在做主成分分析和奇异值分解方面的项目，所以记录一下心得体会。
      在许多领域的研究与应用中，往往需要对反映事物的多个变量进行大量]]></description><category></category></item><item><title><![CDATA[机器学习中的偏差和方差]]></title><link>https://blog.youkuaiyun.com/Woolseyyy/article/details/72812167</link><guid>https://blog.youkuaiyun.com/Woolseyyy/article/details/72812167</guid><author>Woolseyyy</author><pubDate>Tue, 30 May 2017 22:07:23 +0800</pubDate><description><![CDATA[在统计学习框架下，大家刻画模型复杂度的时候，有这么个观点，认为Error = Bias +Variance。这里的Error大概可以理解为模型的预测错误率，是有两部分组成的，一部分是由于模型太简单而带来的估计不准确的部分——偏差（Bias），另一部分是由于模型太复杂而带来的更大的变化空间和不确定性——方差（Variance）。]]></description><category></category></item></channel></rss>