<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[jinghui_7的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/jinghui_7</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; jinghui_7]]></copyright><item><title><![CDATA[代码小结（4.11）]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115608235</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115608235</guid><author>jinghui_7</author><pubDate>Sun, 11 Apr 2021 22:39:52 +0800</pubDate><description><![CDATA[1.torch.nn.Variable()

 其中不仅包含了data，还包含了grad,grad_fn.

关于Variable

2.model.train()和model.eval()

model.train()训练时启用Batch Normalization和Dropout。

model.eval()在验证集和测试集上不启用Batch Normalization和Dropout。

model.train()和model.eval()

3.torch.optim.Adam()

torch..]]></description><category></category></item><item><title><![CDATA[代码小结（4.7）]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115489276</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115489276</guid><author>jinghui_7</author><pubDate>Wed, 07 Apr 2021 17:55:28 +0800</pubDate><description><![CDATA[1、python函数

（1）map函数

 map(function, iterable,...)

 function--函数，后边列表中的序列参数作为function的参数，对列表中的每个参数执行function函数。

 iterable--一个或多个序列

map函数

（2）

2、pandas中的函数

（1）groupby（）

 其中的参数as_index=True,DataFrame数据类型中不显示索引项（0,1,2，...）,而是以第一列组标签为索引值;as_index=F...]]></description><category></category></item><item><title><![CDATA[代码小结（4.6）]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115471820</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115471820</guid><author>jinghui_7</author><pubDate>Tue, 06 Apr 2021 22:04:56 +0800</pubDate><description><![CDATA[1、数据集加载类torch.utils.data.DataLoader

其中的参数collate_fn，可以通过这个函数对样本进行进一步处理，原则上返回值是一个有结构的batch。

聊聊Pytorch中的dataloader

2、pickle包


import pickle

data = ... # Some Python object
f = open('somefile', 'wb')
pickle.dump(data, f)

 将一个对象保存到一个文件中。


s = pickle.du.]]></description><category></category></item><item><title><![CDATA[基于aspect的情感分析总结]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115342149</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115342149</guid><author>jinghui_7</author><pubDate>Wed, 31 Mar 2021 10:51:27 +0800</pubDate><description><![CDATA[基于Aspect的情感分析模型总结（一）

基于Aspect的情感分析模型总结（二）

1、区分概念context，target，aspect

 context指的是句子中的words，target指的是句子中出现的词，aspect可以是句子中未出现的词，属于预先定义的比较高级的类别刻画。target和aspect都可以理解为方面，即该句子从那几方面描述了一件产品。

2、模型发展过程

（1）使用LSTM的ABSA

①LSTM

 不考虑target words，直接对句子进行LSTM，只...]]></description><category></category></item><item><title><![CDATA[Multi-grained Attention Network for Aspect-Level Sentiment Classification阅读笔记]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115320596</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115320596</guid><author>jinghui_7</author><pubDate>Tue, 30 Mar 2021 21:36:48 +0800</pubDate><description><![CDATA[本文提出了一个多粒度的注意力网络，用于解决基于aspect情感分析的问题。

 以往的模型主要有两个缺点。一是采用粗粒度的注意力机制，这样当某一aspect有很多单词或文本内容较大，会造成信息损失。二是其训练aspect只与其内容相关，aspect之间不相关。

 所谓的粗粒度的注意力机制指的是，对于aspect的平均向量，交互学习context word的权重；对于context的平均向量，交互学习aspect word的权重。这种思想来自于IAN，其认为在基于aspect的情感分类任务中，tar...]]></description><category></category></item><item><title><![CDATA[关于语言模型]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115246412</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115246412</guid><author>jinghui_7</author><pubDate>Fri, 26 Mar 2021 15:29:08 +0800</pubDate><description><![CDATA[语言模型是一系列单词的概率分布，其完成了从word到word embedding的映射。

NLP入门

 构建语言模型的基本方法有两类，分别是基于频率统计和基于预测。

 基于频率估计的主要方法是GloVe，它通过构建词向量（word embedding）和共现矩阵（Co-ocurrence Maxtrix）之间的近似关系，经过训练最终获得word embedding的表示。

GloVe详解

 基于预测的主要方法是word2vec，具体方法有Skip-gram和CBOW。这两种方法都...]]></description><category></category></item><item><title><![CDATA[优化方法SGD/AdaGrad/RMSProp]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115219067</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115219067</guid><author>jinghui_7</author><pubDate>Thu, 25 Mar 2021 21:33:03 +0800</pubDate><description><![CDATA[SGD：梯度下降方法优化，手动设置学习率，学习率不会自动变化，只能手动更改。

 AdaGrad：学习率自学习，学习率随着训练过程改变，调整学习过程。



AdaGrad

 RMSProp：在AdaGrad的基础上，改进学习率调整的方法，加了一个衰减系数来控制历史信息的获取量。



RMSProp


...]]></description><category></category></item><item><title><![CDATA[Joint Deep Modeling of Users and Items Using Reviews for Recommendation阅读笔记]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115217786</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115217786</guid><author>jinghui_7</author><pubDate>Thu, 25 Mar 2021 21:08:49 +0800</pubDate><description><![CDATA[文章将深度模型应用于评论信息，利用评论信息学习user和item的隐表示，然后用FM方法预测评分。



 模型分为三部分，分别是Word Representation，CNN Layers和The Shared Layer。

 在Word Representation部分，将评论中的每个单词转换为单词向量表示：

 在CNN Layers层，采用多个尺寸不同的核，利用CNN提取评论信息。首先经过卷积层，然后经过最大池化层，捕捉提取的最重要的特征，，CNN输出，，最终经过一个全连接层，获得最终表...]]></description><category></category></item><item><title><![CDATA[Multi-Pointer Co-Attention Networks for Recommendation阅读笔记]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115158226</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115158226</guid><author>jinghui_7</author><pubDate>Wed, 24 Mar 2021 09:09:34 +0800</pubDate><description><![CDATA[该模型主要用于处理评论信息，提高推荐的准确性。



 模型分为六个部分，分别是Input embedding，Review-level Co-attention，Review Pointers，Word-level Co-Attention，Multi-Pointer Learning和Prediction Layer。

一、Input embedding

 首先是Input embedding层，该层分为两个部分，即EmbeddingLayer和Review Gating Machanis...]]></description><category></category></item><item><title><![CDATA[Factorization Machines的推荐方法]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115103484</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115103484</guid><author>jinghui_7</author><pubDate>Mon, 22 Mar 2021 22:37:42 +0800</pubDate><description><![CDATA[FM相对于LR（线性回归）的改进：FM除了考虑了线性回归，还考虑了不同特征分量之间的相互关系。对于观察样本中未出现交互的特征分量（未观察到的user和item），也能进行相应的参数估计。

参考资料：

FM推荐算法原理
...]]></description><category></category></item><item><title><![CDATA[Reparameterization 重参数/Gumbel-Max/Gumbel-Softmax]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/115102023</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/115102023</guid><author>jinghui_7</author><pubDate>Mon, 22 Mar 2021 22:31:54 +0800</pubDate><description><![CDATA[1、三者之间的关系

重参数是一种处理期望形式目标函数的方法，处理这种目标函数意味着要从分布中采样。该分布中带有参数，如果直接采样的话，就会失去参数的梯度。而重参数提供这样一种变换，是我们可以直接从分布中采样，并且保留参数的梯度。

 如果从离散分布中采样，需要定义一种可微分的与离散分布近似的取样方法，这就需要用到Gumbel-Softmax。

 Gumbel-Max是Gumbel-Softmax的基础，提供了一种从类别分布中采样的方法。但Gumbel-Max因为存在取最大值的操作，故其不可导。而...]]></description><category></category></item><item><title><![CDATA[Day5-卷积神经网络LeNet5]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/108146949</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/108146949</guid><author>jinghui_7</author><pubDate>Fri, 21 Aug 2020 14:49:15 +0800</pubDate><description><![CDATA[参考博客

LeNet5简单理解

LeNet5基本实现

 具体代码在GitHub上有很多。
]]></description><category></category></item><item><title><![CDATA[Day4-前馈神经网络]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/108144199</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/108144199</guid><author>jinghui_7</author><pubDate>Fri, 21 Aug 2020 11:46:25 +0800</pubDate><description><![CDATA[数据集简介：

 MINST数据集是由Yann提供的手写数字数据库文件。这个数据集主要包含了60000张的训练图像和10000张的测试图像，数据库的里的图像都是28*28大小的灰度图像，每个像素的是一个八位字节（0~255）。

 数据集内容：

 主要是下面的四个文件：

    Training set images: train-images-idx3-ubyte.gz (9.9 MB, 解压后 47 MB, 包含 60,000 个样本)
  Training set...]]></description><category></category></item><item><title><![CDATA[Day3-基于EigenFace实现人脸识别]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/108141797</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/108141797</guid><author>jinghui_7</author><pubDate>Fri, 21 Aug 2020 11:19:00 +0800</pubDate><description><![CDATA[数据集简介：

 Yale人脸数据集由耶鲁大学创建，包含15个人，每个人有不同表情、姿态和光照下的11张人脸图像，共165张图片，每张图片大小为116*98大小。

 关于EigenFace算法基本原理，推荐博客。

 此算法大致分为两大部分，一是训练算法，即用PCA做特征脸；二是检测识别，即对于一张新的人脸，用特征脸进行标示。


import numpy as np
import cv2
import os
# 加载正常脸图像
def loadImageSet(add):
    face_a...]]></description><category></category></item><item><title><![CDATA[Day2-人脸检测基础]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/108140790</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/108140790</guid><author>jinghui_7</author><pubDate>Fri, 21 Aug 2020 10:15:34 +0800</pubDate><description><![CDATA[1、用opencv自带的人脸检测器进行人脸检测-Haar like adaboost检测

 首先下载cascade文件，放到对应文件夹下。




import cv2

#绘制人脸检测框
def plot_rectangle(image, faces):
    #faces:图像中人脸的参数，坐标(x,y)，width，height
    for (x, y, w, h) in faces:
        #要绘制矩形的图像，矩形左上坐标，矩形右下坐标，矩形框颜色，边框粗细
        c..]]></description><category></category></item><item><title><![CDATA[Day1-opencv对图像的基本操作]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/107846341</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/107846341</guid><author>jinghui_7</author><pubDate>Thu, 06 Aug 2020 18:16:27 +0800</pubDate><description><![CDATA[一、图像的读取和存储


import numpy as np
import cv2
import os

path = 'read_images/'#图片存放的文件夹路径
for root,dir,files in os.walk(path):#依次读取文件夹下图像
    for file in files:
        img = cv2.imread(path+str(file))#读入一幅图像
        cv2.imwrite('new_images/'+str(file),img)#将]]></description><category></category></item><item><title><![CDATA[焦作比赛总结]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/84640891</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/84640891</guid><author>jinghui_7</author><pubDate>Thu, 29 Nov 2018 22:31:57 +0800</pubDate><description><![CDATA[比赛之前，内心是比较忐忑的。当时还是有点担心题目的难度，担心发挥的问题。

 比赛一开始，全场过签到题，心里稍微安心一点。觉得这场比赛起码是有签到题了，一开始我从后往前读题，简单想了一下最后一道题，觉得不能做。队友开始写另一道题，出了一点小问题。但当时并没有影响做题心情，继续做题。第三道题隐约记得是道打表找规律的题目，队友一直在做，我去读了剩下的看起来可能的题目。第三道题用的JAVA大数...]]></description><category></category></item><item><title><![CDATA[训练总结  11.15]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/84111548</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/84111548</guid><author>jinghui_7</author><pubDate>Thu, 15 Nov 2018 21:48:24 +0800</pubDate><description><![CDATA[  昨天的比赛题目，两道水题之后就没有然后了。扎心。

  ]]></description><category></category></item><item><title><![CDATA[HDU6290 奢侈的旅行（堆优化的迪杰斯特拉算法）]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/83986652</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/83986652</guid><author>jinghui_7</author><pubDate>Mon, 12 Nov 2018 09:38:26 +0800</pubDate><description><![CDATA[题目链接

 

Time Limit: 14000/7000 MS (Java/Others)    Memory Limit: 512000/512000 K (Java/Others)
Total Submission(s): 1643    Accepted Submission(s): 336
 

Problem Description

高玩小Q不仅喜欢玩寻宝游戏，还喜欢一款升级养成...]]></description><category></category></item><item><title><![CDATA[HDU2586 How far away ？（树上倍增求LCA）]]></title><link>https://blog.youkuaiyun.com/jinghui_7/article/details/83903716</link><guid>https://blog.youkuaiyun.com/jinghui_7/article/details/83903716</guid><author>jinghui_7</author><pubDate>Fri, 09 Nov 2018 21:47:00 +0800</pubDate><description><![CDATA[题目链接

Time Limit: 2000/1000 MS (Java/Others)    Memory Limit: 32768/32768 K (Java/Others)
Total Submission(s): 25284    Accepted Submission(s): 10051

Problem Description

There are n houses in the vi...]]></description><category></category></item></channel></rss>