<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[return_2的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/return_2</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; return_2]]></copyright><item><title><![CDATA[NLP CNN]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/116526048</link><guid>https://blog.youkuaiyun.com/return_2/article/details/116526048</guid><author>return_2</author><pubDate>Sat, 08 May 2021 14:19:15 +0800</pubDate><description><![CDATA[CNN 卷积神经网络
为什么CNN常用于图像处理：

局部性
平移性
可缩性

CNN简易图

局部性与平移性会在卷积层得到体现。
可缩性会在池化层得到体现。
CNN-卷积层（参数，不同维度下的特征提取）
卷积核的通道数和输入数据的通道数一致，卷积核个数等于输出通道数



CNN-池化层


摊平（Flatten）


在test-CNN中卷积核宽度是与词向量的维度一致
用卷积核进行卷积时，不仅考虑了词义而且考虑了词序及上下文

CNN实现MNIST
import torch
import torch.n]]></description><category></category></item><item><title><![CDATA[NLP 神经网络初步]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/115327107</link><guid>https://blog.youkuaiyun.com/return_2/article/details/115327107</guid><author>return_2</author><pubDate>Sat, 08 May 2021 14:18:32 +0800</pubDate><description><![CDATA[神经元

激活函数
1. sigmoid函数

缺陷：

梯度消失
偏执现象：输出均大于0，使得输出均值不是0

tanh函数

relu函数
优势：

计算简单
单边的输出特性和生物学意义上的神经元阈值机制相似
当x&gt;0时，梯度不变，解决了sigmoid以及tanh常见的梯度消失问题
一般用于多层感知机以及卷积神经网络，在循环神经网络中并不常见

损失函数
回归问题
1.MSE 均方误差

2. RMSE 均方根误差

3. MAE 平均绝对误差

分类问题

交叉熵



CNN 卷积神经网络
为]]></description><category></category></item><item><title><![CDATA[NLP 数据不平衡问题]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/115242596</link><guid>https://blog.youkuaiyun.com/return_2/article/details/115242596</guid><author>return_2</author><pubDate>Tue, 30 Mar 2021 15:26:19 +0800</pubDate><description><![CDATA[数据不平衡
指的是不同类别的样本差异非常大，或者少数样本代表了业务的关键数据，需要对少量样本的模式有很好的下也许。
其中分布不均衡分为两种：

大数据分布不均衡：数据规模较大，某类别样本占比较小。
小数据分布不均衡：整体数据规模较小，某类别的样本数量也少。

三种解决方式
1.欠采样
在少量样本数量不影响模型训练的情况下，可以通过对多数样本欠采样，实现少数样本和多数样本的平衡。（减少多数样本的样本量）
1.1 随即删除
1.2 原型生成（PG算法）
2.过采样
在少量样本数量不支撑模型训练的情况下，可以通过]]></description><category></category></item><item><title><![CDATA[NLP 模型验证]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/115172967</link><guid>https://blog.youkuaiyun.com/return_2/article/details/115172967</guid><author>return_2</author><pubDate>Wed, 24 Mar 2021 14:32:39 +0800</pubDate><description><![CDATA[混淆矩阵

准确率

召回率 精确率
召回率：在所有正样本中，被预测为正样本的个数
精确率：在预测为正样本中，真正的正样本

F1-score


]]></description><category></category></item><item><title><![CDATA[NLP 预处理]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114838215</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114838215</guid><author>return_2</author><pubDate>Mon, 15 Mar 2021 19:26:48 +0800</pubDate><description><![CDATA[1. 过滤词
过滤停用词，出现频率很低的词。
2. one way to normalize (English)
Stemming

合并后的单词不一定是有效的单词。

went,go,going --&gt; go
fly,flies --&gt; fli
deny,denied,denying --&gt; deni
fast,faster,fastest --&gt;fast


3.单词转换为向量
例
词典：【我们，去，爬山，今天，你们，昨天，跑步】
独热编码（one-hot）：向量大小是词库的大小]]></description><category></category></item><item><title><![CDATA[NLP 语言模型]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114826570</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114826570</guid><author>return_2</author><pubDate>Mon, 15 Mar 2021 15:39:58 +0800</pubDate><description><![CDATA[Chain Rule
p(A,B,C,D) = p(A)*p(B|A)*p(C|AB)*p(D|ABC)
Markov Assumption
Unigram （一阶）

Bigram (二阶)

可扩展至N阶
语言模型的评价

理想情况下

假设有两个语言模型A，B
选定特定的任务，比如拼写纠错
把两个模型A，B都应用在此任务中
比较准确率，判断A，B表现



模型评价：Perplexity

x:average log likelihood
Laplace Smoothing
为了避免单个概率为0，使整]]></description><category></category></item><item><title><![CDATA[NLP 常用技术]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114709681</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114709681</guid><author>return_2</author><pubDate>Sat, 13 Mar 2021 16:12:53 +0800</pubDate><description><![CDATA[动态规划

]]></description><category></category></item><item><title><![CDATA[NLP 基础/paper]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114700629</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114700629</guid><author>return_2</author><pubDate>Fri, 12 Mar 2021 17:24:05 +0800</pubDate><description><![CDATA[NLP的基础任务

分词
词性标注（POS）
命名实体识别（NER）
句法分析（Synatatic Analysis）
语义分析（Semantic Analysis）

paper reading and search
论文检索

Google学术
DBLP: link
微软学术:link

文献选择


文献阅读顺序


...]]></description><category></category></item><item><title><![CDATA[python全栈 类/对象]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114633087</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114633087</guid><author>return_2</author><pubDate>Wed, 10 Mar 2021 13:32:24 +0800</pubDate><description><![CDATA[类
# 类名推荐用驼峰命名
# 类体代码在定义时就会运行,在实例化时只自动运行__init__
# 类中存放的是对象共有的数据和功能，访问地址都一样
class Student():

    # 记录有多少实例化对象
    count = 0
    # __init__内存放是为对象初始化属性的功能，但是可以存放任意代码
    # 想要在类调用时就立刻执行的代码。
    def __init__(self,stu_name,stu_age,stu_gender,stu_school='abcsch]]></description><category></category></item><item><title><![CDATA[Web前端 JavaScript入门]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114286385</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114286385</guid><author>return_2</author><pubDate>Tue, 02 Mar 2021 17:08:41 +0800</pubDate><description><![CDATA[文章目录JavaScript和html的结合方式第一种方式第二种方式变量变量类型变量中的特殊值定义变量的格式补充关系运算逻辑运算&amp;&amp;：且运算||：或运算!：取反运算
JavaScript和html的结合方式
第一种方式
在head标签中，或者在body标签中，使用script标签来书写JavaScript代码
&lt;script  type="text/javascript"&gt;  JS代码  &lt;/script&gt;

示例：
&lt;!DOCTYPE html&gt;
&lt]]></description><category></category></item><item><title><![CDATA[Web前端 CSS入门]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114259263</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114259263</guid><author>return_2</author><pubDate>Mon, 01 Mar 2021 19:38:19 +0800</pubDate><description><![CDATA[这里写目录标题CSS介绍css语法规则CSS和HTML的结合方式第一种：在标签的style属性上设置第二种：在head标签中，使用style标签来定义css样式第三种：把css样式写成单独的css文件，用link标签引入标签名选择器id选择器类型选择器
CSS介绍
概念：用于控制网页样式并允许将样式信息与网页分离的一种标记性语言。
css语法规则
选择器{
属性key ：值value；
}
选择器：浏览器根据‘选择器’决定受CSS样式影响的HTML标签
属性：想要改变的样式名，并且每个属性都有一个值。一般每]]></description><category></category></item><item><title><![CDATA[Web前端 html入门]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114163824</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114163824</guid><author>return_2</author><pubDate>Sat, 27 Feb 2021 17:50:27 +0800</pubDate><description><![CDATA[html书写规范
&lt;!DOCTYPE html&gt;&lt;!--约束声明--&gt;
&lt;html lang="en"&gt;&lt;!--html标签标识html的开始 lang=‘zh_CN’表示中文 其中标签分为两部分head和body--&gt;
&lt;head&gt;&lt;!--表示头部信息,一般包括三部分title标签，css样式，js代码--&gt;
    &lt;meta charset="UTF-8"&gt;&lt;!--表示字符编码--&gt;
    &lt;tit]]></description><category></category></item><item><title><![CDATA[python全栈 零散小技巧]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114129408</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114129408</guid><author>return_2</author><pubDate>Fri, 26 Feb 2021 15:09:14 +0800</pubDate><description><![CDATA[字符串
f-string

json
在数据转换为json格式时，为了保持中文字符不乱码：
应添加ensure_ascii=False


]]></description><category></category></item><item><title><![CDATA[python全栈 项目的产生]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114116986</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114116986</guid><author>return_2</author><pubDate>Fri, 26 Feb 2021 14:00:40 +0800</pubDate><description><![CDATA[一个项目如何从无到有
一、需求分析
1.拿到项目会先在客户那里一起讨论需求。
商量项目功能，周期，价格。得到一个需求文档
2.在内部需要开会讨论项目最终得到开发文档，交给不同岗位的人进行开发。

二、程序架构设计

三层构架
1.把每个功能都分层三部分，逻辑清晰。
2.如果用户更换不同的用户界面或不同的数据存储机制都不会影响接口层的核心逻辑代码，扩展性强。
3.可以在接口层，准确的记录日志与流水。

三、分任务开发
四、测试
五、上线

...]]></description><category></category></item><item><title><![CDATA[python全栈 正则表达式/re模块]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114085018</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114085018</guid><author>return_2</author><pubDate>Thu, 25 Feb 2021 16:01:16 +0800</pubDate><description><![CDATA[正则匹配规则

特殊匹配符号示例
\A ： 以某字符串开头
re.findall('\Aczz','czz1526alllxe') # ['czz']

\Z : 以字符串结尾，只在单行适用
re.findall('czz\Z','czz1526alllxeczz') # ['czz']

一般情况下，用 ^ 来匹配开头，用 $ 来匹配结尾。不受行数限制。
re.findall('^czz','czz1526alllxe') # ['czz']
re.findall('czz$','czz1526alllx]]></description><category></category></item><item><title><![CDATA[python全栈 日志文件/logging模块]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114060243</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114060243</guid><author>return_2</author><pubDate>Thu, 25 Feb 2021 15:05:36 +0800</pubDate><description><![CDATA[日志配置及logging模块
日志基本配置
import logging

# 一：日志配置
logging.basicConfig(
    # 1、日志输出位置：1、不指定，默认打印到终端 2、指定路径则打印到文件
    # filename='access.log', 

    # 2、日志格式
    format='%(asctime)s - %(name)s - %(levelname)s -%(module)s:  %(message)s',

    # 3、时间格式
    datef]]></description><category></category></item><item><title><![CDATA[python爬虫 requests模块]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114026960</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114026960</guid><author>return_2</author><pubDate>Thu, 25 Feb 2021 09:02:15 +0800</pubDate><description><![CDATA[requests模块
功能：模拟浏览器发请求
使用：
指定url：
发起请求：
获取响应数据：
持久化存储：
简单示例
import requests
# 指定url
url = 'https://cn.bing.com/'
# 发起请求，返回一个响应对像
response=requests.get(url=url)
# 获取响应数据：text返回的是字符串类型的响应数据
page_text = response.text
# 持久化存储
with open('./bing.html','w',encodi]]></description><category></category></item><item><title><![CDATA[python爬虫 http/https协议]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/114014925</link><guid>https://blog.youkuaiyun.com/return_2/article/details/114014925</guid><author>return_2</author><pubDate>Wed, 24 Feb 2021 12:46:25 +0800</pubDate><description><![CDATA[HTTP协议
概念：服务器与客户端数据交互的一种形式。
常用请求头信息
User-Agent：请求载体的身份标识
Connection：请求成功后是保持链接/断开链接
常用响应头信息
content-type：服务器响应回客户端的数据类型
HTTPS协议
概念：安全的HTTP协议
加密方式
对称密钥加密：
非对称密钥加密：
证书认证加密：

...]]></description><category></category></item><item><title><![CDATA[python全栈 logging日志模块]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/112370694</link><guid>https://blog.youkuaiyun.com/return_2/article/details/112370694</guid><author>return_2</author><pubDate>Fri, 08 Jan 2021 17:31:41 +0800</pubDate><description><![CDATA[logging日志模块
日志基本配置
import logging

# 一：日志配置
logging.basicConfig(
    # 1、日志输出位置：1、终端 2、文件
    # filename='access.log', # 不指定，默认打印到终端

    # 2、日志格式
    format='%(asctime)s - %(name)s - %(levelname)s -%(module)s:  %(message)s',

    # 3、时间格式
    datefmt='%Y-]]></description><category></category></item><item><title><![CDATA[python全栈 hash模块/subprocess模块（系统命令模块）]]></title><link>https://blog.youkuaiyun.com/return_2/article/details/112272317</link><guid>https://blog.youkuaiyun.com/return_2/article/details/112272317</guid><author>return_2</author><pubDate>Wed, 06 Jan 2021 18:20:49 +0800</pubDate><description><![CDATA[hash
hash是一类的算法，该算法接受传入的内容，经过一系列运算得到一系列哈希值。

hash值的特点
1.传入内容一致，得到hash值必然一样
2.不能反解出内容
3.只要hash算法不变，无论校验内容有多大，得到的hash值长度固定

hashlib模块
import hashlib

# 算法实例化（创建工厂）
m = hashlib.md5()
# 运送原材料,输入btype型
m.update('hello'.encode('utf-8'))
m.update('world'.encode(']]></description><category></category></item></channel></rss>