<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[baozhiqiangjava的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/baozhiqiangjava</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; baozhiqiangjava]]></copyright><item><title><![CDATA[《深度学习》书籍阅读]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110187694</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110187694</guid><author>baozhiqiangjava</author><pubDate>Sat, 12 Dec 2020 15:05:34 +0800</pubDate><description><![CDATA[学习基础，就是打牢基础知识部分。




1 《深度学习》简介





2 线性代数



2.1

基本概念：有标量、向量、矩阵、张量

2.2

基本概念：hadmaard乘积、点积、

矩阵有矩阵乘积这种运算，满足分配律和结合律，不满足交换律。但是两个向量乘积满足交换律。（因为两个向量点积是标量。）



2.3 单位矩阵和逆矩阵





2.4 线性相关和生成子空间

解释Ax=b发生了什么？

我们可以理解为b为一组向量A的生成子空间，是原始向量线性组合抵达的点的集合...]]></description><category></category></item><item><title><![CDATA[深度学习基础知识]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/111053281</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/111053281</guid><author>baozhiqiangjava</author><pubDate>Fri, 11 Dec 2020 22:55:37 +0800</pubDate><description><![CDATA[1 概率图模型

是指一种用图结构来描述多元随机变量之间条件独立关系的 概率模型，从而给研究高维空间中的概率模型带来了很大的便捷性

其中有三个基本问题

（1） 表示问题：对于一个概率模型，如何通过图结构来描述变量之间的依 赖关系．
	（2） 学习问题：图模型的学习包括图结构的学习和参数的学习．在本章中， 我们只关注在给定图结构时的参数学习，即参数估计问题． 
	（3） 推断问题：在已知部分变量时，计算其他变量的条件概率分布






1.2 概率图的学习问题

图模型的学习可以分为两部分：一...]]></description><category></category></item><item><title><![CDATA[深度学习优化器入门]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110518000</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110518000</guid><author>baozhiqiangjava</author><pubDate>Thu, 03 Dec 2020 09:45:51 +0800</pubDate><description><![CDATA[1  概述







2  梯度下降法

2.1 GD算法

思想：

结构：

代码：

公式推导：









2.2 GD算法延申

批量梯度下降法



思想：它是在梯度下降的算法基础上，在梯度更新的时候采用全部样本进行更新参数θ ，







随机梯度下降法：

思想：它与批量梯度下降法的不同是在于梯度更新参数 的时候仅随机选取一个样本进行更新，并非全部样本









一个是用全部样本的梯度更新参数，而随机是随便选择一个更新。


...]]></description><category></category></item><item><title><![CDATA[2017Convex optimization_ Algorithms and complexity阅读笔记]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110478526</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110478526</guid><author>baozhiqiangjava</author><pubDate>Wed, 02 Dec 2020 17:26:34 +0800</pubDate><description><![CDATA[1 介绍一些概念

本专题的总体目标是介绍凸优化中的主要复杂性定理和相应的算法。我们将重点放在凸优化的五个主要结果上，这些结果给出了本文的整体结构：存在具有最优预言复杂度的有效切面方法（第2章），对一阶预言复杂度和曲率之间关系的完整表征。目标函数（第3章），超出欧几里德空间的一阶方法（第4章），非黑盒方法（例如内点方法）相对于最佳黑盒方法（第5章）可以使迭代次数得到二次改进5），最后是一阶方法的噪声鲁棒性（第6章）。表1.1可用作对第2章至第5章中证明的结果以及第6章中某些结果的快速参考（最后一章与机器..]]></description><category></category></item><item><title><![CDATA[凸优化入门]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110310088</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110310088</guid><author>baozhiqiangjava</author><pubDate>Sun, 29 Nov 2020 15:51:50 +0800</pubDate><description><![CDATA[主要的目录

1-2：推荐书目，引言，常见例子，优化问题分类，发展史
3-4：仿射/凸/凸锥 + 集/组合/包
5-6：几种重要的凸集:超平面与半空间/球和椭球/多面体/单纯形/对称(半)(正定)矩阵
7-8：凸集的交集，保凸运算：仿射函数/缩放和移位/透视函数/线性分段函数
9-10：（9缺）凸函数的定义1/定义2/定义3，凸函数的扩展
11-12：凸函数定义2补充/定义4，常见例函数的凸性：二次函数/仿射函数/指数函数/幂函数/绝对值的幂函数/对数函数/负熵/范数/零范数/极大值函数/log-sum-u]]></description><category></category></item><item><title><![CDATA[人工智能的数学]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110243948</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110243948</guid><author>baozhiqiangjava</author><pubDate>Fri, 27 Nov 2020 19:36:02 +0800</pubDate><description><![CDATA[1 



十种人工智能“新”数学包括： 1.泛函分析 2.群表示论与范畴论 3.微分几何 4.代数几何 5.随机矩阵 6.最优传输 7.动力系统与随机分析 8.统计物理与非线性科学 9.信息论 10.博弈论



2 
...]]></description><category></category></item><item><title><![CDATA[脑电数据的特征提取算法详解]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110225831</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/110225831</guid><author>baozhiqiangjava</author><pubDate>Fri, 27 Nov 2020 11:33:20 +0800</pubDate><description><![CDATA[脑电信号是一些时域变换。



作者做了什么

做这件事有什么意义

作者是用什么方法去做的

这个方法（思路）的每一步具体怎么操作，每一步都有什么目的，为了解决一个什么样的小问题

在做的过程中，有哪些难点，作者是如何解决的

作者得到的每一张图、每一张表、每一个结果，都说明了什么问题






1 傅里叶变换




1 为什么进行傅里叶变换？

2 输入是什么？输出是什么？

3 傅里叶变换在计算机里还能做什么？

4 傅里叶变换的理论推导证明？

5 其他跟傅里叶变换类似的变换？...]]></description><category></category></item><item><title><![CDATA[《深度学习推荐系统》阅读笔记]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109744579</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109744579</guid><author>baozhiqiangjava</author><pubDate>Tue, 17 Nov 2020 22:13:21 +0800</pubDate><description><![CDATA[当我们提到推荐的时候，其实我们在说什么？

1 问题：

1谁推荐给谁？
	2 在哪里推荐？
	3 推荐的指标？
	4 推荐的要素？
	
2 解决方法：

1  系统推荐给用户，
	2 在电商网络中，在社交网络中，在各种可能需要推荐的网络中
	3  推荐会不会让用户点击？用户喜不喜欢看？
	4   特征






1 序言

解释深度学习在工业界使用的好处。

目前工业界的两种方法：

拿着锤子找钉子和问题驱动。

作者提出为了应对未来的发展，深度学习+推荐系统该如何走？
...]]></description><category></category></item><item><title><![CDATA[深度学习入门]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109648838</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109648838</guid><author>baozhiqiangjava</author><pubDate>Fri, 13 Nov 2020 17:15:10 +0800</pubDate><description><![CDATA[用最快的时间过一遍深度学习基础，每个组件的设计原理、公式、代码都尽可能的详细。


1 没有深度学习之前？

假如我们要识别一个图像中是否有猫？ 我们根本编写不出这种代码。那我们就逆向思维一下。

直接从数据出发，让数据告诉我们是否有猫？



1.1 起源


人类就一直渴望能从数据中分析出预知未来的窍门




机器是否可以思考+ 神经网络

神经是通过正向强化来学习的，即赫布理论 。赫布理论是感知机学习算法的原型，并成为支撑今日深度学习的随机梯度下降算法的基石：强化合意的行为、惩罚不合意...]]></description><category></category></item><item><title><![CDATA[推荐系统+深度学习综述]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109623754</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109623754</guid><author>baozhiqiangjava</author><pubDate>Wed, 11 Nov 2020 16:05:37 +0800</pubDate><description><![CDATA[1 协同过滤

用户记录作为用户特征

考虑整个图信息获得一个节点表示











参考资料：



https://www.bilibili.com/video/BV1Sf4y1y7Vb?from=search&amp;seid=5910253173285974306

何向南- 图神经网络在推荐系统的前沿研究
...]]></description><category></category></item><item><title><![CDATA[2019A Comprehensive Survey on Graph Neural Networks被700]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109532154</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109532154</guid><author>baozhiqiangjava</author><pubDate>Fri, 06 Nov 2020 15:18:20 +0800</pubDate><description><![CDATA[摘要



1 引言

在这项调查中，我们提供了数据挖掘和机器学习领域中图神经网络（GNN）的全面概述。我们提出了一种新的分类法，将最新的图神经网络分为四类，即递归图神经网络，卷积图神经网络，图自动编码器和时空图神经网络。

我们将进一步讨论图神经网络在各个领域的应用，并总结现有算法在不同学习任务上的开源代码和基准.

2 
...]]></description><category></category></item><item><title><![CDATA[2020deep learning on Graphs:a survey被200]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109531604</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109531604</guid><author>baozhiqiangjava</author><pubDate>Fri, 06 Nov 2020 15:05:55 +0800</pubDate><description><![CDATA[摘要

深度学习已被证明在从声学，图像到自然语言处理的许多领域都取得了成功。但是，由于图的独特特性，将深度学习应用于普适的图数据并非易事。最近，大量研究工作致力于将深度学习方法应用于图形，从而在图形分析技术方面取得了有益的进步。在本次调查中，我们全面回顾了图上不同类型的深度学习方法。基于现有模型的模型架构和训练策略，我们将其分为五类：图形递归神经网络，图形卷积网络，图形自动编码器，图形强化学习和图形对抗方法。我们
然后主要通过遵循它们的发展历史，以系统的方式对这些方法进行全面的概述。我们还分析了不同方法的差]]></description><category></category></item><item><title><![CDATA[《图卷积神经网络综述》2020]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109529711</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109529711</guid><author>baozhiqiangjava</author><pubDate>Fri, 06 Nov 2020 14:42:32 +0800</pubDate><description><![CDATA[摘要

传统卷积网络只能解决欧式空间数据，但是非欧式空间数据我们希望也能够用卷积网络来做。那么我们需要将非欧式空间数据做一个转换。这个转换步骤在于图卷积算子和图池化算子的构建。主要就两类

谱方法和空间方法。

1 引言





3 图卷积神经网络

分为卷积算子构建和池化算子构建。



3.1 卷积算子的构建

3.1.1 谱方法



3.1.2 空间方法



3.2 图池化操作

也有谱方法和空间方法等等。



4 一些新的进展

分成了建模网络额外信息的图卷积网络和适应大...]]></description><category></category></item><item><title><![CDATA[波利亚罐子模型及其应用]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109490573</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109490573</guid><author>baozhiqiangjava</author><pubDate>Thu, 05 Nov 2020 10:43:17 +0800</pubDate><description><![CDATA[1 引言

第1章介绍基本的离散分布和一些现代工具，例如随机过程和可交换性。为了符合本书的目标和范围，我们会尽快切换到骨灰盒语言。分布的实现通过urn参数得以证实，所有概念的示例均以urns来表示。

第2章介绍了一些经典的概率问题。这些问题中的某些问题最初并不是作为problems问题给出的，但大多数问题都可以照原样重铸。

第三章是关于作为离散基本结构并在离散时间内生长的双色P´olya骨灰盒的。

第4章考虑了通过在Poisson过程中嵌入离散P´olya urn方案（称为泊松运算）而获得的连续时间的]]></description><category></category></item><item><title><![CDATA[《Random trees An interplay between combinatorics and probability by Michael Drmota 》教材阅读]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109429127</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/109429127</guid><author>baozhiqiangjava</author><pubDate>Mon, 02 Nov 2020 01:38:23 +0800</pubDate><description><![CDATA[读这本教材是为了追本溯源，了解随机树以及其发展。

目的：帮助我们了解经过随机树的扩展过程中，某些点的分支数目所代表事件比例。






第一章

介绍随机树种类





第二章



介绍一些基本技术



第三章

*第一个目的是树计数，以获取给定大小的树数的显式公式，在这些情况下，如果没有或没有简单的显式公式，则可能具有这些数的渐近信息。
	对树的几种组合类以及Galton-Watson树的几种组合类的分析是基于生成函数及其分析特性的，这些特性在第2章中进行了讨论。（根）树的递归结...]]></description><category></category></item><item><title><![CDATA[《大数据网络传播模型和算法》节选]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/108430318</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/108430318</guid><author>baozhiqiangjava</author><pubDate>Sun, 06 Sep 2020 12:58:54 +0800</pubDate><description><![CDATA[第4章




理解影响力最大化问题以及几个重要定理的证明




1 影响力最大化问题在IC和LT模型上NP难。

在LT模型上，将最大覆盖问题规约到影响力最大化问题。

在IC模型上，将节点覆盖问题规约到影响力最大化问题。



2 利用次模函数可以得到1-1/e的近似比。

公式推导利用次模性质得到。

3 该近似比是没有比1-1/e更好的近似比的。至少对于独立级联模型，不可能找到1-1/e的近似比的。

因为如果可以找到，那就可构建提高最大覆盖问题的更好近似比算法，但是已经证明最大覆盖...]]></description><category></category></item><item><title><![CDATA[线性规划及其解法]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/107590199</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/107590199</guid><author>baozhiqiangjava</author><pubDate>Sun, 26 Jul 2020 11:29:11 +0800</pubDate><description><![CDATA[在学习使用非0-1线性规划解决顶点覆盖的问题时候，发现将原本0-1线性规划（NP难问题）松弛后，就变为不是NP难问题，那么在多项式时间解决它的时候，可以提供一个解顶点覆盖问题的下界。

于是好奇为什么0-1规划是NP难，松弛后反而不是NP难？好奇学学。

参考《算法导论》26章




29章 线性规划


研究线性规划定义及其单纯性法（多项式时间方法）


29.1 标准型和松弛型

研究线性规划的两种表现形式，标准型和松弛型以及其转换。







29.2 如何将问题转化为线性规划问题...]]></description><category></category></item><item><title><![CDATA[算法导论书籍学习]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/107287264</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/107287264</guid><author>baozhiqiangjava</author><pubDate>Sat, 11 Jul 2020 17:27:24 +0800</pubDate><description><![CDATA[第17章 平摊分析



17.1 聚集分析




这里的确定一个n个操作序列的总代价的上界T（n），也许某一步操作代价很大，但是平均代价很小的。该分析会被用在分析单源最短路径中的Dijkstra算法中，其朴素版本算法复杂度为O（v2+E），其中的E就是用聚集分析分析出来的。


两个例子：

第一个例子 （考虑某个出栈k个元素的操作）







第二个例子



一个二进制加法器的操作




    我的直观感觉就是针对一个数据结构的操作分布在n步中，也许每一步的不太可能是O...]]></description><category></category></item><item><title><![CDATA[算法导论学习《视频》]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/107256649</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/107256649</guid><author>baozhiqiangjava</author><pubDate>Fri, 10 Jul 2020 23:49:00 +0800</pubDate><description><![CDATA[很明显，啃算法导论是我必须要做的事情，参考《算法导论》b站，和《算法导论》英文版


算法导论分为两个部分，第一部分为算法分析，第二部分为算法设计。

算法分析关注性能，也就是时间复杂度。










...]]></description><category></category></item><item><title><![CDATA[离散数学第二章二元关系]]></title><link>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/107255393</link><guid>https://blog.youkuaiyun.com/baozhiqiangjava/article/details/107255393</guid><author>baozhiqiangjava</author><pubDate>Fri, 10 Jul 2020 17:11:29 +0800</pubDate><description><![CDATA[第二章  二元关系

二元关系就是研究某个集合中两个对象（子集、元素）之间联系的。

2.1有序对与卡氏积



2.1.1 有序对

有序对是什么？是定义的一个对象，也是一个公理。为什么定义有序对？



这个可以通过定义和公理来证明的。



为什么要这样证明呢？因为作为数学，它小心翼翼的定义任何东西和公理，再基于这些定义和公理去证明任何东西，我们没有那么严格，但我们还是熟悉了解常用的证明方式以及使用。





按照递归的定义可以基于二元组定义n元组，它在集合无序的基础上，加强一些，要求有序。...]]></description><category></category></item></channel></rss>