Kuo_Jun_Lin的博客

关键词：机器学习 / 神经网络 / 稀疏摘要：全联接神经网络从发明至今到处可见其身影，它可以用来实现分类或回归任务，有效拓展机器的决策能力，然而全联接的参数总量非常庞大，既需要硬盘空间保存模型，运行时又需要占用大量内存实现计算，稀疏网络的概念由此应运而生！去掉某些链接实现网络的轻量化正是它的重要贡献！简介神经网络专指一种结构化的层状网络结构，虽然同样也都是由节点 (node) 和边 (edge) 组成，但每个节点不能与和自己同一层的其他节点产生连接，因此常常网络结构的示意图就会被画成这个样子.

机器学习算法有很多种分类维度，最出名且常用的一种分类就是 判别模型 与 生成模型，这两类模型最主要的区别就是除了预测之外，生成模型还能生成数据，而判别模型则不行！这回小编将利用生成模型的特性，根据现有数据来预测新冠在未来的潜在案发地点，非常适合数据分析与仿真优化的同学们借鉴！

近几年，越来越多得深度学习网络出现在了我们得视野当中，并且这个研发速度在不断得上升。在这些众多的模型中，有一个模型占有这举足轻重得地位！那就是 `Transformer`。 尤其是在`自然语言处理`, `Transformer`的到来犹如龙卷风一般震惊学术界。 这个新的模型一出现就打破了多个`自然语言处理`的表现记录并一举成为了最先进的深度网络模型之一。 `Transformer` 在机器翻译，智能对话，甚至搜索引擎上都展现出了强大的能力。

关键词：机器学习 / 无监督 / 聚类简介在众多聚类算法中，K-Means 算得上是其中一个经典的算法之一了，它属于无监督学习成员的一份子，训练并分类数据的过程中，不需要标签的辅助就能够掌握每一比数据之间的潜在关系，而这个关系则是通过两个点之间的距离远近来判定，离得远的表示关系小，离得近的表示关系大，他的数学表达式：f(x)=⋯\begin{aligned}\mathcal{f}(x) = \cdots\end{aligned}f(x)=⋯​是不是没看清数学是什么呢？你没看错，因为小编这.

Brief 概述机器学习与人工智能其实可以被归类为一个有历史的学科领域，在上世纪的六零年代就已经有第一批的科学家先祖们在这个领域投入精力，但是碍于当时的硬件科技发展限制，没有办法实现大规模的运算，甚至也没有单位能够提供规模庞大的同类型数据给到科学家们，因此这个领域一直沉寂着直到现今爆炸性的成长开了一片绚丽的故事。不过这样的发展历程也意味着非常丰富的知识和方法累计在这门学科中，应对迅速到来的...

Brief 概述基于对 Tensorflow 大致的了解，并理解了流程图设置的逻辑和运行方法后，我们逐渐的会发现其设计理念与机器学习深远的匹配性。延续前面一章节最后的代码，此单元记录的模型和方法主要也是围绕 「监督学习」 为重点展开。构建一个内涵机器学习算法的流程图后，我们就可以以一个参数作为输入，启动计算流程并等待最终结果，大致的训练过程如下流程：建构好数学模型指向图 初始化模型参数...

Brief 概述在理解了建构神经网络的大致函数用途，且熟悉了神经网络原理后，我们已经大致具备可以编写神经网络的能力了，在涉及比较复杂的神经网络结构前，还有两件重要的事情需要了解，那就是中途存档和事后读取的函数，它攸关到庞大的算力和时间投入后产出的结果是否能够被再次使用，是一个绝对必须弄清楚的环节。另外是 Tensorflow 提供的的一个工具名为 Tensorboard，它可以很有效率的为我们...

Brief 概述这节开始我们使用知名的图片数据库 「THE MNIST DATABASE」 作为我们的图片来源，它的数据内容是一共七万张 28×28 像素的手写数字图片，并被分成六万张训练集与一万张测试集，其中训练集里面又有五千张图片被用来作为验证使用，该数据库是公认图像处理的 "Hello World" 入门级别库，在此之前已经有数不清的研究围绕着这个模型展开。不过初次看到这个库之后肯定...

Brief 概述上一个环节的内容呈现中，我们主要是在做框架搭建前的准备工作，把手边的数据集与即将要使用上的函数尽可能交代清楚，而这节主要的内容是来探讨建构神经网络的过程与步骤，并尽可能的使用函数预留接口的形式把重复书写的代码整合得整洁且易懂，就如同 keras 的模块包一般，建构神经网络的过程好比堆积木，一层网络一行代码，只要能够设计好函数的长相，就可以达到与 keras 模块类似的效果，非常...

Brief 概述在上一章中我们使用了 MNIST 手写数字数据集，套入一个非常简单的线性模型中，得到了大约 90% 左右的正确率，用意在于熟悉神经网络节点的架构和框架的使用方法，接下来这章将把前一章的数据集和方法全面提升一个档次，使用的是 CIFAR10 与 CNN 卷积神经网络的架构，同时也可以做为探讨深层神经网络如 VGG19，GoogleNet，与 ResNet 的敲门砖。CNN 卷...

Brief. Review of the low accuracy当使用完了所有论文提及到的招式后，看到低下的正确率时，脑中的疑点肯定已经足以在几秒钟内盖过诧异的神色，从卷积框架的搭建，到数据处理方法的使用，再到超参数的初始化设定，最后检查在缓存不过载的情况下，把框架执行上千次的训练后得出一个结果，每个环节需要更为深刻的理解才足以支持实际应用。下面是低正确率的训练结果回顾，同时也是上一篇文章的...

Brief 概述上一个章节提到的模型训练方法是输入一个向量值，经由神经网络的运算与传递后，产生一个数据类型的结果，如上节举例则是二次元人物图像，而第二节课提到的情况生成器则是以文字转图片的模式展开。换言之，这个举例是一个典型的监督学习方法。步骤如下：设定好一个神经网络，输入为文字输出为图片 准备好一个数据库，充满着文字对应图片的结果 训练这个神经网络，让输出的图片越接近数据库的图片越好...

Brief 概述GAN stands for Generative Adversarial Network, which was first developed in 2014. This brand new branch related to deep learning is amazing due to its effects and is hugely attractive to the...

何为 YOLO（You Only Look Once) YOLO [点击] 充满青春暗示的另一面，更是一个强大物体检测算法的简称，其算法结合了速度与准确度，近期更推出了第三版的 model 供大家参考，大幅度提升了前一版的性能。作者为一位资深 computer scientist: Joseph Chet Redmon 精通数据科学，编程等工作，与另外四名伙伴一同开发了此模型。与以往的重复定位不同...

more

more

论文链接fast R-CNN: https://arxiv.org/pdf/1504.08083.pdf

论文链接R-CNN: http://islab.ulsan.ac.kr/files/announcement/513/rcnn_pami.pdf

论文链接SPPnets: https://arxiv.org/pdf/1406.4729v1.pdf

论文链接Mask R-CNN: https://arxiv.org/pdf/1703.06870.pdf

论文链接TCN: https://arxiv.org/pdf/1803.01271.pdfp.s. TCN stands for Temporal Convolutional Network. 它是除了 RNN architecture 之外的第二种可以分析时间性数据的架构前言RNN 从最一开始发展以来，经过不断的演进与迭代，把原先难以实施 backpropagation 的难题用上了 LSTM ...

此篇延伸补充的源头文章链接：深度学习 + 论文详解： TCN_时间卷积网络_原理与优势相关主题推荐文章A guide to receptive field arithmetic for Convolutional Neural Networks你知道如何计算CNN感受野吗？这里有一份详细指南命名由来Receptive Field 这个词最易开始是从生物领域被 Convolutional Neura...

此篇延伸补充的源头文章链接：深度学习 + 论文详解： TCN_时间卷积网络_原理与优势相关主题推荐文章：

从搜集数据的角度来看，越多的数据理论上说会有越高的准确率，但是每次爬虫找下来的图片只能够有百来张，如果分了很多不同的文件夹之后，为了迅速的将它们集合成完整的 “单一个” 资料夹，下面代码可以把多个文件夹里面的文件汇总到一个指定的文件夹中，不过还是有些前提条件需要遵守：指定的文件夹必须已经存在，并且是跟要被汇总的文件夹不同的文件夹不同文件夹里面的文件不能有重复命名存在（在执行代码前，需要做批量修改）...