7TribeZ的博客

Batch and MomentumReview： Optimization with Batch上次我们有讲说,我们实际上在算微分的时候,并不是真的对所有 Data 算出来的 L 作微分,你是把所有的 Data 分成一个一个的 Batch,有的人是叫Mini Batch ,那我这边叫做 Batch,其实指的是一样的东西,助教投影片裡面,是写 Mini Batch每一个 Batch 的大小呢,就是大 B 一笔的资料,我们每次在 Update 参数的时候,我们是拿大 B 一笔资料出来,算个 L

1. Function with Unknown Parameters第一个步骤是我们要写出一个,带有未知参数的函式,简单来说就是 我们先猜测一下,我们打算找的这个函式F,它的数学式到底长什麼样子。举例来说,我们这边先做一个最初步的猜测,我们写成这个样子2. Define Loss from Training Data第二个步骤,是我们要定义一个东西叫做Loss,Loss它也是一个Function,那这个Function它的输入,是我们Model裡面的参数,我们的Model叫做,ₗ,而跟是未知的

一.机器学习介绍1.机器学习介绍以前的人工智慧完全是依靠人制定的规则行事，而机器学习相比增加自主学习即自己制定规则的能力。怎么做到呢？就是通过提供给他的资料，学习出来一个function。2.机器学习想关的技术a.监督学习Regression：输出是scalar，是可以是连续中的一个数值。Classification:输出的是类别，如二分类，多分类。监督学习：提供给机器的function set 是有输入input 和输出 label 的，什么输入对应什么输出。

保存一下https://blog.youkuaiyun.com/v_JULY_v/article/details/89894058?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522162178421616780265496343%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fall.%2522%257D&request_id=162178421616780265496343&

传统神经网络vs卷积神经网络损失函数 softmax onehot为什么需要卷积神经网络基本组成结构卷积...

目录矩阵特征值特征向量线性代数：秩机器学习：数据降维奇异值分解免费午餐定理奥卡姆剃刀原理欠拟合 过拟合逻辑回归softmax频率学派 vs 贝叶斯学派Beyond深度学习矩阵特征值特征向量线性代数：秩机器学习：数据降维奇异值分解https://www.bilibili.com/video/BV16A411T7zX?from=search&seid=37766722...

接下来解决非线性，如异或（单层感知机解决不了）解决同或 非线性问题...

目录1.1 人工智能概述1.2 什么是机器学习1.3 机器学习算法分类1.4 机器学习开发流程1.5 学习框架和资料介绍1.1 人工智能概述 达特茅斯会议-人工智能的起点 机器学习是人工智能的一个实现途径 深度学习是机器学习的一个方法发展而来 1.1.2 机器学习、深度学习能做些什么 传统预测 图像识别 自然语言处理1.2 ...

激情好文，在线阅读https://blog.youkuaiyun.com/v_JULY_v/article/details/51812459