xingzhe2001的专栏

原创 深度学习的基础概念

激活函数深度学习的进展得益于人们对激活函数的更深理解传统机器学习流行采用sigmoid激活函数，这个函数可解释性好，数学性质好，但是在深度学习领域随着网络层的增加会导致梯度消失的问题。TVM的激活函数类似 max(x-b), 实践上计算更快。深度学习流行的relu, max(x) 形状和tvm类似，速度更快，也能解决深度消失的问题。实际应用为了保证负梯度的传播，还有在负梯度方向加一个线性...

原创 L1正则化 L2正则化的Python 实现

上一篇文档 https://blog.youkuaiyun.com/xingzhe2001/article/details/86316712 介绍了L1 L2正则化本文介绍L1, L2 正则化的实现L1正则化代码def L1Norm(l, theta): return np.dot(np.abs(theta), np.ones(theta.size)) * ldef L1N...

转载 L1正则化和L2正则化 Regularization

 注：本文是机器之心翻译的，对L1正则化和L2正则化讲的比较好的文章其他推荐的参考资料有 2013年的 Differences between L1 and L2 as Loss Function and Regularizationhttp://www.chioka.in/differences-between-l1-and-l2-as-loss-function-and-regul...

原创 手写逻辑回归 ——Logistic Regression的详细推导与python实现

Logistic Regression是一种分类算法，返回分类0或者1逻辑回归将样本线性分割为两类，跟样本距离分割线的距离和正负来推算样本可能的类别产生的分割线，也叫 决策边界，Decision Boundary为样本到分割线的距离为则预测函数为对于二分类问题，代价的分布可以认为是伯努利分布，则根据极大似然估计法可以推得其中g一般为S型函数 sigmoid func...

原创 多项式回归 Polynomial Regression

只要将线性回归的x 扩展为 x^2, x^3, x^0.5等等就可以拟合非线性函数。这就是Polynomial Regression

原创 手写线性回归

纸质笔记本很容易丢失，还是记在网上吧线性回归是最基础的机器学习模型，假设结果和特征关系为线性，从而来预测结果预测函数为训练的时候要最小化代价函数根据中心极限定理，多个独立原因导致的分布是正态分布。那么多个样本的误差满足正态分布，可以通过最大化似然函数推出训练过程其实就是最小二乘法。因为对于单个样本，误差满足即假设所有样本是独立同分布的，那么所有样本的似然函...

原创 我搜集的学习PBR的中英文资料链接

英文资料 BRDF 测量网站 http://people.csail.mit.edu/wojciech/BRDFDatabase/brdfs/megascan https://megascans.se/library/free免费材质 https://freepbr.com/ 著名的,pbr必读的 Physically-Based Shading at Disneyht...

原创 Physically Based Rendering——史上最容易理解的BRDF中D函数NDF的中文资料

为了吸引读者眼球，开头引用了虚幻文档里的粗糙度变化的图，让大家对粗糙度有个直观的概念。粗糙度决定了D函数的分布，一般粗糙度是D函数的方差本文假定读者已经对PBR即Physcially Based Rendering 基于物理的渲染有了初步的了解，对于PBR的入门有很多文章都介绍的不错。本文针对想再了解下BRDF双向反射分布函数里的推导与内容的读者，是我自己学习BRDF的笔记这篇...

原创 手推系列——直观理解推导Physically Based Rendering 的BRDF公式之微表面法线分布函数NDF

不会matlab, 本文借助Python, numpy和matplotlib 来尝试观察和直观理解微表面理论。PBR(Physically Based Rendering)的光照计算基于微表面理论的假设。即宏观上的一个像素的点其实是微观上一块有很多绝对光滑的微小表面组成的。对于每个绝对光滑的微面，光照满足菲涅尔定理。即光的一部分作为高光反射出来，另一部分进入材质，并在材质里钻来钻去。其中一...

翻译 【翻译】Feeding a physically based shading model

Feeding a physically based shading model怎么满足基于物理的渲染(PBR)模型Sebastien LagardeAugust 17, 2011 译者注：本文是虚幻的官方文档推荐看的。有趣的是其作者是Unity的渲染研究总监。 上篇文章采用基于物理的渲染模型 是掌握PBR的第一步。基于物理的渲染模型(PBR)，要获得好的渲染效果，要基于真...

原创 美术的Unreal的PBR(Physically Based Renderring)实践

这篇文章写给打算开始做PBR的美术，技术美术和图形程序。如果转载请注明出处。图片拷自 何三林的博客 https://blog.youkuaiyun.com/baidu_16312167/article/details/51957786 比较传统材质和PBR材质的不同 笔者做了近4年的PBR的UE4手游，深感PBR开发中的坑。如果不认真学习任性而作，效果将惨不忍睹。 项目要采用PBR管...

原创 Unreal Engine4 C++中使用MaterialParameterCollection

MaterialParameterCollection可以在不同材质球里共享参数。如果是更新不频繁的参数，在蓝图里更新即可。但是对于更新很频繁的参数，比如每帧都更新的数据，最好在C++里做。 UKismetMaterialLibrary 提供了一些函数可以方便更新MaterialParameterCollection的。这些函数一般首先需要一个MaterialParameterColl...

原创 Unreal Engine4的对象迭代器

C++写Unreal 游戏的时候经常会需要遍历内存中的UObject对象，Unreal Engine提供了一些方便的函数来处理Engine\Source\Runtime\CoreUObject\Public\UObject\UObjectIterator.h文件下定义了FRawObjectIterator可以遍历所有的对象，包括类默认对象和将要GC的对象使用方法如下for (...

原创 Client Side SVN Hook 实现的本地自动化测试机制

SVN Client Side Hook项目中很多非程序的svn提交者很容易忽略对自己的提及进行测试。也多自己的提交会造成哪些影响没有深刻的概念。为了保证所有内容创作者的提交都是经过测试的，需要制作svn的hook保证每次提交都能做一些简单的测试。 打算把测试放在客户端上，这样可以做一些较深入的测试。当然大公司都是提交后由持续集成系统来自动测试的。我们小团队资源有限，还是通过开发人员的...

原创 SVM算法相关推导[五]——SMO算法

我们得到了目标是最大化W函数。那么要怎么求解呢？因为我们的向量维度很高(D=m)，直观的方法是用坐标上升法。但是由于限制条件的存在，我们不可能一次只修改一个alpha，需要对算法进行修改微软的SMO算法尝试一次修改2个alpha, 固定其他alpha, 每一次地带优化W用这两个修改的alpha来进行观察W公式假如固定的是 alpha_a, alpha_b根据限制...

原创 SVM算法相关推导[四]——带L1正则项的软间隔SVM

前边我们的假设都是数据完全可分。但是有的时候可能由于数据的问题使得数据并不是完全可分，这时候我们需要对SVM做一点修改，使得它可以接受部分不可分的数据。我们会在原始问题的后面加一个正则项如果则分类正确求解的方法和标准SVM一样，先根据两个约束写出拉格朗日式子对这个式子对各个变量求偏导取0，将得到的式子带入L消去变量，并求对偶问题，最后我们得到的目标是根据...

原创 SVM算法相关推导[三]——核函数

由前文https://blog.youkuaiyun.com/xingzhe2001/article/details/82916907https://blog.youkuaiyun.com/xingzhe2001/article/details/82927277核函数的作用我们知道，SVM算法主要关心的是有的时候我们会将特征x扩展到非线性，比如加入特征 x^2, x^n等等，我们记这种扩展为...

原创 SVM算法相关推导[二]

接上文SVM算法相关推导[一]最大间隔分类器是一种在约束下求最大化的问题，对于这种问题用拉格朗日乘子法和KKT条件可以变化为求其相对简单的对欧问题。(传说中的SMO?)对于拉个朗日乘子法和KKT条件的理解，优快云的博主lijil168介绍的不错。https://blog.youkuaiyun.com/lijil168/article/details/69395023lysuns的博客ht...

原创 SVM算法相关推导。[一]

网上有很多介绍SVM的文章，csdn里写得最好的是July大神的支持向量机通俗导论（理解SVM的三层境界），该文最初写于2012年6月，而后不断反反复复修改&优化，修改次数达上百次，最后修改于2016年11月。下面的文章只是我自己的笔记。可以配合July的文章理解。我把理解SVM需要的参考资料概念都贴过来。包括对偶，朗格朗日乘子, KKT条件等理解SVM需要的概念等。本文是学...

原创 可视化的用Python学习线性回归，闭式求解法(closed form)

本文用Numpy生成测试数据，并且用线性回归来求解预测函数。通过Matplotlib来可视化数据和代价函数，这样我们可以对代价函数有更直观的理解。也叫Normal Functionimport numpy as npimport mathimport matplotlib.pyplot as pltfrom mpl_toolkits.mplot3d import Axes3D"...

原创 matplotlib的简单使用

在python的统计，机器学习, 数据处理等领域, matplotlib都是很方便的数据可视化工具。在本文记录了一下其简单的使用规则，方便自己查找。首先你的机器上需要按照好python, 并且假设读者对Python语法有基本的理解一般配合使用numpy,按照matplotlib的方法 一般用pip或者anaconda安装, 方法 pip install matplotlib或者 co...

转载 游戏开发中敏捷实施

转自 http://blog.sina.com.cn/s/blog_5effa8f10100d2za.html两个程序员的 MSN log A 说: (2008-09-17 11:23:20)对了，问个咚咚，你们那边是用 scrum 么？B 说: (2008-09-17 11:23:26)对A 说: (2008-09-17 11:26:36)

转载 二维数组的动态分配及参数传递

原文在这里http://www.cnblogs.com/bigshow/archive/2009/01/03/1367661.html动态分配二维数组经常会碰到，钱鑫总结得很好，放在这里供方便参考1. C语言动态分配二维数组(1)已知第二维

原创 用Android开发游戏 （一）

借了个android手机, 想用来试试android的开发，把自己的挫折记录下来，以方便自己查找，也顺便方便一下其他同学。第一次接触android, 如果不是我特别背, 也许我碰到的问题别人也会碰到吧。 首先是配置开发环境。 http://developer.android.com/sdk/index.html 是下载android的官方网站，有时候连接会被防火墙reset

原创 久游大裁员，久游的兄弟们自由了，自己拉投资干吧！

<br />久游大裁员，久游的兄弟们自由了，自己拉投资干吧！

转载 [转]从0到1亿美元 ---- PopCap创始人John Vechey自述

<br />作者： 阮一峰<br />日期： 2010年10月24日<br />著名游戏"植物大战僵尸"，是PopCap软件公司的作品。<br />这家公司今年的收入，有望达到1亿美元。可是10年前，它刚刚成立的时候，只是一个辍学生与两个好友开的软件工作室。<br />它如何做到从0到1亿美元的飞跃？下面就是创始人非常诚恳的自述，我看了以后实在难忘，就把它译了出来。<br />========================================<br />PopCap创始人John Vechey

原创 EA自己的stl：EASTL

<br />这篇文章介绍了EA自己的STL， 讨论了许多游戏特别的要求。当然主要还是console的要求。值得参考。<br />http://www.open-std.org/JTC1/SC22/WG21/docs/papers/2007/n2271.html

原创 Epic公司，unreal的开发者在iphone和ipad上面的引擎，效果也很吸引人啊

<br /><br /> <br />如图，应该都是与渲染的阴影。

原创 游戏引擎的选择 开源，原创 还是商业？

<br />三种游戏引擎的代表厂商， 搜狐, 金山和网易。传说搜狐买了cryEngine，真是有钱人阿。看来资本的引入确实能极大促进技术的发展。小作坊靠几百万死撑等原始积累远没有资本的注入下发展快。

转载 [转载]物理引擎概述 by No5

<br /> <br />http://hi.baidu.com/refactor/blog/item/6e4d5aafe9b389f9faed506a.html<br />模拟世界1----物理引擎概述 by no5<br />                                             This doc is free as long as the auther is mentioned.<br /><br />        第零节. "Make it real." ---

转载 [转载]阅读一款3D引擎的方法备忘

来自http://www.cnitblog.com/linghuye/archive/2009/11/29/62870.html要带着引擎系统所共有的问题去阅读,不要被具体引擎的实现思路牵着走,要思考这个引擎如何实现或绕过(如不考虑低端机)这些必然要面临的问题.<br /><br />首先,最重要的必须,在Debug模式下调试起来一个主场景程序,然后沿着代码流走几遍,在代码里闲逛,生成第一印象,留意基础工具设施类(如字符串内存管理),大约3小时.<br />然后带着如下每一个问题(不分先后)去走流程,走逻辑

原创 PS3 SPU编程tip ---读Charles Bloom blog 之笔记

<br />Charles Bloom的博客在这里 http://cbloomrants.blogspot.com/<br /> <br />1. 似乎用si_func 和dword变量比 spu_func和vector变量好一点。因为spu_function是c++函数，性能回比直接用汇编慢。si_function相对好一点。<br /> <br />2. Rotate left 要花费两指令， Rotate right要花费3指令。<br /> <br />3.只分支预测最可能出现的那个分支就好了，也就

转载 GNU 库通用公共许可证

GNU 库通用公共许可证 译者：王立，中国Linux论坛--------------------------------------------------------------- 译者的声明: 本文是GNU Library(Less) General Public License的中文 译文。 本文由王立在1999年8月翻译。本人在翻译时为确保译文与原文在含义上一致性付出了最大努力

原创 PI的计算公式

原创 阿凡达有感

周末看了3D版的《阿凡达》，太震撼了，绝对是近几年最棒的片子，冲击不亚于当初人们第一次看到《星球大战》。尤其是戴上3D眼睛看主人公抓鸟飞翔的场景，我的手心是一直冒汗阿，感觉自己随时都要跌下去了。 该几乎所有的东西都是计算机生成的，有很多其他片子不敢细拍的各种各样的动物、植物，人物丰富自然的表情，以及完美的光线。表情的捕捉是计算机根据演员的表情自动生成的，这项技术叫做 capture

转载 GNU通用公共许可证(GPL)

GNU通用公共许可证(GPL)下面的正文是自由软件基金会GNU通用公共许可证原始文档的副本。Linux操作系统以及与它有关的大量软件是在GPL的推动下开发和发布的。你将看到：如果你打算为了发布的目的修改，更新或改进任何受通用公共许可证约束的软件，你所修改的软件软件同样必须受到GNU通用许可证条款的约束。GNU通用公共许可证1991.6 第二版版权所有（C

转载 Unreal3的网游服务器

Atlas Manager provides a simple interface for running and maintaining live game or development clusters easy management of server applications gives access to log information provides grap

转载 shadowmap 的一些变种

 本贴内容转自http://hyzgame.blogspot.com/2009/04/sm.html，一位网友列出的他搜到的所有的shadow map的名称，挺好，方便大家查找，复制到这里。现在TSM似乎比较流行。 SM: Shadow MapsASM: Adaptive Shadow MapsASM/AFSM: Alias-free Shadow MapsASSM: High-Quali