<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[two_apples的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/two_apples</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; two_apples]]></copyright><item><title><![CDATA[Deepseek优化学习笔记——MLA详细流程与优化原理]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/147780284</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/147780284</guid><author>two_apples</author><pubDate>Thu, 08 May 2025 10:31:26 +0800</pubDate><description><![CDATA[详细描述了Mla计算流程，对于GQA,MQA与MLA的优化思路与区别]]></description><category></category></item><item><title><![CDATA[AutoAWQ Expected all tensors to be on the same device, but found at least two devices, cpu and cuda:]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/141851045</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/141851045</guid><author>two_apples</author><pubDate>Tue, 03 Sep 2024 09:49:17 +0800</pubDate><description><![CDATA[这里是指有部分数据在GPU上，有部分数据在CPU上，设备不统一，无法进行计算，修改脚本添加device_map参数即可。]]></description><category></category></item><item><title><![CDATA[LLM量化--AWQ论文阅读笔记]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/140439028</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/140439028</guid><author>two_apples</author><pubDate>Mon, 15 Jul 2024 15:25:21 +0800</pubDate><description><![CDATA[在本文中，提出了激活感知权重量化（AWQ），这是一种面向硬件的LLM低比特权重量化方法。猜想基于这样一种观察结果：权重不是等同重要的，仅保护1%的显著权重就能大大的减少量化误差。然后我们提出了通过观察激活来搜索最优的每个通道的缩放因子，以保护这些显著的权重。QAT因为高训练成本效率低，PTQ在低精度的时候精确度下降的多，最接近的工作是GPTQ，这种方法采用二阶信息来进行误差补偿，但是，它在重构的过程会过拟合校准集。]]></description><category></category></item><item><title><![CDATA[卷积实现—im2col+gemm]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/131383786</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/131383786</guid><author>two_apples</author><pubDate>Sun, 25 Jun 2023 19:13:58 +0800</pubDate><description><![CDATA[看卷积的实现，先看其普通的计算方式：滑窗计算和其计算shape大小的公式，以及各个卷积特性对其计算的影响，比如：stride，group，dilation，pad等。Hout​Hin​−kh​pt​pb​strideh​1Wout​Win​−kw​pl​pr​stridew​1上面公式以2D卷积为例，输出特征图的形状计算公式。]]></description><category></category></item><item><title><![CDATA[boost生成xml与tinyxml之间的格式转换]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/106866706</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/106866706</guid><author>two_apples</author><pubDate>Sat, 20 Jun 2020 01:23:19 +0800</pubDate><description><![CDATA[相关链接：畅游C++ Boost Serialization 序列化
本博客将普通xml转成boost可读；
&nbsp;&nbsp;&nbsp;&nbsp;之前做项目，发现一个问题就是用boost生成的xml与tinyxml生成的xml格式不同，具体大概为这样：tinyxml与boost都是处理xml的工具：下图为tinyxml与boost读一个boost生成xml后重新生成的xml
&nbsp;&nbsp;&nbsp;&nbsp;（这里想展示的是格式上区别，其实还有点不同的是，就是科学计数法的方式，bo]]></description><category></category></item><item><title><![CDATA[STL-undered_map用法（C++）]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/106600109</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/106600109</guid><author>two_apples</author><pubDate>Sun, 07 Jun 2020 17:38:29 +0800</pubDate><description><![CDATA[1.介绍：
&nbsp;&nbsp;&nbsp;&nbsp;unordered_map是一个关联容器，内部采用的是哈希链表的结构，拥有快速检索的功能。
&nbsp;&nbsp;&nbsp;&nbsp;1、关联性：通过key的值去检索value,二不是通过绝对地址；
&nbsp;&nbsp;&nbsp;&nbsp;2、无序性：使用hash表储蓄，内部无序；
&nbsp;&nbsp;&nbsp;&nbsp;3、map:每个值对应一个键值；
&nbsp;&nbsp;&nbsp;&nbsp;4、键唯一性：不存在两个]]></description><category></category></item><item><title><![CDATA[c#界面控件界面等比例缩放]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/106312916</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/106312916</guid><author>two_apples</author><pubDate>Sun, 24 May 2020 14:02:14 +0800</pubDate><description><![CDATA[本篇博客只针对本人在尝试做一个界面放大问题中所遇到的一些问题：
目的:实现窗口放大，窗口内的控件也等比放大；（成功）
1.anchor属性改变取得的效果不理想；
2.控件放大比例不一样；
3.在放大的过程中出现界面乱（看起来软件有点像盗版）
下面以下图为例讲解：
当我们设计好窗口后是这样的：

当我们拉大时：

网上有很多方法使用了改变anchor属性的方法；简单说一下anchor属性，就是让空间到界面上下左右的距离不变，实现效果会很奇怪，我们来看一下操作：
Anchor属性添加尝试
在控件属性中添加anc]]></description><category></category></item><item><title><![CDATA[ubuntu服务器搭建tensorflow-gpu]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/106193293</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/106193293</guid><author>two_apples</author><pubDate>Mon, 18 May 2020 15:28:56 +0800</pubDate><description><![CDATA[路人搭载方法
612同学搭载方法：
在服务器上有anaconda ,已经配好的cuda+cudnn；
1.先登录进入服务器，先安装anaconda
cd /home/public/Packages/
ls

./Anaconda-3.5.2.0-Linux-x86_64.sh
开始安装，默认装到自己名下账户的文件夹内。
然后开始换源，加快安装速度。（pip换源自行百度）
换源之后开始创建环境与安装
输入conda create -n （环境名称） python=3.5（python必须3.5或3.6，3.6]]></description><category></category></item><item><title><![CDATA[NAS发展之路]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/105933681</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/105933681</guid><author>two_apples</author><pubDate>Sat, 09 May 2020 15:04:20 +0800</pubDate><description><![CDATA[本篇文章沿用知乎上一位前辈给的线索做出拓展学习如何看待神经框架搜索的发展
Neural Architecture search with Reinforcement learning
&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;这篇文章是最初的一篇文章，如前辈所述，总体特点就是大力出奇迹。下面详细的介绍一下这篇文章：（因为用ppt更加直接，所以我喜欢在学习的过程中做成ppt以免之后...]]></description><category></category></item><item><title><![CDATA[leecode-1162:地图分析官方代码解读]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/105190771</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/105190771</guid><author>two_apples</author><pubDate>Mon, 30 Mar 2020 01:51:31 +0800</pubDate><description><![CDATA[  本来这个题可以用一个简单的多源广度搜索（广度搜索+队列）就可以解决，但是官方的一个动态规划用的很巧妙，如果用在C语言中，可以节省很多空间，现在对于这个动态规划做出代码的解读，大致思路大家可以在官方去查看：
第一阶段：
f(x,y)={0,(x,y)&nbsp;is&nbsp;land&nbsp;min⁡{f(x−1,y),f(x,y−1)}+1,(x,y)&nbsp;is&nbsp;ocean...]]></description><category></category></item><item><title><![CDATA[LSTM如何解决梯度消失与梯度爆炸]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/105159085</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/105159085</guid><author>two_apples</author><pubDate>Sat, 28 Mar 2020 13:06:45 +0800</pubDate><description><![CDATA[  这是一张经典的LSTM示意图，LSTM依靠 ftf_tft​、iti_tit​、oto_tot​来控制输入输出，ft=σ(Wf⋅[ht−1,xt]+bf)f_{t}=\sigma\left(W_{f} \cdot\left[h_{t-1}, x_{t}\right]+b_{f}\right)ft​=σ(Wf​⋅[ht−1​,xt​]+bf​)it=σ(Wi⋅[ht−1,xt]+bi)i_{t...]]></description><category></category></item><item><title><![CDATA[LSTM的经典变式]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/105158702</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/105158702</guid><author>two_apples</author><pubDate>Sat, 28 Mar 2020 12:14:58 +0800</pubDate><description><![CDATA[  之前描述的LSTM结构是最为普通的。在实际的文章中LSTM的结构存在各种变式，虽然变化都不会太大，但是也值得一提。
peephole connections结构
  由Gers &amp; Schmidhuber (2000)提出，它在LSTM的结构中加入了“peephole connections.”结构，peephole connections结构的作用是允许各个门结构能够看到细胞信息，具...]]></description><category></category></item><item><title><![CDATA[LSTM的原理和实现]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/105150848</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/105150848</guid><author>two_apples</author><pubDate>Sat, 28 Mar 2020 00:32:08 +0800</pubDate><description><![CDATA[LSTM网络结构
  long short term memory，即我们所称呼的LSTM，是为了解决长期以来问题而专门设计出来的，所有的RNN都具有一种重复神经网络模块的链式形式。在标准RNN中，这个重复的结构模块只有一个非常简单的结构，例如一个tanh层。

  LSTM也有与RNN相似的循环结构，但是循环模块中不再是简单的网络，而是比较复杂的网络单元。LSTM的循环模块主要有4个单元，以比较...]]></description><category></category></item><item><title><![CDATA[RNN梯度消失和爆炸的原因]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/105139182</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/105139182</guid><author>two_apples</author><pubDate>Fri, 27 Mar 2020 14:20:48 +0800</pubDate><description><![CDATA[  一个经典的RNN结构如下图所示：
  假设我们的时间序列只有三段， S0S_0S0​为给定值，神经元没有激活函数，则RNN最简单的前向传播过程如下:S1=WxX1+WsS0+b1O1=WoS1+b2S_{1}=W_{x} X_{1}+W_{s} S_{0}+b_{1} O_{1}=W_{o} S_{1}+b_{2}S1​=Wx​X1​+Ws​S0​+b1​O1​=Wo​S1​+b2​S2=Wx...]]></description><category></category></item><item><title><![CDATA[图]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/104662691</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/104662691</guid><author>two_apples</author><pubDate>Wed, 04 Mar 2020 22:15:53 +0800</pubDate><description><![CDATA[ 图的几种储存方式，邻接矩阵，邻接表，逆邻接表，十字链表。邻接表中储存着该元素的下一个节点可以到达的节点，逆邻接表中储存的是可以在下一个节点直接到达该点的元素，十字链表综合了两种表的特性，但是就概念模型而言，比较耗费存储空间，做内存优化之后，将边看成元素，储存相邻两个节点的index,在链表的后面，存入边，如图所示：

 在遍历图时，对图中的每个顶点至多调用一次（DFS）函数，（深度优先搜索），因...]]></description><category></category></item><item><title><![CDATA[数据结构 c —查找]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/104467485</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/104467485</guid><author>two_apples</author><pubDate>Mon, 24 Feb 2020 15:09:44 +0800</pubDate><description><![CDATA[  用平均查找长度衡量算法性能。ASL=∑i=1nPiCiA S L=\sum_{i=1}^{n} P_{i} C_{i}ASL=i=1∑n​Pi​Ci​      其中，  PiP_iPi​为查找第i个记录的概率，CiC_iCi​为找到表中其关键字与给定值相等的第i个记录时，和给定值已进行过比较的关键字个数。为了提高效率，可以在每个记录中附设一个访问频度阈。
  提高检索效率的方法：
    1...]]></description><category></category></item><item><title><![CDATA[R-CNN、SPPNet、Fast Rcnn、Faster R-CNN 原理以及区别]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/104399085</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/104399085</guid><author>two_apples</author><pubDate>Wed, 19 Feb 2020 21:15:57 +0800</pubDate><description><![CDATA[R-CNN原理：
R-CNN遵循传统目标检测的思路，同样采取提取框，对每个框提取特征，图像分类，非极大值抑制等四个步骤，只不过在提取特征这一步将传统的特征换成了深度卷积网络提取的特征。
对于原始图像， 首先使用Selective Search 搜寻可能存在物体的区域。Selective Search 可以从图像中启发式地搜索出可能包含物体的区域。相比穷举而言， Selective Search 可...]]></description><category></category></item><item><title><![CDATA[学习资源1]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/104196585</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/104196585</guid><author>two_apples</author><pubDate>Thu, 06 Feb 2020 21:33:35 +0800</pubDate><description><![CDATA[近些天在家里过年，因为新型冠装病毒，这个寒假延长了很就，但是学习不能耽搁，最近师兄们找工作，让我对算法的重视程度有增加了一栏，搜索了一些学习资源，以备之后学习所需要
一个算法学习博客
内容提要：
数据结构与算法分析—C语言描述，这本书课后题很多很多都是面试经典题型，《编程之美》中很多题都是借鉴的这本书上的
《算法设计与分析基础》——复杂度分析，分治，动态规划，回溯。《算法引论》从创造性的角度讲述如...]]></description><category></category></item><item><title><![CDATA[注册表清除]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/103973733</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/103973733</guid><author>two_apples</author><pubDate>Tue, 14 Jan 2020 15:18:03 +0800</pubDate><description><![CDATA[之前搜索的资源还挺多，慢慢开始觉得好像资源都消失了，为了方便使用，于是决定自己写一篇备用
找到mathtype注册表并删除，在运行栏里搜regedit进入注册表编辑器，然后按此路径   计算机\HKEY_CURRENT_USER\Software\Install Options    找到
然后删除Options6.9即可

...]]></description><category></category></item><item><title><![CDATA[UDP SOCKET最全解析 ——linux 系统搭建]]></title><link>https://blog.youkuaiyun.com/two_apples/article/details/103016023</link><guid>https://blog.youkuaiyun.com/two_apples/article/details/103016023</guid><author>two_apples</author><pubDate>Fri, 06 Dec 2019 20:01:14 +0800</pubDate><description><![CDATA[首先先说一下我搭建的配置环境，我是在win10系统的linux 虚拟机的环境下搭建的，在vim界面中进行编程
…省略一系列虚拟机环境以及vim尝试的过程开始正式的讲解：
UDP适合小数据的传输
先看一下整体的流程图：

其实UPD的搭建就是函数调用，函数是包里已经弄好的函数，我们只需要自己配置一下端口和网络地址均可；
现在开始客户端和接收端函数的讲述：
接收端：
#include&lt;sys/t...]]></description><category></category></item></channel></rss>