<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[handsomeman20的专栏]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/handsomeman20</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; handsomeman20]]></copyright><item><title><![CDATA[高效大型语言模型推理优化综述]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/148189709</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/148189709</guid><author>handsomeman20</author><pubDate>Sat, 24 May 2025 12:48:52 +0800</pubDate><description><![CDATA[这篇论文全面综述了LLMs推理服务的方法，涵盖了从实例级别优化到集群规模策略，再到新兴场景和其他重要领域。通过系统的方法和细致的分类，本文为LLMs推理服务的优化提供了宝贵的见解和未来的研究方向。希望这些工作能为正在进行的相关研究提供有价值的参考。]]></description><category></category></item><item><title><![CDATA[大模型的上下文context到底是啥]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/148189638</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/148189638</guid><author>handsomeman20</author><pubDate>Sat, 24 May 2025 12:40:56 +0800</pubDate><description><![CDATA[如果聊的时间长了，每次要告诉大模型的聊天记录就越积越多，处理长上下文需要消耗大量显卡显存，而当前GPU成本高昂，服务商必须平衡多人同时使用的资源分配，所以设定了大模型的上下文长度，超出的部分就只能丢掉或者干脆不聊了，让用户换个话题重新开始。：上下文长度决定了模型在生成每个输出时能够一次性“记住”多少信息，较大的上下文窗口可以提供更丰富的语义信息、消除歧义、处理上下文依赖性，并帮助模型生成连贯、准确的文本，还能更好地捕捉语言的上下文相关性，使得模型能够根据前文来做出更准确的预测或生成。]]></description><category></category></item><item><title><![CDATA[大模型剪枝主流技术方案]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/148189567</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/148189567</guid><author>handsomeman20</author><pubDate>Sat, 24 May 2025 12:39:57 +0800</pubDate><description><![CDATA[LoRAPrune设计了一种基于LoRA的剪枝准则，利用LoRA的权重和梯度而不是预训练权重的梯度来估计重要性，并将其集成到迭代剪枝过程中，有效地移除冗余的通道和头。​基于单个权重的重要性对模型中的权重进行剪枝，将绝对值较小的权重置为零，这些被置零的权重在后续的计算中可以被忽略，从而减少计算量。大模型剪枝是指对已经训练好的大型神经网络模型进行结构化或非结构化的简化操作，去除模型中对最终输出结果影响较小的部分（如神经元连接、权重等），从而减小模型的规模和计算复杂度，同时尽量保持模型原有的性能。]]></description><category></category></item><item><title><![CDATA[RAG框架汇总]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/143910370</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/143910370</guid><author>handsomeman20</author><pubDate>Wed, 20 Nov 2024 14:20:25 +0800</pubDate><description><![CDATA[RAG汇总]]></description><category></category></item><item><title><![CDATA[大模型微调论文综合版]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/143430046</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/143430046</guid><author>handsomeman20</author><pubDate>Fri, 01 Nov 2024 13:51:33 +0800</pubDate><description><![CDATA[大模型微调的论文总结]]></description><category></category></item><item><title><![CDATA[大模型研发失败的十大原因(上)]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/143429871</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/143429871</guid><author>handsomeman20</author><pubDate>Fri, 01 Nov 2024 13:43:43 +0800</pubDate><description><![CDATA[大模型研发需要注意的一些问题]]></description><category></category></item><item><title><![CDATA[基于Transformer的三元组抽取和实践]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/114283771</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/114283771</guid><author>handsomeman20</author><pubDate>Tue, 02 Mar 2021 14:06:01 +0800</pubDate><description><![CDATA[Bert 原理
模型介绍
代码实践
bert 原理
Bert的全名是Bidirectional Encoder Representations from Transformers，其主要结构是Transformer的encoder层，其包括两个训练阶段，预训练与fine-tuning

BERT_BASE (L=12, H=768, A=12, Total Parameters=110M) BERT_LARGE (L=24, H=1024, A=16, Total Parameters=340M).

ht]]></description><category></category></item><item><title><![CDATA[无监督学习文本使用到的技术(一)]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/97130731</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/97130731</guid><author>handsomeman20</author><pubDate>Wed, 24 Jul 2019 14:38:17 +0800</pubDate><description><![CDATA[概览：

1.doc2vec 训练句子向量

2.word2vec训练词向量

3.kmeans/dbscan训练句子聚类

4.tfidf寻找关键信息。

5.LDA主题文本聚类

组合使用：

doc2vec+tfidf+kmeans



先从doc2vec谈起来：

 1.文本分词 jieba/hanlp

 2.建立分词和下标id

##words_list =['aaa',...]]></description><category></category></item><item><title><![CDATA[推荐系统概述]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/81117750</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/81117750</guid><author>handsomeman20</author><pubDate>Thu, 19 Jul 2018 16:18:59 +0800</pubDate><description><![CDATA[推荐系统遇上深度学

推荐系统遇上深度学习系列：

推荐系统遇上深度学习(一)--FM模型理论和实践

推荐系统遇上深度学习(二)--FFM模型理论和实践

推荐系统遇上深度学习(三)--DeepFM模型理论和实践

推荐系统遇上深度学习(四)--多值离散特征的embedding解决方案

推荐系统遇上深度学习(五)--Deep&amp;amp;Cross Network模型理论和实践

推荐系统遇上深度...]]></description><category></category></item><item><title><![CDATA[Elasticsearch配置文件详解]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/52927679</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/52927679</guid><author>handsomeman20</author><pubDate>Tue, 25 Oct 2016 21:49:37 +0800</pubDate><description><![CDATA[a. 在上面博客中，我们已经安装并且成功配置了Elasticsearch以及部分插件，接下来我们就需要看看Elasticseach的配置文件的信息以及文档的一些说明。

　　b.首先找到Elasticsearch的安装位置，跳转到elasticsearch的config文件夹下，在此文件夹下含有两个配置文件：elasticsearch.yml和logging.yml，第一个是Elasticse]]></description><category></category></item><item><title><![CDATA[常用统计数学公式学习（1）方差与期望值]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/50669093</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/50669093</guid><author>handsomeman20</author><pubDate>Mon, 15 Feb 2016 16:33:51 +0800</pubDate><description><![CDATA[怎么证明
 1) D(X)=E(X^2)-[E(X)]^2
 2) D(X)=E[X-E(X)]^2
证明如下所示：
 这是一个数学统计的问题.
D(X)指方差,E（x）指期望.
E(X)说简单点就是平均值,具体做法是求和然后除以数量.
D(X)就是个体偏离期望的差,再对这个差值进行的平方,最后求这些平方的期望.具体操作是,（个体-期望）,然后平方,再对这些平方值求平均值.
说清楚]]></description><category></category></item><item><title><![CDATA[Python学习笔记（一）压缩与解压缩文件]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/50353941</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/50353941</guid><author>handsomeman20</author><pubDate>Fri, 18 Dec 2015 19:50:42 +0800</pubDate><description><![CDATA[Python压缩与解压缩文件

 

Python能够直接处理zip文件中的数据，例如需要将对应目录或多文件打包或压缩成zip格式，或者需要查看一个zip格式的归档文件中部分或所有的文件同时避免将这些文件展开到磁盘上，自1.6版本起，python中zipfile模块以实现相应操作。不过zipfile模块目前还不能处理分卷zip文件和带有注释的zip文件。

目前仅整理对zip文件的读取]]></description><category></category></item><item><title><![CDATA[多线程之CompletionService使用]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/46416781</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/46416781</guid><author>handsomeman20</author><pubDate>Mon, 08 Jun 2015 19:38:08 +0800</pubDate><description><![CDATA[如果你向Executor提交了一个批处理任务，并且希望在它们完成后获得结果。为此你可以保存与每个任务相关联的Future，然后不断地调用timeout为零的get，来检验Future是否完成。这样做固然可以，但却相当乏味。幸运的是，还有一个更好的方法：完成服务(Completion service)。

CompletionService整合了Executor和BlockingQueue的功能]]></description><category></category></item><item><title><![CDATA[利用Java NIO 实现文件监控功能。]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/45365003</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/45365003</guid><author>handsomeman20</author><pubDate>Wed, 29 Apr 2015 12:38:05 +0800</pubDate><description><![CDATA[利用java7提供的工具包实现文件的创建，修改，删除监控服务。
package com.news.feature;


import java.io.IOException;
import java.nio.file.FileSystems;
import java.nio.file.Files;
import java.nio.file.Path;
import java.nio]]></description><category></category></item><item><title><![CDATA[Eclipse Market连不上网的问题]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/41828053</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/41828053</guid><author>handsomeman20</author><pubDate>Tue, 09 Dec 2014 19:58:23 +0800</pubDate><description><![CDATA[Eclipse Market有时候会有连不上网的问题，解决方案是 检查  window/preference/general/Network Connections 找到后点击 把Native 改为 Directly.]]></description><category></category></item><item><title><![CDATA[词语语义度计算]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/40625311</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/40625311</guid><author>handsomeman20</author><pubDate>Thu, 30 Oct 2014 19:23:19 +0800</pubDate><description><![CDATA[Recently,I am researching some technologies about the similarity of two]]></description><category></category></item><item><title><![CDATA[如何在Maven中加入依赖]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/40605187</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/40605187</guid><author>handsomeman20</author><pubDate>Thu, 30 Oct 2014 01:18:29 +0800</pubDate><description><![CDATA[在Maven中加入依赖如下所示
maven “ com.sun.media”  repository]]></description><category></category></item><item><title><![CDATA[利用FutureTask进行线程并发操作]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/23629209</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/23629209</guid><author>handsomeman20</author><pubDate>Mon, 14 Apr 2014 00:01:23 +0800</pubDate><description><![CDATA[package graph;


import java.util.concurrent.Callable;
import java.util.concurrent.ExecutorService;
import java.util.concurrent.Executors;
import java.util.concurrent.FutureTask;
import java.ut]]></description><category></category></item><item><title><![CDATA[开始]]></title><link>https://blog.youkuaiyun.com/handsomeman20/article/details/11697105</link><guid>https://blog.youkuaiyun.com/handsomeman20/article/details/11697105</guid><author>handsomeman20</author><pubDate>Sun, 15 Sep 2013 01:11:16 +0800</pubDate><description><![CDATA[以往我都是在博客园上活动，现在转到优快云上来，技术交流与学习。]]></description><category></category></item></channel></rss>