<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[字节跳动 内推找我]]></title><description><![CDATA[内推链接：https://blog.youkuaiyun.com/lpstudy/article/details/89603261]]></description><link>https://blog.youkuaiyun.com/lipeng08</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; lipeng08]]></copyright><item><title><![CDATA[大模型系列22-MCP]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/148213035</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/148213035</guid><author>lipeng08</author><pubDate>Mon, 26 May 2025 00:23:07 +0800</pubDate><description><![CDATA[MCP（Model Context Protocol）是一个用于定义模型与外部工具如何交互的协议。它可以告诉大模型有哪些工具可用、工具的参数和返回格式，然后触发外部 Agent（如Cline）调用工具，实现让大模型更好的使用工具的能力。说是大模型使用工具，其实是Agent发送给模型自己的工具列表，模型判断出要使用什么工具，然后模型告诉Agent去调用，Agent执行工具调用之后，然后将调用结果返回给模型，由模型决策后续的行为（或者是直接总结工具的结果返回给用户，或者是进一步调用工具等）。]]></description><category></category></item><item><title><![CDATA[大模型系列21-AI聊天机器人]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/145414068</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/145414068</guid><author>lipeng08</author><pubDate>Mon, 03 Feb 2025 22:44:38 +0800</pubDate><description><![CDATA[Streamlit是一个用于构建快速、交互式 Web 应用的 Python 库，特别适用于机器学习和数据科学项目。通过简单的 Python 代码，Streamlit 可以让你快速展示数据可视化、创建交互式界面和展示机器学习模型的结果。总的来说是可以用于快速验证思路，进行demo展示。]]></description><category></category></item><item><title><![CDATA[大模型系列18-AI Agents]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/144873522</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/144873522</guid><author>lipeng08</author><pubDate>Sat, 04 Jan 2025 20:56:40 +0800</pubDate><description><![CDATA[Al Agent智能体，是指一种能够模拟人类思考和行为来自动执行任务，以解决复杂问题的程序或系统架构图思考->行动->观测实际输入给大模型的prompt具体执行步骤如下。]]></description><category></category></item><item><title><![CDATA[大模型系列17-RAGFlow搭建本地知识库]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/144857395</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/144857395</guid><author>lipeng08</author><pubDate>Wed, 01 Jan 2025 00:33:26 +0800</pubDate><description><![CDATA[这里我们做的机器学习论文库，因此可以将“解析方法”从“General”调整为“Paper”模式，对论文进行解析。列出所有的模型，有两个Embedding模型以及一个qwen2:7b的模型。文件中，可以修改 端口号、ragflow的镜像版本等。参考写的安装open-webui的文章。将刚才添加的模型设置到系统默认配置中。新建一个论文助理，用于后续的聊天对话。ragflow使用的各种环境变量在。论文上传完毕后，执行论文内容的解析。论文解析过程，花了10几分钟。参考写的ollama的文档。]]></description><category></category></item><item><title><![CDATA[大模型系列13-迁移学习（WIP）]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/144467216</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/144467216</guid><author>lipeng08</author><pubDate>Thu, 19 Dec 2024 08:33:00 +0800</pubDate><description><![CDATA[这些前缀向量会参与模型的计算过程，通过调整前缀向量的参数来影响模型的输出，从而实现对特定任务的微调。例如，在一个 Transformer 架构的语言模型中，通常只对多头注意力（Multi - Head Attention）机制中的查询（Q）和键（K）矩阵应用 LoRA，这些矩阵的维度较高，通过低秩分解可以有效地减少需要更新的参数数量。在自然语言处理领域，迁移学习是一种关键技术，用于将从一个任务或领域中学到的知识迁移到另一个任务或领域中，从而减少训练时间、计算资源，并提升模型在特定任务上的表现。]]></description><category></category></item><item><title><![CDATA[大模型系列4--开源大模型本地部署到微调（WIP）]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/140593108</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/140593108</guid><author>lipeng08</author><pubDate>Sat, 14 Dec 2024 09:42:39 +0800</pubDate><description><![CDATA[一直想真正了解大模型对硬件资源的需求，于是准备详细看一篇视频，将核心要点总结记录下。]]></description><category></category></item><item><title><![CDATA[大模型系列7-从零实现GPT(WIP)]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/141096072</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/141096072</guid><author>lipeng08</author><pubDate>Sat, 14 Dec 2024 09:40:16 +0800</pubDate><description><![CDATA[dataclass。]]></description><category></category></item><item><title><![CDATA[大模型系列10-推理优化(WIP)]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/143497041</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/143497041</guid><author>lipeng08</author><pubDate>Sat, 14 Dec 2024 09:39:40 +0800</pubDate><description><![CDATA[在这个过程中，DeepSpeed Inference 会自动将模型分割到指定数量的 GPU 上，并插入为 Transformer 模型运行多 GPU 推理所需的必要通信代码——用户无需更改模型代码。一方面，快手使用了零冗余优化器，在非 MoE 层上面使用了 ZeRO—2，把 optimizer states 数据和 gradients 数据做了一些零冗余的切分。在不增加通信量的情况下，可以降低 GPU 的显存占用。在 MoE 层禁用了 ZeRO，避免掉跨机之间做通讯的情况。]]></description><category></category></item><item><title><![CDATA[大模型系列12-KV Cache]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/144202820</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/144202820</guid><author>lipeng08</author><pubDate>Sat, 14 Dec 2024 09:38:28 +0800</pubDate><description><![CDATA[预填充性能评估指标：TTFT（time to first token）TTFT 即生成首个标记的时间，是预填充阶段关键评估指标。实际应用中，通常会设定 TTFT SLO，这是对系统的性能要求，只有系统满足该指标，其性能才达标。例如，设定 P90 TTFT SLO 为 0.4 秒，即要求系统 90% 的请求其 TTFT 值小于等于 0.4 秒。解码性能评估指标：TPOT（time per output token）TPOT 是生成每个输出标记的时间，是解码阶段重要评估指标。]]></description><category></category></item><item><title><![CDATA[大模型系列11-ray]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/143996269</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/143996269</guid><author>lipeng08</author><pubDate>Sun, 24 Nov 2024 18:57:18 +0800</pubDate><description><![CDATA[ray是分布式的计算框架]]></description><category></category></item><item><title><![CDATA[大模型系列9-ZeRO123 (WIP)]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/143258038</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/143258038</guid><author>lipeng08</author><pubDate>Mon, 28 Oct 2024 00:27:48 +0800</pubDate><description><![CDATA[以 GPT-2 为例，GPT-2 模型含有 1.5B 个参数，如果用 fp16 格式，模型本身只占 3GB 显存，但是实际训练过程中的模型状态需要耗费 24GB！激活值可以使用activation checkpoint来进行优化掉，因此优化是显存优化的重点。模型状态的优化，ZeRO使用的方法是分片策略，每张卡只存储1/N的模型状态]]></description><category></category></item><item><title><![CDATA[自用NAS系列1-设备]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/141956186</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/141956186</guid><author>lipeng08</author><pubDate>Sat, 07 Sep 2024 19:49:16 +0800</pubDate><description><![CDATA[关于内网穿透，网上有fpr内网穿透教程，有个公网虚拟机就可以，安装fpr客户端和服务器来转发，这个可能和拾光穿透是相同的技术模式。打开支持webdav的软件，具体设置页面参考每个软件的设置方法，在输入地址界面输入 http://192.168.0.106:5005/ ,输入用户名、密码即可登录使用。（2）拾光穿透，1GB/月的流量限制，进行各种软件的控制信号也够用了；家里面是移动宽带，拨打10086咨询，公网IPV4是一项增值服务，需要额外付费，遂考虑转向IPv6，因为移动给的IPv6都是默认公网地址。]]></description><category></category></item><item><title><![CDATA[大模型系列8-Latex]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/141100953</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/141100953</guid><author>lipeng08</author><pubDate>Tue, 13 Aug 2024 09:20:35 +0800</pubDate><description><![CDATA[为了更好的记录，写了一些大模型的博客，不专业，只备忘。前几年写论文很常用，但是现在过了几年了，基本都忘得差不多了，于是乎专门记录一个博客，将常用的Latex符号给记录下，便于未来帮助查看。参考： https://blog.youkuaiyun.com/xxzhangx/article/details/52778539。参考：https://www.acwing.com/blog/content/3067/小于约等于 a \lesssim b =大于约等于 a \gtrsim b =约等于 a  \approx b =]]></description><category></category></item><item><title><![CDATA[大模型系列6--神经网络（WIP）]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/140762947</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/140762947</guid><author>lipeng08</author><pubDate>Tue, 13 Aug 2024 01:22:09 +0800</pubDate><description><![CDATA[为了学习Transformer，我开始投入一部分精力来学习神经网络。这篇文章会持续更新。主要讲述了神经网络的基础知识]]></description><category></category></item><item><title><![CDATA[大模型系列2--Transformer（WIP）]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/139815748</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/139815748</guid><author>lipeng08</author><pubDate>Mon, 29 Jul 2024 09:36:15 +0800</pubDate><description><![CDATA[输入 -> MultiHead Attention -> Residual + Layer Norm -> FC -> Residual + Layer Norm -> 上述网络重复N遍 -> 输出问题Residual的价值。]]></description><category></category></item><item><title><![CDATA[大模型系列5--卷积神经网络]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/140755922</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/140755922</guid><author>lipeng08</author><pubDate>Mon, 29 Jul 2024 09:33:59 +0800</pubDate><description><![CDATA[利用前述知识，可以很容易构建一个三层CNN，它包括两个卷积层和一个全连接层，每个卷积后面接Relu和MaxPooling，经典网络有2卷1pooling，和三卷1pooling的。conv1：第1层卷积conv2：第2层卷积out：全连接层特别要注意的是卷积的各个参数的设定in_channels：输入数据的第三维的大小out_channels：输出的特征图的个数kernel_size：卷积核第1和2维的大小stripe：卷积的滑动窗口步长。]]></description><category></category></item><item><title><![CDATA[大模型系列3--pytorch dataloader的原理]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/140420432</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/140420432</guid><author>lipeng08</author><pubDate>Sun, 14 Jul 2024 23:24:29 +0800</pubDate><description><![CDATA[pytorch dataloader代码分析]]></description><category></category></item><item><title><![CDATA[时光的记忆]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/121665632</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/121665632</guid><author>lipeng08</author><pubDate>Wed, 01 Dec 2021 22:01:39 +0800</pubDate><description><![CDATA[新的旅程
今天停下手头的工作，看到桌子上有一本村上春树的书—当我谈跑步时，我谈些什么。 只看了前面的十几页，看着他坚持几十年如一日的跑步，心有惭愧。 遥想当年，也是一番雄心壮志，立下了一堆堆的FLAG，然而很多想法却仅仅是想法，未能持之以恒的付之以行动，深以为憾。就如我的博客一样，未能形成很好的连续性，总是一段时间中断了，一段时间回头再看看，再继续写几篇。
我的一贯特性就是如果要做，那赶紧去做，把“万事开头难”先搞定再说。能坚持一天是一天，这一篇就先简单思考一下要做的工作，后面空闲的日子里，我希望自己可以做]]></description><category></category></item><item><title><![CDATA[权威会议列表]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/88935007</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/88935007</guid><author>lipeng08</author><pubDate>Sun, 31 Mar 2019 20:41:30 +0800</pubDate><description><![CDATA[权威会议
CS Conference TOP 40 计算机会议TOP40
一、A 类 15 个
ASPLOS: Architecture Support for Programming Languages and Operation 体系结构方面的顶尖会议 微处理器设计【硬件】
CCS: ACM Computer and Communications Security NDSS (Network ...]]></description><category></category></item><item><title><![CDATA[用GDB调试c/c++程序]]></title><link>https://blog.youkuaiyun.com/lipeng08/article/details/84752679</link><guid>https://blog.youkuaiyun.com/lipeng08/article/details/84752679</guid><author>lipeng08</author><pubDate>Mon, 03 Dec 2018 11:03:53 +0800</pubDate><description><![CDATA[本文系转载，我仅仅是完整的读了一遍，实际的根据流程对命令执行了一遍，并做了界面排版工作。我从地址luckywqf中看到，他也是转载的，因此也不太知道源地址是哪个了，在此感谢。
GDB概述
GDB是GNU开源组织发布的一个强大的UNIX下的程序调试工具。或许，各位比较喜欢那种图形界面方式的，像VC、BCB等IDE的调试，但如果你是在UNIX平台下做软件，你会发现GDB这个调试工具有比VC、BCB的图...]]></description><category></category></item></channel></rss>