<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[stinkypudding的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/stinkypudding</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; stinkypudding]]></copyright><item><title><![CDATA[书生大模型实战营第四期L2G6000（MindSearch 快速部署）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/144295007</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/144295007</guid><author>stinkypudding</author><pubDate>Fri, 06 Dec 2024 18:47:57 +0800</pubDate><description><![CDATA[使用github codespace进行配置。选择空模板。获取硅基流动API。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L2G2000（Lagent 自定义你的 Agent 智能体）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/144088268</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/144088268</guid><author>stinkypudding</author><pubDate>Wed, 27 Nov 2024 17:25:28 +0800</pubDate><description><![CDATA[Agent是一种能够自主感知环境并根据感知结果采取行动的实体，以感知序列为输入，以动作作为输出的函数。它可以以软件形式（如聊天机器人、推荐系统）存在，也可以是物理形态的机器（如自动驾驶汽车、机器人）。自主性：能够在没有外部干预的情况下做出决策。交互性：能够与环境交换信息。适应性：根据环境变化调整自身行为。目的性：所有行为都以实现特定目标为导向。Lagent 是一个轻量级开源智能体框架，旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L2G3000（LMDeploy 量化部署进阶实践）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143911073</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143911073</guid><author>stinkypudding</author><pubDate>Thu, 21 Nov 2024 17:14:17 +0800</pubDate><description><![CDATA[1、首先根据要求选择镜像和硬件配置，创建开发机。显存估算：我们要运行参数量为7B的InternLM2.5，由查询InternLM2.5-7b-chat的config.json文件可知，bfloat16所以我们需要大于14GB的显存，选择(24GB显存容量)，后选择，等状态栏变成运行中，点击，我们即可开始部署。2、然后创建conda环境，安装相关包。3、验证模型文件是否可用。运行命令，启动CLI对话界面此时资源占用情况如下：如果选择。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L2G4000（InternVL 多模态模型部署微调实践）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143716171</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143716171</guid><author>stinkypudding</author><pubDate>Tue, 12 Nov 2024 20:43:19 +0800</pubDate><description><![CDATA[MLP。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L1G6000（OpenCompass 评测书生大模型实践）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143675846</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143675846</guid><author>stinkypudding</author><pubDate>Mon, 11 Nov 2024 13:39:10 +0800</pubDate><description><![CDATA[基座模型和指令微调后的对话模型评测的数据集构造不同。仅开放API的模型和公开权重的模型评测方法也不一样。评测集的构建也可分为主观题和客观题，客观题有有限个正确答案，主观题则通过人工或能力更强的大模型的评分来评判性能。处理长文本的能力也是一项重要指标。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L1G5000（XTuner 微调个人小助手认知）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143658546</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143658546</guid><author>stinkypudding</author><pubDate>Sun, 10 Nov 2024 17:41:10 +0800</pubDate><description><![CDATA[微调的作用是让预训练的大模型能够适应下游任务。这里仅作简单介绍，相关的算法如SFT, DPO等不是本文重点。本文在做微调的时候主要用的是LoRA以及QLoRA，这一系列算法基于一个观察：模型全参数可以用一个低秩的矩阵替换，好处是使用的资源显著减少。LoRAQLoRAXTuner 文档链接：XTuner-doc-cn首先使用 conda 先构建一个 Python-3.10 的虚拟环境。然后安装 XTuner。为了验证 XTuner 是否安装正确，我们将使用命令打印配置文件。安装成功！创建一个新的文件夹用于存储]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L1G4000（InternLM + LlamaIndex RAG 实践）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143641481</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143641481</guid><author>stinkypudding</author><pubDate>Sat, 09 Nov 2024 14:32:25 +0800</pubDate><description><![CDATA[检索原理：向量数据库。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L1G2000（玩转书生「多模态对话」与「AI搜索」产品）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143623815</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143623815</guid><author>stinkypudding</author><pubDate>Fri, 08 Nov 2024 15:34:36 +0800</pubDate><description><![CDATA[本次体验了书生产品矩阵种的三种产品，分别是书生浦语大模型、MindSearch和书生万象。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L1G1000（书生大模型全链路开源体系）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143482074</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143482074</guid><author>stinkypudding</author><pubDate>Mon, 04 Nov 2024 13:17:14 +0800</pubDate><description><![CDATA[书生浦语大模型开源体系涵盖了从数据到训练，从科研到应用，从开发到部署的方方面面，并仍将不断更新，以高质量的开源赋能创新。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L1G3000（浦语提示词工程实践）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143396911</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143396911</guid><author>stinkypudding</author><pubDate>Thu, 31 Oct 2024 22:15:26 +0800</pubDate><description><![CDATA[进一步介绍公司和提议]。- Profile: 你是一位资深的公文写作专家，拥有丰富的公文撰写经验，熟悉各类公文的格式和规范，能够根据不同场合和目的撰写恰当的公文。- Profile: 你是一位经验丰富的商务沟通专家，擅长撰写清晰、专业的电子邮件，能够根据不同的商业场景和对象调整邮件风格和内容。- Skills: 你具备深厚的语言文字功底，能够准确把握公文的语气和风格，同时精通公文的结构布局和逻辑组织。- Background: 用户需要撰写正式的公文，这要求具备严谨的格式、清晰的逻辑和恰当的官方语言。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L0G4000（玩转HF/魔搭/魔乐社区）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143361864</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143361864</guid><author>stinkypudding</author><pubDate>Wed, 30 Oct 2024 14:33:49 +0800</pubDate><description><![CDATA[闯关任务是模型下载，模型上传和Space上传。我全程使用的是Hugging Face。]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L0G2000（Python 基础知识）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143349779</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143349779</guid><author>stinkypudding</author><pubDate>Tue, 29 Oct 2024 21:52:09 +0800</pubDate><description><![CDATA[共两个必做任务分别是“Leetcode 383”和“Vscode连接InternStudio debug笔记”]]></description><category></category></item><item><title><![CDATA[书生大模型实战营第四期L0G1000（Linux 基础知识）]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/143335135</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/143335135</guid><author>stinkypudding</author><pubDate>Tue, 29 Oct 2024 16:56:52 +0800</pubDate><description><![CDATA[任务是完成SSH连接与端口映射并运行。]]></description><category></category></item><item><title><![CDATA[使用Intel oneAPI加速CNN训练]]></title><link>https://blog.youkuaiyun.com/stinkypudding/article/details/131196607</link><guid>https://blog.youkuaiyun.com/stinkypudding/article/details/131196607</guid><author>stinkypudding</author><pubDate>Tue, 13 Jun 2023 22:34:36 +0800</pubDate><description><![CDATA[英特尔® Developer Cloud for the Edge 概述 (intel.cn)这是一个为边缘计算开发者提供的云平台，它提供了一系列工具、资源和服务，帮助开发者在边缘设备上开发、测试和部署应用程序。它可以提供计算能力、存储资源、边缘机器学习支持等，使开发者能够更方便地构建和部署适用于边缘环境的应用。本文展现了使用Intel oneAPI加速CNN训练的实验过程和结果。通过实验，我体会到了oneAPI对AI模型的强大加速能力。]]></description><category></category></item></channel></rss>