<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[artistkeepmonkey的博客]]></title><description><![CDATA[玩乐中写程序]]></description><link>https://blog.youkuaiyun.com/artistkeepmonkey</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; artistkeepmonkey]]></copyright><item><title><![CDATA[llamafactory分布式训练案例操作步骤]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/157256814</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/157256814</guid><author>artistkeepmonkey</author><pubDate>Thu, 22 Jan 2026 16:35:04 +0800</pubDate><description><![CDATA[本案例使用llamafactory框架，全参微调了通义千问3-0.6B，主要目的是1 理解llamafactory框架的使用2 Alpaca指令微调数据集2 DDP分布式训练的基本原理，分布式训练启动方式3 学习使用VLLM如何部署大模型，生成HTTP接口本案例制作也利用了成熟大模型通义千问3我在一台机器上有两个GPU，能否创建2个容器，分别挂载2个显卡，然后模拟两个机器，测试多级多卡训练任务llamafactory框架，给我启动容器命令，训练命令给出我微调训练的两个命令。]]></description><category></category></item><item><title><![CDATA[辅助搜题系统-基于模糊搜索，上传word题库后，可搜索答案]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/151832639</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/151832639</guid><author>artistkeepmonkey</author><pubDate>Fri, 19 Sep 2025 13:47:02 +0800</pubDate><description><![CDATA[根据试卷解析doc文档，构建一个问答功能，输入问题后，能搜索定位到问题，输出答案。开发方式是先拆解整个过程为多个python方法，使用通义千问大模型写出代码。python-docx、rapidfuzz包后，python main.py。用通义千问代码模式写段代码，https://www.tongyi.com/提示词：python实现一个最简单的读取docx文档返回str的的函数。安装两个python依赖后，启动main.py即可。输入问题按回车键，控制台即可看到推荐的答案。]]></description><category></category></item><item><title><![CDATA[manus实现原理分析-以角色扮演游戏开发为例]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/146316828</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/146316828</guid><author>artistkeepmonkey</author><pubDate>Tue, 18 Mar 2025 10:10:59 +0800</pubDate><description><![CDATA[manus是一个能实现复杂规划、执行任务、得到结果的智能体，其行为类似于能操作电脑的普通人、程序员、数据分析师等。]]></description><category></category></item><item><title><![CDATA[deepseek免费api 调用指南]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/146042779</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/146042779</guid><author>artistkeepmonkey</author><pubDate>Wed, 05 Mar 2025 14:36:57 +0800</pubDate><description><![CDATA[发布于2024年12月，第三代模型，性能强劲。通过FP8混合精度训练、无辅助损失负载均衡等技术创新，V3实现了高效训练与推理，并支持128K长上下文处理。生成速度从V2的20 TPS提升至60 TPS，速度提升3倍。V3在知识问答、长文本处理、代码生成等领域表现超越其他开源模型，并在数学竞赛中超越闭源模型如GPT-4。该模型推出后，成为开放源代码模型中的领跑者。：专注于推理能力的模型，通过强化学习与多阶段训练流程深度优化。包括DeepSeek-R1-Zero，完全基于强化学习训练的早期版本；]]></description><category></category></item><item><title><![CDATA[使用openai sdk调用满足规范的大模型api]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/145990587</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/145990587</guid><author>artistkeepmonkey</author><pubDate>Mon, 03 Mar 2025 16:38:51 +0800</pubDate><description><![CDATA[OpenAI SDK 调用多种大模型服务接口.openai_base_client.py”, line 1059, in _request
raise self._make_status_error_from_response(err.response) from None
openai.NotFoundError: 404 page not found]]></description><category></category></item><item><title><![CDATA[GPT-4 它不仅仅是 ChatGPT 的升级版，更是人工智能的一次革命性突破！简单原理剖析]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/145778963</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/145778963</guid><author>artistkeepmonkey</author><pubDate>Fri, 21 Feb 2025 15:48:37 +0800</pubDate><description><![CDATA[GPT-4 不仅仅是 ChatGPT 的升级版，它更是一次质的飞跃！它不仅能理解文字，还能“看懂”图片，甚至可以根据图片内容进行推理和创作！想象一下，未来你可以随手拍下一张照片，GPT-4 就能为你写出一首诗、一个故事，甚至是一份专业的分析报告！这还不是全部！GPT-4 采用了更先进的专家混合（MoE）技术，在理解能力、生成质量和安全性方面都有了显著提升。它不仅在各种专业和学术测试中达到了人类水平，还大幅减少了生成式 AI 常见的“幻觉”问题，让输出结果更加可靠可信。]]></description><category></category></item><item><title><![CDATA[大模型搜索引擎增强问答demo-纯python实现]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/144968960</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/144968960</guid><author>artistkeepmonkey</author><pubDate>Mon, 06 Jan 2025 17:53:08 +0800</pubDate><description><![CDATA[搜索引擎获取到相关链接url后，需要这个url包含的正文内容，由于链接一般有十多个，所以采用多线程的方式同步下载所有url的HTML内容。需要实现的代码内容有，必应搜索爬虫程序，重排序，通义千问api调用，搜索引擎工具封装，langchain ZeroShotAgent调用。大模型搜索引擎增强问答定义：根据问题搜索得到相关内容，拼接prompt=问题+搜索结果，将这个prompt传入大模型，得到最终的结果。]]></description><category></category></item><item><title><![CDATA[大模型语音合成服务前后端代码示例，流式语音播放demo，基于Cosyvoice项目]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/144452100</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/144452100</guid><author>artistkeepmonkey</author><pubDate>Fri, 13 Dec 2024 15:42:29 +0800</pubDate><description><![CDATA[语音合成CosyVoice大模型服务是依托大规模预训练语言模型，深度融合文本理解和语音生成的一项新型语音合成技术，能够精准解析并诠释各类文本内容，将其转化为宛如真人般的自然语音。魔搭社区本博文主要贡献是提供了一个基于fastapi的后端代码、一个HTML单页面前端代码，实现了一个简洁实用的流式播放示例，这是项目原始代码没有的。]]></description><category></category></item><item><title><![CDATA[windows下解决端口被占用，但是找不到占用端口的应用程序；以一种访问权限不允许的方式做了一个访问套接字的尝试；搜索可用端口]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/143327500</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/143327500</guid><author>artistkeepmonkey</author><pubDate>Tue, 29 Oct 2024 14:05:30 +0800</pubDate><description><![CDATA[网络通信中进程需要被分配一个号码，和IP组合起来，实现网络间通信时对应用的定位。例如Mysql常用3306端口，HTTP协议常用80端口。如果一个进程已经分配了一个端口，例如给Mysql分配了3306，启动了Mysql服务，那么第二个进程再次使用3306端口就会报错：“找不到占用端口的应用程序，以一种访问权限不允许的方式做了一个访问套接字的尝试”]]></description><category></category></item><item><title><![CDATA[基于ReAct提示词框架的大语言模型Agent原理]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/142105154</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/142105154</guid><author>artistkeepmonkey</author><pubDate>Tue, 10 Sep 2024 17:50:26 +0800</pubDate><description><![CDATA[论文出自 ReAct: Synergizing Reasoning and Acting in Language Modelsreason：推理act： 行动先看reason和act都是哪种模式思维链技术（Chain of Thought）是一种用于提高大型语言模型（如GPT）解决问题能力的技巧。这种技术的核心思想是将复杂的问题分解成一系列更简单的步骤，然后逐步解决这些步骤，最终达到解决问题的目的。根本上来讲，思维链仍然是仅仅依靠大模型的回答。]]></description><category></category></item><item><title><![CDATA[sublime text设置打开文件重启一个新的窗口]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/140044924</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/140044924</guid><author>artistkeepmonkey</author><pubDate>Fri, 28 Jun 2024 15:35:58 +0800</pubDate><description><![CDATA[打开文件后，用的是同一个窗口的子tab页面想要打开一个新的窗口。]]></description><category></category></item><item><title><![CDATA[大模型押题高考语文作文，带着大模型参加语文高考会怎么样？]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/139511187</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/139511187</guid><author>artistkeepmonkey</author><pubDate>Thu, 06 Jun 2024 22:30:44 +0800</pubDate><description><![CDATA[大语言模型通常是指那些经过大量数据训练，能够理解和生成自然语言文本的人工智能系统。这些模型通常具有数百万到数十亿个参数，能够执行多种语言任务，例如语言翻译、文本摘要、问答系统、文本生成等。大语言模型能够捕捉语言的复杂性和细微差别，提供更加准确和自然的交互体验。当然，带着这个去考试肯定是违反考场纪律的，目前来说是绝对不允许的。在5年10年后也许就不一定了。]]></description><category></category></item><item><title><![CDATA[GPT-4o的多模态能力、实时交互能力展示]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/139009445</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/139009445</guid><author>artistkeepmonkey</author><pubDate>Fri, 17 May 2024 21:11:50 +0800</pubDate><description><![CDATA[GPT-4o（“o”代表“omni”）是迈向更自然的人机交互的一大步——它接受文本、音频、图像和视频的任意组合作为输入，并生成文本、音频和图像的任意组合作为输出]]></description><category></category></item><item><title><![CDATA[windows下使用命令uvicorn启动fastapi程序有乱码，方框形状奇怪字符]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/138074732</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/138074732</guid><author>artistkeepmonkey</author><pubDate>Mon, 22 Apr 2024 14:30:39 +0800</pubDate><description><![CDATA[执行命令uvicorn main:app --reload后出现的问题如图所示这个问题非常容易解决！原因是windows控制台 默认未开启 ANSI颜色的支持那么我们只需要开启就可以了。]]></description><category></category></item><item><title><![CDATA[大模型应用开发-虚拟人-AI刘能、AI李宏伟]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/136745910</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/136745910</guid><author>artistkeepmonkey</author><pubDate>Fri, 15 Mar 2024 17:33:19 +0800</pubDate><description><![CDATA[本案例通过python编程调用智谱的大模型接口，以及很简单的prompt设计，实现了用大语言模型模拟一个人物来和我们对话，前端HTML代码是用大语言模型生成的（原因：我根本不会写前端啊~~），本教程适合所有对大模型应用开发感兴趣的初学者，这是个非常有趣的案例。读完本教程你将收获：1 只需要一段角色描述、一个角色头像，制作一个你最喜欢的角色！（把好玩的打在评论区）2 一套可轻松部署的源代码及关键技术点讲解（真的很简单！3 对大模型的信心以及兴趣。]]></description><category></category></item><item><title><![CDATA[谷歌gemma2b windows本地cpu gpu部署，pytorch框架，模型文件百度网盘下载]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/136261407</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/136261407</guid><author>artistkeepmonkey</author><pubDate>Fri, 23 Feb 2024 23:22:50 +0800</pubDate><description><![CDATA[Windows操作系统

大于10GB的内存

本教程使用pytorch框架运行gemma]]></description><category></category></item><item><title><![CDATA[通用基础模型+提示词是否能胜过微调模型？医学案例研究]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/134891325</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/134891325</guid><author>artistkeepmonkey</author><pubDate>Sat, 09 Dec 2023 10:50:16 +0800</pubDate><description><![CDATA[通用基础模型，如GPT-4，在各种领域和任务中展现出令人惊讶的能力。然而，普遍存在这样一种假设，即它们在没有专业知识深度训练的情况下无法达到专业能力。例如，迄今为止对医学竞赛基准的大多数探索都利用了领域特定的训练，正如在BioGPT和Med-PaLM等项目上所示。我们基于先前对GPT-4在医学挑战基准上的专业能力的研究，而无需特殊培训。与故意使用简单提示突显模型开箱即用的能力不同，我们进行了对提示工程的系统探索以提高性能。]]></description><category></category></item><item><title><![CDATA[chatGPT底层原理是什么，为什么chatGPT效果这么好？三万字长文深度剖析-下]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/134308837</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/134308837</guid><author>artistkeepmonkey</author><pubDate>Thu, 09 Nov 2023 12:43:30 +0800</pubDate><description><![CDATA[本文从chatGPT一次生成一个词开始分析了其基本工作原理，在预测下一个词的概率时需要实用神经网络，作者介绍了网络、训练等概念。chatGPT能够工作的这么好，里面的原理、原因是什么？作者从语言学角度进行了一些探讨。总的来说，本文能够让我们了解chatGPT相关的细节，能够启发思考！]]></description><category></category></item><item><title><![CDATA[chatGPT底层原理是什么，为什么chatGPT效果这么好？三万字长文深度剖析-中]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/134308831</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/134308831</guid><author>artistkeepmonkey</author><pubDate>Thu, 09 Nov 2023 12:43:18 +0800</pubDate><description><![CDATA[嗯，它应该是一组5000个左右的数字，给出了每个可能的“填充”单词的概率。现在考虑对这些权重进行微分，将输入数据看为定值，将权重看为变量，损失函数对每个变量可以计算出来一个偏导数，所有偏导数构成了一个向量，也就是梯度，梯度向量的相反方向就是最陡路径的方向，早在1684年莱布尼兹就发明微积分，这个数学原理都是非常经典的。正是这些工具的使用——无论是实用的还是概念性的——使我们在最近的几个世纪里超越了“纯粹的、未经训练的人类思想”所能达到的界限，为了人类的目的而捕捉到物理和计算宇宙中更多的东西。]]></description><category></category></item><item><title><![CDATA[chatGPT底层原理是什么，为什么chatGPT效果这么好？三万字长文深度剖析-上]]></title><link>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/134308804</link><guid>https://blog.youkuaiyun.com/artistkeepmonkey/article/details/134308804</guid><author>artistkeepmonkey</author><pubDate>Thu, 09 Nov 2023 12:43:04 +0800</pubDate><description><![CDATA[ChatGPT能自动生成句子，看起来非常像人类创作的一样，这非常了不起，也是出乎意料的！但它是怎么做到的呢？为什么会成功呢？本文目的就是概述ChatGPT内部的运行机制——然后再探讨一下为什么它在生成有价值的文本方面表现得如此出色。首先，我要说明的是，本文侧重于整体上的理解——虽然会提到一些工程及理论，但更多的细节还需要大家之后深入研究。]]></description><category></category></item></channel></rss>