苏sum-优快云博客

原创山东大学项目实训-灵思考评

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。"我是一名NLP研究者，需要了解如何优化GPT-3的微调参数，请提供具体超参数范围和实验设计建议。具体化需求：避免模糊问题，明确你想要的答案类型（如解释、代码、列表、分析等）。√ 清晰："列举深度学习中常用的三种神经网络结构，并简要说明其应用场景。"用表格对比BERT、GPT和T5的模型结构、预训练目标和适用任务。"用100字以内总结注意力机制的原理。× 模糊："告诉我关于AI的事情。

2025-05-26 18:03:09 191

原创山东大学项目实训-灵思考评-

无需重新训练模型，仅需更新检索库即可适应新信息（如新闻、科研进展）。用户可追溯生成答案的参考来源（如链接或文档片段），增强信任。通过检索实时数据，避免依赖模型记忆的过时或错误信息。

2025-05-19 11:04:57 108

原创山东大学项目实训-灵思考评-

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。原文链接：https://blog.youkuaiyun.com/weixiangqingyun/article/details/147441988。使用向量数据库（如FAISS）或传统搜索引擎，将用户查询与外部知识库（如维基百科、企业文档）匹配，返回相关片段。基于预训练语言模型（如GPT、T5），将检索到的内容与用户输入结合，生成连贯、准确的回答。vs 纯生成模型（如GPT）：RAG减少幻觉，支持动态更新知识库。

2025-05-13 11:20:16 186

原创山东大学项目实训-灵思考评-

Meta（Facebook）团队在论文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中首次提出RAG框架，结合检索（Retrieval）与生成（Generation），解决纯生成模型的局限性。预训练语言模型（2018-2020）：GPT-2/3、BERT等模型展现强大文本生成能力，但存在“幻觉”（生成错误事实）问题。结合稠密检索（Dense Retrieval）、多模态数据（如图文检索）等改进。RAG的提出（2020）

2025-05-07 14:30:53 201

原创山东大学项目实训-灵思考评-返回结果优化

在得到大模型返回的结果后，因为其可能包含冗余、不准确或结构混乱的内容，要对其进行初步的清洗，整理。先按照段落分割，lines = text.split("\n")取消无意义的空格，line = line.strip()其他的题目类型也类似如上述处理。

2025-04-23 10:20:16 160

原创山东大学项目实训-灵思考评-RAG技术

一、RAG技术的历史发展早期信息检索（20世纪）传统搜索引擎（如Google）依赖关键词匹配和链接分析（PageRank），但无法理解语义或生成答案。问答系统（如IBM Watson）结合了规则和统计方法，但灵活性不足。神经语言模型的崛起（2010s）Transformer架构（2017）：Google提出Transformer，为生成式模型（如GPT）奠定基础。预训练语言模型（2018-2020）：GPT-2/3、BERT等模型展现强大文本生成能力，但存在“幻觉”（生成错误事实）问题。

2025-04-23 10:00:44 268

原创山东大学项目实训-灵思考评-prompt优化

content = "QQQ：\n输入：[{'时间': '西周', '人物': '', '思想': '西周社会结构特点通过垄断神权强化王权', '关系': '(《左传•昭公七年》,反映, 西周社会结构)'}]\n任务定义：请以输入为中心，根据参考资料和相关历史知识设计1道包含四个选项的单选题，并给出答案。\nA. 通过垄断神权强化王权\nB. 嫡长子拥有继承特权\nC. 严格的等级关系\nD. 血缘纽带和政治关系紧密结合\n答案：C\n\nQQQ：\n输入："："告诉我关于AI的事情。

2025-04-22 22:38:25 322

原创山东大学项目实训-灵思考评-大模型本地部署与api调用

显存：使用nvidia - smi命令查看，前提是系统已经安装了 NVIDIA System Management Interface（NVIDIA-SMI）工具。打开终端输入该命令后，在弹出的结果中查找 “FB Memory Usage” 部分，其中 “Total” 列显示的就是显存总大小。内存：输入命令free -h 查看输出信息中的 “Mem” 行对应的 “Total” 字段就是总内存大小。根据如下图片，选择对应类型的deepseek模型安装。检验是否安装成功：如果显示版本号则安装成功。

2025-04-12 18:59:52 167

原创 screen 使用总结--常用命令

如下图所示：，尤其注意 sessionID是类如1088861.test4的一个这整体，数字是分配的进程号，test4是你命名的screen的名字，当使用名字无法定位到你的screen时，可以尝试使用sessionID。也可以选择使用快捷键，先同时按住Ctrl加A，再松开按D，不要求大小写。重新连接一个screen r retach(重新连接）删除一个screen x excute(执行）

2025-02-27 21:12:52 506

原创部署deepseek到本地服务器成功案例

内存：输入命令free -h 查看输出信息中的 “Mem” 行对应的 “Total” 字段就是总内存大小。显存：使用命令查看，前提是系统已经安装了 NVIDIA System Management Interface（NVIDIA-SMI）工具。打开终端输入该命令后，在弹出的结果中查找 “FB Memory Usage” 部分，其中 “Total” 列显示的就是显存总大小。

2025-02-11 13:38:57 627