- 博客(195)
- 资源 (3)
- 收藏
- 关注
原创 【元宝搜索开发者征文大赛】用腾讯元宝搜索打造 AI 新搜索,四大场景 (竞品情报・资讯聚合・知识问答・数据核查)
本文基于腾讯元宝搜索API,用Java、Python、Go、Node.js四语言实现四大真实场景原型:竞品情报分析、资讯聚合、知识问答与数据核查。项目均通过端到端验证,提供可运行源码与真实截图。核心亮点为统一接入方式、智能参数吸附、高精度结果字段(含相关度与权威分),显著降低搜索开发门槛,助力AI应用高效落地。
2026-10-24 06:00:00
1420
1
原创 大模型研发重难点全栈手册:第 15 章 推理量化:GPTQ / AWQ / SmoothQuant 选型
本章聚焦推理侧后训练量化(PTQ),针对大模型显存与吞吐瓶颈,剖析离群值导致的量化误差问题。对比GPTQ(Hessian补偿)、AWQ(激活感知缩放)、SmoothQuant(难度迁移)与FP8(硬件原生支持)四类方案,从公式、误差分析到粒度选择,系统构建量化选型框架。结合Roofline模型与实测数据,提出基于硬件、精度与延迟的决策树,实现显存压缩与推理效率的最优平衡。
2026-10-24 05:22:31
299
原创 大模型研发重难点全栈手册:第 14 章 KV Cache 与 PagedAttention:vLLM 为什么快
本文深入解析vLLM高效推理的核心——KV Cache优化。针对传统框架中KV Cache导致的60-80%显存浪费问题,vLLM通过PagedAttention(借鉴虚拟内存分页管理)、Continuous Batching(消除队头阻塞)与Prefix Caching(复用共享前缀)三件套,将显存利用率提升至95%以上,吞吐量最高提升24倍。文章系统推导了MHA/GQA/MQA下KV Cache显存公式,揭示其随序列长度线性增长的瓶颈,并结合Roofline模型说明算力瓶颈根源。最终以工程实践为落点,为
2026-10-12 15:42:25
236
原创 大模型研发重难点全栈手册:第 13 章 对齐税(Alignment Tax):对齐为什么会掉能力、怎么量化、怎么补
摘要(148字): 对齐税是模型在安全对齐过程中不可避免的能力损失,表现为过度拒绝、回答模板化、知识遗忘及代码/数学能力下降。它源于多目标优化的内在冲突,非缺陷而是代价。本文系统量化五类症状,提出基于FRR、长度漂移、基准差值等指标的评估框架,并强调应在帕累托前沿平衡对齐强度与能力保留,避免“越对齐越弱”。配套工具支持综合评分与回归分析,助力工程实现可持续对齐。
2026-10-12 15:10:01
247
原创 大模型研发重难点全栈手册:第 12 章 对齐进阶:RLHF(PPO) → DPO → GRPO(完整版·可工程化)
这个顺序比一上来就 PPO 更稳、更省。
2026-10-12 13:49:57
538
原创 大模型研发重难点全栈手册:第 11 章 LoRA / QLoRA:低秩适配的原理与边界(完整版・可工程化)
本章系统解析LoRA/QLoRA低秩微调原理与边界。针对全参微调显存爆炸(7B模型需104GB)、存储成本高、任务切换难等痛点,提出核心假设:权重更新ΔW具低内在秩。通过奇异值分解实证,99.9%能量可由r=4承载,验证低秩有效性。LoRA将可训练参数降至0.3%~2%,QLoRA结合4bit量化,实现65B模型单卡微调。但低秩为假设,谱衰减慢时会欠拟合,需结合ΔW奇异谱预估最优秩。配套脚本支持参数量、显存、量化误差等精准计算,兼具理论深度与工程可复现性。
2026-09-24 14:00:50
579
原创 大模型研发重难点全栈手册:第 10 章 SFT:监督微调的数据与训练(完整版・可工程化)
本章系统阐述监督微调(SFT)的核心逻辑:其本质是通过高质量对话数据将模型从“任意续写”收窄为“指令遵循”,而非注入新知识。基于LIMA等实证研究,仅需1000–5万条优质数据即可实现显著行为对齐,关键瓶颈在于数据质量与格式一致性。SFT专治输出格式、对话逻辑等问题,不解决知识缺失或能力不足。文中配套可运行脚本涵盖数据处理、训练监控与性能评估全流程,强调工程化落地。
2026-09-23 18:40:02
154
原创 大模型研发重难点全栈手册:第 9 章 工程基建:通信、容错、存储、Profiling 与框架(完整版・可工程化)
本文系统阐述大模型训练工程基建的核心要素,涵盖通信(NCCL、NVLink、InfiniBand)、容错(MTBF、Daly公式、checkpoint策略)、存储(分片写、并行文件系统)、Profiling(nsys/PyTorch Profiler)与框架调度(Megatron/DeepSpeed)。强调规模放大下“小概率事件”必然发生,需以拓扑感知、弹性恢复与可观测性应对。通过可运行脚本实现关键参数自检,助力从8卡跑通迈向万卡稳定训练,是预训练工程化的收官之章。
2026-09-23 15:23:51
400
原创 大模型研发重难点全栈手册:第 8 章 长上下文:位置外推、序列并行与 “中间遗忘“(完整版・可工程化)
本文系统解析长上下文处理的三大挑战:算力/显存墙、位置外推墙与中间遗忘墙。重点剖析RoPE位置编码的数学本质及其外推瓶颈,对比PI、NTK-aware、YaRN等外推方法的原理与适用场景,结合可运行脚本实现参数计算与性能评估,揭示“标称窗口≠有效上下文”的关键认知,并提供工程化解决方案(如KV cache优化、序列并行、StreamingLLM淘汰策略),助力模型突破长文本理解极限。
2026-09-23 14:42:08
361
原创 大模型研发重难点全栈手册:第 7 章 MoE 与专家并行(EP):用稀疏激活解耦参数规模与算力(完整版・可工程化)
本文系统阐述MoE(混合专家)与专家并行(EP)的核心思想:通过将FFN替换为多个专家,并由路由网络动态选择top-k专家,实现参数规模与算力的解耦。文章详解路由机制、负载均衡损失、容量因子与令牌丢弃策略,揭示路由坍缩成因及应对方法,结合真实模型数据(如Mixtral、DeepSeek-V2)验证其高效性。配套脚本支持完整功能自检,涵盖top-k路由、负载均衡、通信量计算等工程关键点,为可工程化部署提供坚实基础。
2026-09-23 14:26:19
461
原创 大模型研发重难点全栈手册:第 6 章 优化器、初始化、学习率调度与收敛诊断(完整版・可工程化)
本章系统阐述大模型预训练中的优化器选型、初始化与学习率调度核心机制。基于工业实践,明确推荐使用解耦权重衰减的AdamW(β₁=0.9, β₂=0.95, wd=0.1),并强调优化器状态必须保持fp32以保障数值稳定性。通过参数分组避免norm/bias衰减,结合ZeRO实现高效分布式训练。学习率调度采用warmup+cosine或更灵活的WSD策略,有效抑制早期loss spike,提升收敛性。配套脚本实现最小化AdamW与调度器,支持梯度裁剪、收敛诊断与update-to-weight ratio等指标
2026-09-17 18:45:55
367
原创 大模型研发重难点全栈手册:第 5 章 数据工程:比模型结构更决定成败的一环(完整版·可工程化)
本文系统阐述数据工程在大模型训练中的核心地位,指出“数据量 = 20×参数量”为计算最优配比,强调数据质量远超模型结构调优。文章构建端到端流水线,涵盖抽取解码、去重(精确+MinHash+LSH)、质量过滤(规则+PPL+分类器)、脱敏、分词与定长打包等九步,详解每步难点与工业级解决方案,并配套可运行脚本实现最小闭环。重点揭示去重顺序、阈值设定、粒度选择等关键权衡,强调数据问题将引发训练不稳、能力偏差与评测失真,最终论证:数据工程是决定模型上限的一等公民。
2026-09-16 17:03:17
236
原创 大模型研发重难点全栈手册:第 4 章 吞吐优化:Roofline、FlashAttention、SP 与重计算(完整版)
本章聚焦训练吞吐优化,以MFU为核心指标,通过Roofline模型识别算子瓶颈:大GEMM为算力受限,Attention等小算子为访存受限。针对标准Attention因N×N矩阵频繁进出HBM导致的性能瓶颈,提出FlashAttention v1方案——利用SRAM分块计算,结合online-softmax实现增量归约,避免全量S/P存储,显著降低访存开销。配合算子融合与重计算策略,可将MFU从30%提升至50%+,实现硬件高效喂满。
2026-09-16 16:50:02
320
原创 大模型研发重难点全栈手册:第 3 章 3D 并行:显存与通信逐项算账(完整版)
本文系统解析大模型训练中的3D并行机制,从显存与通信双维度算账:模型状态(16字节/参数)与激活内存构成显存瓶颈,驱动必须采用数据(DP)、张量(TP)、流水线(PP)并行。通过统一视角揭示五类并行的切分逻辑与代价,重点推导Ring-AllReduce通信量为2(N−1)/N·M,论证其可扩展性;详解TP中列+行配对切法如何将每层通信降至4次,并强调梯度归约精度与全局一致性的重要性。配套脚本支持全链路验证,实现手算每卡显存、通信量与MFU,为高效分布式训练提供量化决策依据。
2026-09-14 15:54:07
148
原创 大模型研发重难点全栈手册:第 2 章 浮点精度战争:FP32/BF16/FP16/FP8 混合精度的数值安全边界(完整版)
本文系统解析大模型训练中混合精度浮点格式的数值安全边界,从FP32到FP8(E4M3/E5M2)逐项拆解其指数位、尾数位与动态范围,揭示为何BF16成为主流——保范围、舍精度,避免上溢下溢;对比FP16范围窄、需损失缩放,而FP8通过前向用高精度E4M3、反向用大范围E5M2实现分工协作。结合手算例证,阐明“在能省显存、提速、用硬件加速的地方用低精度,在敏感处保留高精度”的核心原则,为混合精度训练提供可复现的数值安全依据。
2026-09-14 15:07:33
325
原创 大模型研发重难点全栈手册:第 1 章 大模型预训练稳定性:Loss Spike 全链路复盘(完整版)
本文复盘大模型预训练中致命的Loss Spike问题,揭示其四大根因:梯度连乘爆炸、AdamW滞后响应、Attention logits失稳及softmax能量盲区。通过真实事故时间线,提出“预防—在线兜底—检查点恢复”三层防御体系,强调发散后唯一可靠操作是回滚checkpoint。核心结论:梯度裁剪非万能解,β2取0.95更抗突发尖峰,QK-RMSNorm必须置于内积前,且需严格对齐头维度。
2026-09-14 14:43:35
296
原创 大模型研发重难点全栈手册:第 0 章 导览:从预训练、混合精度、3D 并行、吞吐优化,到对齐微调、推理部署、RAG/Agent 与评测(最全完整版)
本文为大模型研发全链路重难点手册,系统梳理预训练、对齐、推理、应用与评测五大模块。聚焦训练稳定性(如梯度爆炸、Loss Spike)、混合精度数值安全(FP32/BF16/FP8)、3D并行与吞吐优化等核心问题,提出“原理→解法→权衡→踩坑”四层框架,配套脚本支持复现与验证。强调QK-RMSNorm、z-loss、全局梯度裁剪等工业级实践,倡导双层Checkpoint与五件套回滚机制,助力研发工程师突破大模型训练瓶颈。
2026-09-14 14:12:21
1071
原创 大模型 Prompt 工程技巧总结(生产级实践指南)
本文为生产级大模型 Prompt 工程实践指南,强调从“写指令”到“工程化运营”的完整能力栈建设。核心要点包括:以清晰、结构化指令为基础,运用分隔符与角色设定提升可读性与稳定性;通过六维具体化消除歧义;优先采用结构化输出与格式约束对冲概率性;合理使用 Few-shot 示例补足隐性标准,避免偏置;坚持“明确意图、确定性约束、量化评测”三大原则。全文提供可复用的骨架模板、模式库与上线清单,助力团队实现可靠、可测、可维护的 Prompt 系统化落地。
2026-09-11 14:38:55
311
原创 从零搭建 AI 聊天网页:多厂商适配、上下文记忆与跨会话对话
本文手把手实现一个可本地运行的AI聊天网页,基于Node.js后端统一对接多厂商大模型API,支持多厂商一键切换、上下文记忆与跨会话历史恢复。前端仅负责界面交互,密钥不暴露;后端通过配置表适配OpenAI兼容协议,以sessionId持久化会话,实现消息上下文拼装与历史恢复。项目约300行代码,20分钟快速搭建,适合开发者扩展至生产环境。
2026-09-11 13:48:49
228
原创 Agentic RAG 3.0:下一代检索增强生成架构
Agentic RAG 3.0 代表了检索增强生成的最新演进方向。它的核心不是"更准的检索算法",而是"更智能的检索决策"——把检索从预处理步骤重构为受策略驱动的、可迭代、可验证、可终止的行动循环。从"构建检索流水线"到"构建检索 Agent":固定步骤 → 动态决策;从"追求检索准确率"到"追求端到端任务完成率":检索只是手段,正确完成任务才是目的;从"单一检索方式"到"多工具混合编排":向量、关键词、图谱、多模态各有所长,按需路由;从"静态结果评估"到"动态轨迹评估"
2026-08-28 16:50:27
520
原创 2026全球大模型终极横评:国产四强霸榜开源,马斯克万亿Grok杀到,Llama竟被禁欧盟、海外头部动态与工程选型参考
代表模型:Mistral Large 3 / Small 4 / Ministral维度总参数/激活Dense上下文256KMistral是把MoE架构引入开源社区的先驱(Mixtral 8x7B)[“https://blog.youkuaiyun.com/qq_21886255/article/details/163823561”]。Large 3有675B总参数/41B激活,Small 4是119B/6B,还有Ministral系列做边缘端。Mistral的核心优势是欧盟合规。
2026-08-28 15:14:43
798
原创 为什么你的 RAG 总答非所问?一文讲透 Embedding、向量检索与 Rerank,打造高质量 AI 知识库
本文面向后端工程师、算法工程师与 AI 应用开发者,系统拆解 RAG 知识库中 Embedding、向量检索与 Rerank 的协作机制。文章从“关键词搜得到、结果却不对”的典型问题出发,讲清 Embedding 如何把文本映射成语义向量、如何计算相似度,以及为什么它不等于知识库或推理;随后深入文档切分、向量库治理与版本记录等高价值工程细节。核心结论是:Embedding 负责“广泛而快速地找”,Reranker 负责“仔细而准确地排”,两者必须结合,并配合混合检索、结构化过滤与权限控制。文中还提供本地与云
2026-08-26 18:21:21
468
原创 C++ 手写 AI 编程 Agent(12):性能优化、安全防护与 FAQ 总结
适用标准:C++17 |难度:中高级 |阅读时间:约 20 分钟本文是「C++ 手写 AI 编程 Agent」12篇系列的第12篇(完结篇),性能调优、安全加固与系列总结。按照结构创建一个新工具,实现 handler 函数,然后调用即可。文件读写能力:读取、创建、精确编辑源代码文件编译自检能力:自动编译并根据错误自我修复Shell 执行能力:运行测试、Git 操作等辅助任务自主思考循环:基于 ReAct 范式的多轮推理与行动安全防护机制。
2026-08-26 16:36:36
354
1
原创 C++ 手写 AI 编程 Agent(11):Reflexion 与 Tree-of-Thought 等高级模式
本文聚焦 C++ 手写 AI 编程 Agent 的进阶能力,先梳理多 Agent 协作、记忆系统、规划增强、Human-in-the-loop、评估测试与 MCP 协议对接等工程化方向,再深入实现五种高级 Agent 模式——Reflexion 反思重试、Tree-of-Thought 树搜索、Self-Correction 自修正循环、Multi-Agent Debate 多智能体辩论,以及 Human-in-the-Loop 交互设计,并逐一给出可运行的 C++17 代码与设计原则。
2026-08-26 16:09:13
240
原创 C++ 手写 AI 编程 Agent(10):主程序整合与端到端实战演示
C++ AI编程助手实战演示 本文整合了文件操作、编译工具和Shell工具,构建了一个完整的C++ AI编程Agent。通过main.cpp实现以下功能: 核心功能 动态加载系统提示词,支持环境变量配置API 注册文件读写、编译、Shell执行等工具链 提供交互式REPL界面,支持对话重置和状态查看 实战流程 # 启动Agent $ export OPENAI_API_KEY=sk-xxx $ ./agent > 输入需求:"写一个计算斐波那契数列的C++程序" # Agent自动完成:代码生成 → 文件保
2026-08-25 18:31:56
189
原创 C++ 手写 AI 编程 Agent(9):Prompt 工程从 System Prompt 到 A/B 测试
这篇文章探讨了如何通过System Prompt优化C++ AI编程Agent的表现。主要内容包括: System Prompt的重要性:作为Agent行为的核心指导,良好的System Prompt能显著提升Agent表现。 完整的System Prompt模板:包含身份定义、能力声明、工作原则、代码标准、安全约束和响应格式六大模块。 Prompt工程实践:提出结构化的Prompt设计原则,包括身份定义、能力边界、行为规范、输出格式等要素。 技术实现:展示了使用C++ Builder模式构建System
2026-08-25 18:30:52
213
原创 LangChain 简单上手:做一个本地知识库问答
本地知识库不等于模型训练,入门阶段通常先做 RAG;Embedding 负责“找相关资料”,Chat Model 负责“组织答案”;建库和问答是两个阶段,资料变化后再重建索引;是排查 RAG 问题的第一工具;资料没有答案时,系统应该明确拒答,而不是凭空补写;生产系统还要补上权限、增量同步、混合检索、评测、日志和数据安全。main.py示例知识库资料下一步建议:先把自己的 2~5 份 Markdown 或 TXT 文档放进data/
2026-08-25 11:38:35
466
1
原创 C++ 手写 AI 编程 Agent(8):记忆系统、规划引擎与多 Agent 协作
本文介绍了C++实现AI编程Agent的第八部分,重点构建了完整的记忆系统架构与多Agent协作机制。记忆系统采用三层结构:短期记忆(对话历史)、工作记忆(任务上下文)和长期记忆(持久化知识库)。代码展示了基于重要性评分的记忆存储、检索和淘汰策略,支持线程安全操作。工作记忆模块提供临时变量存储,长期记忆实现JSON持久化存储。文章还涉及规划引擎设计,使Agent能分解复杂任务并协调执行。最后讨论多Agent协作模式,通过消息传递实现分布式问题求解。该架构赋予Agent类人的记忆认知能力,为构建更智能的编程助
2026-08-25 10:53:57
197
原创 DeepSeek Harness Linux/macOS/Windows 本地下载、启动与模型配置指南
本文提供了DeepSeek Harness在Linux/macOS/Windows平台上的本地下载、启动与模型配置指南。主要内容包括:1) 区分本地Harness使用云端模型或本地模型两种方式;2) 三个平台的运行环境安装方法(Node.js/Git等);3) 跨平台路径和终端命令差异说明;4) 两种启动方式(直接下载发布版本或从源码构建);5) 首次使用Web UI的基本步骤。文章特别强调了平台间的配置差异,如环境变量设置、默认数据目录位置等,并提供了版本控制建议以避免自动更新带来的兼容性问题。
2026-08-25 10:22:42
4291
1
原创 C++ 手写 AI 编程 Agent(7):Token 窗口管理与错误恢复策略
当滑动窗口丢弃了太多历史信息时,更好的做法是将旧对话压缩为摘要后再保留。/// 对话摘要压缩器/// 将过长的对话历史通过 LLM 压缩为简洁摘要,保留关键信息public:/// 将一组消息压缩为摘要字符串/// @param messages 待压缩的消息列表/// @param target_length 目标摘要长度(token 数的近似值)/// @return 压缩后的摘要文本// 构造摘要请求的 prompt// system prompt 不参与摘要。
2026-08-25 10:07:54
248
原创 C++ 手写 AI 编程 Agent(6):Agent 核心循环、消息管理与 LLM 调用
本文是「C++ 手写 AI 编程 Agent」系列第 6 篇,基于 C++17 + cpr + nlohmann/json 实现 Agent 核心运行引擎。文章依次讲解四个模块:`MessageManager` 消息管理与 Token 窗口截断、`LLMClient` 对 OpenAI 兼容接口的请求/响应封装、Agent 思考循环的“LLM 调用 → 工具执行 → 回填结果”控制逻辑,以及整合工具注册、回调、日志与统计的完整 `Agent` 类实现,为后续 Token 管理、记忆系统与多 Agent 协作
2026-08-24 20:06:05
216
原创 C++ 手写 AI 编程 Agent(5):工具超时缓存与链式组合模式
本文介绍C++ AI Agent中工具执行的超时控制与结果缓存机制。通过ToolExecutor实现带超时的异步执行,支持外部取消;采用LRU+TTL策略的ToolCache减少重复调用开销,提升性能。适用于高并发、低延迟场景,是构建健壮智能编程助手的关键组件。
2026-08-24 20:05:20
100
原创 C++ 手写 AI 编程 Agent(4):编译诊断工具与 Shell 执行引擎
本文是C++手写AI编程Agent系列的第4篇,实现编译诊断工具与Shell执行引擎。基于C++17,利用nlohmann/json和cpr库,构建支持CMake、Make、Ninja的自动检测编译系统,具备清理、自定义编译参数等功能,可自动验证代码正确性,提升Agent自主调试能力。
2026-08-24 20:01:15
96
原创 C++ 手写 AI 编程 Agent(3):工具注册表与文件操作工具集
本文是C++手写AI编程Agent系列的第3篇,聚焦工具系统核心——工具注册表(ToolRegistry)的设计与实现。基于C++17与nlohmann/json,构建了支持动态注册、执行与验证的工具框架,包含工具定义、安全注册、参数校验及OpenAI Function Calling格式转换。通过ToolRegistry与DynamicToolManager,实现工具的灵活加载、生命周期管理与运行时调度,为构建可扩展的智能编程助手奠定基础。
2026-08-24 20:00:06
115
原创 C++ 手写 AI 编程 Agent(2):环境搭建与 CMake 依赖管理
📌:C++ AI Agent 实战 / 大模型工具调用 / 智能编程助手⭐💬:评论区留言或私信,看到必回。
2026-08-24 19:57:24
179
原创 C++ 手写 AI 编程 Agent(1):AI Agent 概念入门与 ReAct 架构设计
C++手写AI编程Agent(1):概念入门与ReAct架构设计 本文是《C++手写AI编程Agent》系列的第一篇,主要介绍了AI Agent的基本概念及其与普通Chatbot的区别。文章重点解析了ReAct(Reasoning + Acting)范式的运作机制,包括推理与行动的交替循环过程。同时讲解了Tool Use Protocol(工具使用协议)的核心流程,展示了Agent如何定义、选择和调用外部工具。文章还通过流程图直观呈现了Agent的完整思考循环,并梳理了AI Agent技术的发展历史,从20
2026-08-24 19:56:19
675
原创 多系统本地部署大模型 Llama 3 实操踩坑记录
摘要 本文是一篇关于多平台本地部署Llama 3大模型的实操指南,主要面向需要快速实现模型落地的开发者。文章首先给出了不同场景下的方案选择建议:Ollama适合快速体验,llama.cpp+GGUF适合精细控制,vLLM适合生产环境。随后详细介绍了Llama 3模型的基础知识,包括不同版本区别、量化格式选择策略和显存需求估算方法。接着提供了通用准备工作指导,包括模型下载注意事项、存储空间规划和硬件确认步骤。全文包含大量实操命令和排错经验,覆盖Windows原生、WSL2、Linux和macOS平台,旨在帮助
2026-08-24 17:07:18
189
原创 说人话就能执行命令(下):AI 智能终端进阶功能与安全实践
项目维护了一个社区安全规则仓库(按照 YAML 格式编写规则文件(参见 SafetyChecker 配置格式章节)确保规则经过充分测试,不会产生大量误报附带至少 3 个正例和 3 个反例测试用例提交 Pull Request,描述规则的用途和适用场景社区审核通过后,规则会被收录到官方规则集中,用户可以通过一键更新。通过本教程,我们从零构建了一个完整的自然语言 → Shell/CMake 命令转换工具CLI/REPL 交互层:基于 CLI11 的参数解析 + readline 支持的交互式会话。
2026-08-24 16:27:06
170
原创 说人话就能执行命令(上):C++ 打造 AI 智能终端从 0 到 1
📃作者主页:编程的一拳超人⛺️ 欢迎关注:👍点赞 👂🏽留言 🌟收藏 💞 💞 💞 于高山之巅,方见大河奔涌;于群峰之上,更觉长风浩荡。作为 C++ 开发者,我们每天都在和命令行打交道。以下场景你一定不陌生:这些痛点的本质是:人脑擅长表达意图,但不擅长记忆精确的命令语法。如果我们能用自然语言描述意图,让工具自动生成正确的命令呢?优势显而易见:为了更直观地理解 AI Shell 的价值,下表从多个维度对比了传统 Shell 与 AI Shell 的差异:不同的开发者群体对 AI Shell 的需
2026-08-24 16:22:51
183
原创 Ollama在Windows /macOS/ Linux系统本地大模型完整部署教程
Ollama 是一款开源的本地大语言模型运行与管理框架,它封装了模型量化、显存调度、推理引擎等底层技术细节,用户只需几条命令即可在个人电脑上运行 Llama、Qwen、DeepSeek 等上百种开源大模型,全程数据本地处理,完全离线可用。跨平台原生支持 Windows、macOS、Linux自动硬件加速(NVIDIA/AMD/Apple Silicon)内置模型仓库,一键下载运行原生兼容 OpenAI API 格式,便于二次开发支持自定义模型、参数调优、多模型并行。
2026-08-24 16:13:45
624
dbeaver-ce-26.1.3-windows-x86-64.exe
2026-07-20
https://cdn.jsdelivr.net/npm/swagger-ui-dist@3/swagger-ui-bundle.js
2026-02-26
DBeaver一款好用的、免费的、开源的的数据库管理工具,可下载 版本:dbeaver-ce-25.0.2-x86-64-setup.exe
2025-04-07
migration:瀚高数据库迁移工具,用于多种数据库类型(mysql、oracle等)迁移到瀚高数据库
2024-07-24
瀚高数据库连接工具,用于连接到本地或远程的瀚高数据库 请区别于瀚高迁移工具
2024-07-24
为了安装 MongoDB,应该选择适用于 ARM 架构的版本
2024-07-24
Fences 5是一款桌面整理软件,主要用于Windows操作系统,能够帮助用户更有效地管理和组织桌面上的图标和文件
2024-05-22
Redis的图形化桌面客户端
2022-11-06
DBeaver一款好用的、免费的、开源的的数据库管理工具,可下载
2022-07-30
Geek一款流氓、病毒软件强力粉碎、卸载软件,放心使用
2022-07-30
数据原理知识点总结,可以免费查看
2022-03-30
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅