- 博客(17)
- 收藏
- 关注
RSS订阅原创 数据预处理与特征工程：高质量模型的基石
归一化 (Normalization, Min-Max Scaling)： (x−min)/(max−min)(x - min) / (max - min)(x−min)/(max−min) 将数据缩放到 [0, 1] 或 [-1, 1] 的指定范围。标签编码 (Label Encoding)： 为每个类别分配一个唯一的整数。标准化 (Standardization, Z-score)： (x−μ)/σ(x - \mu) / \sigma(x−μ)/σ 将数据转换为均值为 0，标准差为 1 的分布。
2025-09-09 09:45:11
1120
原创 机器学习中的过拟合与欠拟合：诊断与解决方案
在机器学习中，我们训练模型的根本目的是希望它能够从训练数据中学习到规律，并在未见过的新数据上做出准确的预测。通过在多个不同的训练/验证集划分上训练和评估模型，可以更稳定地估计模型的泛化误差，从而更准确地诊断模型是欠拟合还是过拟合。定义： 模型在训练数据上表现非常好（误差极低），但在未见过的新数据（测试集/验证集）上表现显著变差，泛化能力弱。在训练过程中，周期性地在验证集上评估模型性能。过拟合 (Overfitting)： 模型太复杂，学到了训练数据中的噪声，在训练集上表现好，但在测试集上表现差。
2025-09-09 09:44:01
587
原创 强化学习：从 Q-Learning 到 Deep Q-Network
Dueling DQN： 将 Q 值近似分解为状态价值 V(s) 和优势函数 A(s, a)，即 Q(s,a)=V(s)+(A(s,a)−averageaA(s,a))Q(s, a) = V(s) + (A(s, a) - \text{average}_a A(s, a))Q(s,a)=V(s)+(A(s,a)−averageaA(s,a))。目标网络 (Target Network)： 用于计算目标值中的 maxa′Q(s′,a′)\max_{a'} Q(s', a')maxa′Q(s′,a′)。
2025-09-08 18:49:31
1874
原创 Python 装饰器：优雅地增强函数功能的利器
一个常见的装饰器副作用是，被装饰后的函数会丢失其原有的元信息（如函数名 __name__、文档字符串 __doc__、参数签名等），而是继承了 wrapper 函数的信息。这是构建通用装饰器的关键。装饰方法： 装饰方法与装饰函数的基本原理一致，只是装饰器函数会接收方法的“绑定实例”（self）作为第一个参数，或者如果是类方法，会接收类本身（cls）。装饰器正是利用了这些特性，本质上就是一个包装函数，它接受一个原函数作为参数，然后返回一个新的、增强了功能的函数（通常是原函数加上了一些附加行为）。
2025-09-05 19:20:10
1037
原创 JavaScript 异步编程的进阶之路：Promise, async/await 全解析
Promise 提供了一种结构化、可链式的方式来管理异步操作，解决了回调地狱的难题，并通过 .then(), .catch(), .finally() 和静态方法（Promise.all, Promise.race, Promise.allSettled, Promise.any）提供了强大的组合能力。当 所有 Promises 都成功（fulfilled）后，它会返回一个新的 Promise，该 Promise 的值是一个数组，包含了所有传入 Promises 的成功结果，顺序与传入数组的顺序一致。
2025-09-05 19:13:35
706
原创 Transformer升级之路：从“原始”机制到V3，注意力机制的5次关键优化
内存复杂度： 从O(seq_len2)O(\text{seq\_len}^2)O(seq_len2)降低至O(seq_len⋅d)O(\text{seq\_len} \cdot \sqrt{d})O(seq_len⋅d)或O(seq_len⋅d)O(\text{seq\_len} \cdot d)O(seq_len⋅d)，使得模型能够处理更长的序列。Transformer的演进之路仍在继续，随着AI研究的深入，我们有理由相信，未来会有更多激动人心的注意力机制变体出现，继续突破AI能力的边界。
2025-09-04 17:30:28
454
原创 注意力机制的进化之路：从Softmax到Flash、Grouped Attention，效率与性能的飞跃
注意： 实际的Grouped Attention实现（如Transformer-XL的Sliding Window Attention、Longformer的Dilated Sliding Window Attention、BigBird的Random Attention等）会更加复杂，可能会包含全局Token、稀疏模式、多种窗口组合等，以在局部注意力和全局依赖之间取得更好的平衡。Softmax Attention的O(n2)O(n^2)O(n2)复杂度是处理长序列的“硬伤”。
2025-09-04 17:29:17
2034
原创 AI生成内容的版权迷局：GPT-4输出的“创意”版权风险与规避之道
然而，遵循“理解服务条款，避免直接复现，承认 AI 辅助角色，保持透明度，并持续关注法律动态”的原则，是我们在 AI 驱动的内容创作时代，规避版权风险、负责任地使用 AI 的关键。本篇文章将深入探讨 AI 生成内容（特别是 GPT-4 一类模型）所面临的版权风险，分析其潜在的侵权点，并提供一系列实用的规避策略，帮助您在拥抱 AI 创造力的同时，规避法律雷区。法律发展： AI 版权问题是一个新兴领域，各国法律法规的解读和发展仍在进行中（例如，美国版权局对 AI 生成内容的立场、欧盟的 AI 法案等）。
2025-09-03 18:14:44
782
原创 大模型的偏见：从训练数据到推理结果，如何检测与修正？
然而，伴随其强大能力而来的，是一个不容忽视的挑战：模型的偏见（Bias）。专门的偏见检测数据集: 存在一些专门设计用于评估模型偏见的数据集，如 BOLD (Bias in Open-ended Language Generation)，它通过“填充句子”的方式，测试模型在生成描述不同种族、性别、宗教、职业等群体时的倾向性。对抗性训练 (Adversarial Training): 在训练过程中引入一个“歧视器”模型，该模型尝试识别模型的偏见输入，而主模型则被训练来“欺骗”歧视器，即生成不带偏见的输出。
2025-09-03 18:08:10
1154
原创 AI隐私保护：当大模型遇上“隐身术”——差分隐私+同态加密，让模型“看不见原始数据”
然而，随着 HE 技术的不断突破（参数化同态加密 P-HE、Bootstrapping 等）和 DP 算法的优化，以及对 AI 模型行为的更深入理解，我们正一步步走向一个更加安全、可信的 AI 未来。如果一个数据集 D 加上或移除一个人的信息后变成 D'，那么对 D 进行分析得到的结果 M(D)，与对 D' 进行分析得到的结果 M(D')，其概率分布应该是高度相似的。您把数据放进去（加密），在盒子里进行计算（在密文上操作），最后再打开盒子（解密），您会得到一个和直接计算明文相同的结果。
2025-09-03 18:07:35
932
原创 Few-Shot Prompting 实战：用5个例子让GPT-4学会复杂任务
然而，要充分发挥LLM的潜力，尤其是让它们处理更加复杂、特定化的任务，仅仅依赖泛泛的指令是远远不够的。今天，我们将进行一次实战演练，深入探讨Few-Shot Prompting的精髓，并通过5个精心挑选的例子，向你展示如何用少量高质量的示例，就能教会GPT-4完成一些看似复杂且需要细致理解的任务。分析： 通过提供对“量子纠缠”、“区块链”、“神经网络”和“API”的解释和类比，GPT-4已经学会了如何进行“解释+类比”的结构化输出，并且理解了“类比”需要贴合生活经验且易于理解的要求。
2025-09-03 17:39:35
1068
原创 《Stable Diffusion XL 1.0 实战：AI 绘画从 “能看” 到 “好看” 的升级技巧》
同时，模型优化注意力机制，能精准捕捉画面元素间关联，为打造美观画面奠定技术基础。掌握其升级技巧可让 AI 绘制的图像从基础生成进阶为符合审美预期的精美之作，解决初期 AI 绘画效果平淡、难达审美要求的痛点，助力创作者轻松产出高水准艺术图像。Stable Diffusion XL 1.0 增强了文本与图像的跨模态融合能力，借助复杂注意力计算，将文本提示中的风格、色彩、构图等美学要求精准映射到生成过程。prompt = "欧式古典风格的宫殿，白色大理石柱，穹顶绘有精美壁画，周围是繁茂的花园，采用写实渲染风格"
2025-09-02 18:19:01
389
原创 大模型推理加速深度对比：vLLM vs TensorRT-LLM vs ONNX Runtime，谁是生产环境最优解？
例如Llama 2-7B模型在RTX 4090（24GB显存）上，vLLM每秒可处理1200-1500个token，比TensorRT-LLM（1000-1200 tokens/秒）高20%-30%，是ONNX Runtime（CUDA EP）的3倍以上（约400 tokens/秒）。例如，同一ONNX模型可在「NVIDIA GPU（用TensorRT EP）」和「Intel CPU（用CPU EP）」上切换运行，灵活性远超vLLM（仅支持GPU）和TensorRT-LLM（仅支持NVIDIA GPU）。
2025-09-02 18:18:24
1891
原创 《大模型推理加速：vLLM vs TensorRT-LLM vs ONNX Runtime 性能对比》
TensorRT-LLM 基于 NVIDIA 的 TensorRT，通过量化（如 INT8、FP8）、张量融合、算子重排等技术，将大模型转换为高度优化的张量计算图，充分发挥 GPU 的硬件加速能力，尤其适用于 NVIDIA 显卡的环境。vLLM、TensorRT-LLM 和 ONNX Runtime 是当前主流的推理加速方案，它们通过不同的优化策略提升大模型推理速度与效率。outputs = llm.generate("写一篇关于大模型推理加速的博客", sampling_params)
2025-09-02 18:17:39
924
原创 Llama 3实战：用LoRA微调专属对话模型，4GB显存就能跑
今天这篇实战指南，带你用4GB显存搞定Llama 3的对话微调，定制专属AI助手（比如「代码助手」「生活助手」），全程代码可复现，小白也能上手。想象Llama 3预训练模型是一部「功能强大但未适配你需求的手机」：全参数微调=「重刷定制系统」（风险高、耗资源），而LoRA=「安装任务插件」（只改局部、省空间）。prompts = [f"问：{q}\n答：{a}" for q, a in zip(examples["input"], examples["output"])]
2025-09-01 17:22:32
779
原创 2025中国GEO生成式引擎优化行业研究：技术演进与服务商能力图谱
2025年，生成式AI技术的规模化应用推动信息分发逻辑发生根本性变革——以文心一言、豆包、通义千问为代表的AI平台成为用户获取信息的核心入口，传统SEO依赖的"关键词排名"逻辑逐渐失效，企业竞争焦点转向"AI推荐位占领"与"结构化内容权威度构建"。《2025中国AI营销技术蓝皮书》（行业协会联合发布）、《生成式引擎优化技术演进报告》（第三方咨询机构）、主流服务商公开技术白皮书、AI平台开发者文档（百度文心一言、通义千问等）。（从"排名"转向"内容入选率""用户停留时长""转化路径效率"等综合指标）。
2025-08-14 18:08:32
2029
原创 从SEO到GEO：2025 AI内容优化新范式与技术实践
GEO技术的本质，不是"欺骗机器的优化技巧"，而是"构建内容权威的科学方法"。在AI搜索时代，真正的竞争壁垒，在于企业能否将自身的行业积累转化为机器可识别的权威信号。无论是标准化体系、垂直知识图谱还是多模态协同，最终都要回归到"为用户提供真正有价值的答案"这一核心命题。（注：本文案例数据均来自公开报道及行业研究报告，技术框架参考《生成式引擎优化技术规范》团体标准草案）
2025-08-13 15:15:53
1128
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人