- 博客(23)
- 收藏
- 关注
RSS订阅原创 智能体驱动 DCU 算子自动优化框架落地：从 CUDA 全栈迁移到逼近厂商级性能
摘要： AKO4X智能体算子优化框架成功迁移至海光DCU平台，解决了CUDA到DCU的三层核心壁垒（编程模型、硬件微架构、工具链生态），通过分层迁移架构与智能体闭环优化，将单算子优化周期从天级压缩至小时级。关键成果包括：RMSNorm融合算子性能达PyTorch的3.8倍，BF16 GEMM性能逼近hipBLAS的65%。验证了向量化加载、Tile尺寸调优等有效手段，同时规避了双缓冲LDS等无效策略，为国产算力性能优化提供了可复用的方法论。
2026-07-03 10:16:10
208
原创 海光DCU高性能计算落地：从硬件逻辑到代码优化的实战指南
本文系统介绍了海光DCU高性能计算的实战优化方法。首先阐述了DCU的硬件特性，包括64线程的波前调度机制、多层内存架构和HIP开发环境配置要点。随后提出两个关键优化策略：重构内存布局实现合并访问，以及低精度量化减少数据传输量。文章还详细讲解了使用rocprof工具进行性能诊断的三步法，并指出工程实践中常见的数值一致性、线程安全和多维数组存储顺序等隐性坑。最后强调，充分发挥DCU性能需要深入理解硬件特性，而非简单的语法替换。该指南为信创HPC和AI计算场景提供了实用的优化路径。
2026-07-03 09:45:36
299
原创 6 个纯 Shell 自动化脚本｜DCU 环境部署 + 故障排障 + 生产运维全覆盖
这篇文章介绍了6个针对DCU服务器运维的纯Shell自动化脚本，覆盖环境初始化、故障诊断、集群校验、服务守护等核心场景，无需额外依赖即可使用： DTK环境初始化脚本 - 自动探测安装路径并配置环境变量 DCU故障诊断脚本 - 一键检查驱动、权限等常见问题 集群节点校验脚本 - 批量验证多节点环境一致性 vLLM推理守护脚本 - 实现服务启停和自动重启 显存清理脚本 - 自动释放被占用的显存资源 硬件基准测试脚本 - 快速检查DCU性能指标 这些脚本基于系统原生工具开发，可直接复制使用，能显著提高DCU服务器
2026-07-03 09:27:56
396
原创 DCU 日常运维 5 个实用脚本｜复制即用，排查效率翻倍
本文分享了5个DCU日常运维实用脚本，覆盖健康检查、进程排查、性能测速等高频场景，开箱即用： 整机巡检：快速查看DCU算力使用率、显存占用和温度 显存排查：定位异常占用进程，无需重启即可释放显存 推理测速：快速验证单卡生成速度，输出token/s和峰值显存 环境校验：检查DTK、PyTorch等核心依赖的安装情况 显存监控：后台记录显存和算力波动，方便回溯性能瓶颈 所有脚本基于系统命令实现，无额外依赖，适合日常运维快速排查问题。
2026-07-03 09:24:20
235
原创 海光DCU显存排查入门：3个零成本优化技巧｜附可运行代码
本文介绍了海光DCU显存优化的入门技巧，包括快速定位方法和三个零成本优化方案。首先可通过rocm-smi命令或PyTorch原生API监控显存占用情况。三个实用技巧包括：1）使用torch.cuda.empty_cache()主动释放闲置缓存；2）采用FP16/BF16半精度加载模型减少显存占用；3）微调时开启梯度检查点用计算换显存。文章还提醒新手要预留显存空间、优化NUMA绑核，并优先使用官方适配权重。这些方法能解决80%的日常显存问题，适合DCU开发者快速上手优化。
2026-07-02 09:36:43
230
1
原创 拿到海光DCU先做什么？3步快速验证环境+跑通第一个大模型
本文为海光DCU新手提供3步快速入门指南：1）通过脚本一键校验硬件状态、DTK版本和PyTorch适配；2）以Qwen2-1.8B为例展示无需修改的标准模型推理代码，DCU兼容PyTorch的"cuda"接口；3）重点提示两个常见避坑点：必须使用DTK匹配的PyTorch版本和正确配置环境变量。作者指出，常规大模型任务在DCU上迁移成本较低，版本对齐后一周内即可完成环境搭建到生产部署。
2026-07-02 09:33:41
450
原创 Milvus使用说明看这一篇就够了：从安装到实战，可视化玩转向量数据库 (附Attu保姆级教程)
本文全面介绍了开源向量数据库Milvus及其可视化工具Attu的使用方法。首先阐述了向量数据库在AI时代作为"数据底座"的重要性，特别是在RAG系统中的核心作用。接着详细讲解了如何通过Docker一键部署Milvus Standalone和Attu可视化界面。文章重点演示了通过Attu创建集合、设置索引、导入数据及可视化搜索的全流程操作，并提供了Python SDK的代码示例。特别强调了使用过程中的关键注意事项，如数据加载机制等常见问题。通过本文，读者可以快速掌握Milvus从安装部署到
2026-02-09 10:35:22
1419
原创 Langfuse使用说明看这一篇就够了：从入门到深度的LLM应用运维指南
Langfuse是一款开源LLM工程平台，专为解决大模型应用开发中的痛点而设计。文章从快速入门到核心功能深度解析，全面介绍了如何使用Langfuse提升LLM应用开发效率。 主要内容包括： 快速上手：提供两种部署方式（云服务和本地Docker），5分钟即可完成基础监控配置 核心功能： 观测与追踪(Tracing)：支持LangChain、OpenAI等主流框架的无缝集成，可记录完整调用链路 提示词管理：实现Prompt与代码解耦，支持版本控制和动态更新 优势特点：开源免费、兼容性强、私有化部署、UI友好，覆
2026-02-09 10:28:16
2404
原创 最全面的系统架构设计师の学习笔记-看这一篇就够了!
本文摘要涵盖了计算机网络与信息系统的基础知识。在计算机网络方面，介绍了IPv6的简化首部结构、128位地址长度和改进特性，区分服务的DS码点机制，以及Web服务器性能评估指标。分布式数据库部分阐述了分片、复制、位置和逻辑四种透明性概念。网络分层设计模型详细说明了核心层、汇聚层和接入层的功能特点。此外还涉及结构化布线系统、DNS域名解析、网络存储技术（DAS/NAS/SAN）等内容。信息系统部分重点介绍了电子政务的G2G/G2B/G2C模式和电子商务的B2B/B2C/O2O模式，以及ERP系统的核心功能模块。
2026-01-07 11:18:32
882
原创 构建多模态 RAG：从文本增强到图文联合推理
本文介绍了构建多模态RAG系统的关键步骤，旨在解决传统RAG仅处理文本的局限性。主要内容包括：1) 多模态RAG通过引入图像理解和图文联合推理能力，有效处理PDF、Word等文档中的图片信息；2) 系统架构需配置多模态LLM服务和图片OSS存储；3) 详细说明了模型部署选型、服务配置、知识库上传等实施流程；4) 展示了多模态问答效果和API调用示例。该系统特别适用于说明书、技术文档等图文混排场景，使AI能够同时理解文字和图像内容。
2025-12-23 10:01:09
811
原创 多模态检索解决方案：从技术原理到工程落地
摘要：多模态检索系统通过将不同模态数据映射到统一语义空间实现跨模态检索，解决了传统单一模态检索的局限性。核心采用对比学习机制对齐多模态语义，系统架构包含数据预处理、特征编码、向量索引和多阶段检索等模块。工程实践中需平衡检索精度与性能成本，重点关注数据质量、系统稳定性和持续优化。随着多模态数据增长，该技术正成为搜索系统的基础能力，在电商搜索、内容推荐等场景发挥重要作用。
2025-12-23 09:38:00
629
原创 Docker 权限问题：为什么容器里读不到文件？
Docker容器中文件权限问题的核心原因是Linux权限模型与Docker运行机制的结合。常见现象包括容器内无法读写挂载目录，尽管文件在宿主机存在。问题根源在于Docker直接映射文件UID/GID而不做权限转换。主要解决方案包括：统一容器与宿主机的用户UID/GID、正确处理SELinux标签、避免使用root运行容器、正确设置Dockerfile中的文件所有权。排查时应依次确认运行用户、文件权限、挂载设置和SELinux状态。理解Linux权限机制是解决此类问题的关键，而非Docker本身的问题。
2025-12-17 09:54:55
1059
原创 Docker 常见问题：容器里访问不了外部网络怎么办？
摘要：本文系统讲解了Docker容器无法访问外部网络的常见问题及解决方案。从DNS解析失败、公司代理/防火墙环境、iptables规则异常、host网络模式误区到自定义网络配置错误等5大原因入手，提供了详细的排查流程和修复方法。关键排查步骤包括：检查宿主机网络、测试IP连通性、验证DNS解析、检查代理设置和防火墙规则。文章强调Docker网络并非自动等同于宿主机网络，并提供快速自检命令合集，帮助用户快速定位问题。建议按顺序排查，避免跳步导致误判。
2025-12-17 09:51:05
1016
原创 Docker 镜像体积优化实战：从 1GB 到 100MB
本文系统介绍了 Docker 镜像体积优化的方法论，从 1GB 到 100MB 的实战经验。核心要点包括：选择 slim 基础镜像、多阶段构建、减少镜像层、使用.dockerignore、清理缓存等。强调优化不是炫技，而是为了更快的构建和部署。文章提供了具体代码示例和体积对比，指出优化顺序应为：基础镜像选择→多阶段构建→层合并→.dockerignore。最后强调镜像优化是工程意识和正确方法的自然结果，体现生产级 Dockerfile 设计能力。
2025-12-16 09:43:10
684
原创 Docker 镜像打包为 tar 并在其他环境加载运行（离线部署实战指南）
本文介绍了Docker镜像离线部署的完整流程，适用于内网环境或无法访问Docker Hub的生产场景。主要内容包括：将镜像打包为tar文件(docker save)、传输到目标环境、加载镜像(docker load)和运行容器。文章对比了docker save与docker export的区别，强调了前者才是正确的离线部署方式，并提供了多镜像打包、文件压缩等实用技巧。该方法是企业内网部署、强隔离环境交付的标准解决方案，实现了受限环境下的标准化部署能力。
2025-12-16 09:40:44
1229
原创 使用 Docker 解决 Windows Python 程序在 ARM / x86 架构不兼容问题（Exec format error）
维度传统方式Docker 方案架构兼容差自动适配环境一致性低高部署复杂度高低可复制性差强生产可用性一般企业级本文从一次典型的问题出发，分析了CPU 架构不兼容的根本原因，并给出了在有 Windows Python 源码使用 Docker 官方 Python 多架构镜像运行源码，而非直接运行二进制文件。该方案不仅解决了当前问题，也为后续的跨平台部署、云原生演进打下了坚实基础。
2025-12-15 10:19:23
860
原创 Windows 新手安装 Docker Desktop 超详细教程
本文为Windows新手提供Docker Desktop详细安装教程。首先介绍Docker的作用，说明它能解决程序运行环境不一致的问题。安装前需确认系统为64位Win10/11，并开启CPU虚拟化。然后分步骤指导安装WSL2、下载Docker Desktop，并验证安装是否成功。最后运行hello-world容器测试，解答常见问题。教程适合零基础用户，帮助完成Docker入门安装。
2025-12-15 10:13:23
1674
原创 Docker 基础操作指南：从零开始掌握镜像、容器与常用命令
本文是Docker基础操作指南，适合Docker新手和开发者学习。首先解释了Docker解决的核心问题：如何让应用在任何环境中一致运行。然后介绍了Docker的三个核心概念：镜像（只读模板）、容器（运行实例）和Dockerfile（构建镜像的文本文件）。文章详细讲解了镜像和容器的基础操作命令，包括查看、拉取、删除镜像，运行、停止和删除容器等。此外还介绍了Dockerfile入门、端口映射、目录挂载、日志查看等实用技巧，并总结了新手常见误区。最后建议了进一步学习路线，帮助读者掌握Docker的基础使用能力。
2024-04-07 23:21:36
900
原创 #cda打卡 #sql学习
用于存储日期和时间信息，包括。用于存储二进制数据，包括。用于存储浮点数值，包括。用于存储字符序列，包括。用于存储整数值，包括。用于存储大量文本数据。（双精度浮点数）等。是固定长度的字符型，是可变长度的字符型，
2024-04-01 21:10:24
1653
1
原创 Docker 常见问题实战：容器启动了，但服务访问不到怎么办？
Docker容器启动但服务无法访问的排查指南 摘要：本文针对Docker新手常见问题——容器已启动但服务无法访问，提供系统化的解决方案。主要排查点包括：1)应用是否监听0.0.0.0而非127.0.0.1；2)是否正确使用-p参数映射端口；3)理解EXPOSE指令的实际作用；4)检查访问地址是否正确；5)查看容器日志确认服务状态；6)排查防火墙/安全组限制。文章推荐标准排查流程：先确认容器运行状态→检查日志→验证监听地址→确认端口映射→检查访问地址→排除防火墙干扰。掌握这些关键点后，这类网络隔离问题将不再困
2023-06-03 13:56:39
309
Knowledge-Graph-Curriculum
2025-06-04
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人