- 博客(1536)
- 资源 (10)
- 收藏
- 关注
RSS订阅原创 大模型常见的专用名词
本文介绍了AI模型调用中的关键概念：1）Token相关：包括RPM/TPM等速率限制，以及token计算方式、上下文窗口等文本处理单位；2）限流机制：如突发流量、滚动窗口、并发控制等吞吐管理策略；3）性能指标：涵盖流式输出、响应延迟等时延要素；4）混合计费方式：包括按token/金额/时间等多种配额模式。重点指出不同厂商在token计算（输入/输出）、限流规则等方面存在差异，需以具体平台文档为准。这些概念对合理使用API资源和优化调用策略具有重要意义。
2026-01-08 15:06:34
234
原创 python3可以执行，但是python命令不行，怎么解决
摘要：解决zsh提示"command not found: python"的三种方法：1）推荐使用alias将python指向python3，修改.zshrc文件；2）直接使用python3命令，配合venv虚拟环境；3）通过Homebrew安装python（可能仍不提供python命令）。第一种方案最简便，通过添加alias即可实现python和pip命令的兼容。
2026-01-07 17:08:58
155
原创 后台运行.sh的方式
本文介绍了三种在Linux后台运行脚本的方法：1）使用nohup命令将脚本放到后台运行并记录日志，同时保存进程ID便于管理；2）推荐使用tmux/screen工具，可保持会话持久化；3）生产环境建议使用systemd服务，支持自动重启和开机自启。每种方法都提供了详细的命令示例，包括启动、查看状态和停止服务的操作说明，其中systemd方式还包含服务文件创建和日志管理配置。
2025-12-29 20:46:49
134
原创 ubuntu22.04 重启 Docker 服务、设置 Docker 开机自启、设置容器自启动
本文介绍了 Docker 服务管理的常用命令：1）使用 systemctl 重启 Docker 服务；2）设置 Docker 开机自启；3）配置容器自启动策略（推荐 unless-stopped）；4）批量操作容器；5）Docker Compose 项目自启动配置。文章提供了完整的命令示例，包括查看状态、修改策略和批量启停容器等实用技巧，适合快速查阅使用。
2025-12-20 20:04:38
317
原创 ubuntu22.04安装nginx
本文介绍了在Ubuntu系统上安装和配置Nginx的两种方法：通过官方仓库（简单快捷）或Nginx官方源（版本更新）。详细说明了安装步骤、防火墙设置、验证方法以及常用管理命令。同时提供了Nginx配置文件路径、日志位置等关键信息，并给出创建新站点的示例配置。最后介绍了站点启用、默认站点禁用等实用操作，帮助用户快速搭建Nginx服务器环境。
2025-12-20 18:16:20
329
原创 DNS解析切换了本地没有变更怎么处理
摘要：本文提供DNS解析问题排查指南，包含五个关键步骤：1）使用dig命令验证权威DNS记录是否更新；2）清理Linux本地DNS缓存（systemd-resolved/nscd/dnsmasq）；3）Mac/Windows系统缓存刷新方法；4）解析记录设置问题排查（线路/CNAME等）；5）应急方案（修改hosts文件）。重点推荐使用dig +trace和dig +noall +answer命令诊断问题，并给出不同场景下的具体操作命令，帮助快速定位DNS缓存或配置问题。
2025-12-16 11:38:18
314
原创 ECS机器上安装docker
摘要：本文提供了在不同Linux系统上安装Docker的详细步骤。首先通过cat /etc/os-release确认系统版本，然后分别给出CentOS/RHEL/Alibaba和Ubuntu/Debian的安装方法，包括卸载旧版本、安装依赖、添加仓库、安装Docker及验证步骤。安装完成后建议配置普通用户免sudo权限和国内镜像加速。最后说明现在推荐使用Docker Compose插件（docker compose）而非独立安装docker-compose。全文包含完整命令行操作，适用于主流Linux发行版
2025-12-16 10:30:27
332
原创 使用ARQ做PDF OCR和 图片OCR的任务的方案
本文提出基于FastAPI+ARQ+Redis的OCR任务处理架构，支持多页PDF和图片OCR处理。系统采用异步设计，FastAPI负责接收文件并创建任务，ARQ Worker编排OCR流程，Redis作为任务队列，Postgres持久化结果。架构特点包括：1)全链路异步处理，适合IO密集型云OCR调用；2)支持任务重试和宕机恢复机制；3)通过并发控制和进度监控实现可靠处理。该方案简化了组件依赖，适合编排调度场景，但受限于Redis作为唯一消息系统，且缺乏内置定时调度功能。整体实现了高性能、可扩展的OCR任
2025-12-12 13:29:37
1037
原创 Infrastructure、Growth、Apps、Bio&Health、Speedrun等都是什么团队，都是做什么产品的
a16z（Andreessen Horowitz）是美国顶级风投机构，其投资团队按赛道划分为多个专业组别：1）Infrastructure组专注底层技术工具，如AI基础设施和开发者平台；2）Growth组负责成长期大额投资；3）Apps组主投各类应用软件和AI工具；4）Bio & Health组聚焦生物科技和数字医疗；5）Speedrun专项扶持游戏、互动娱乐及创作者生态的早期项目。这种专业化分工使其能精准覆盖从基础设施到应用层的全产业链投资机会。（149字）
2025-12-12 13:17:25
368
原创 SOTA 级别的模型，其中SOTA是什么意思
摘要：SOTA（State Of The Art）指在特定任务上表现最优的模型。常见的性能级别包括：1）Baseline（基准模型）；2）SOTA（当前最优）；3）Near-SOTA（接近最优）；4）工业级（适合生产环境）；5）营销术语（需验证实际表现）。这些分类反映了模型在不同维度的表现，从基础性能到实际应用需求。（150字）
2025-12-10 12:07:43
1195
原创 主流GPU机型比较
本文对比了四款AI计算卡的性能差异：NVIDIA 3090（消费级深度学习卡）、A100（数据中心训练卡）、L20（推理/中等训练卡）和华为910B（NPU专用卡）。从FP16/BF16算力看，910B≈A100＞L20＞3090；显存容量排序为A100 80G≥910B＞L20＞3090；显存带宽A100最优（1.9-2TB/s），910B次之（400GB/s-1.2TB/s）。能效方面，L20最佳但算力有限，A100/910B适合重型训练。生态上，NVIDIA卡支持CUDA体系，910B需使用华为专属软
2025-12-09 10:12:50
587
原创 什么是GPU机器，怎么计算GPU显卡的算力，应该从那几个方面计算
GPU机器是配备多块GPU的服务器/工作站，专用于深度学习等并行计算任务。其算力由理论峰值算力、有效算力和集群算力三个层次构成，实际性能受显存容量、带宽、连接方式（如NVLink）和利用率影响。评估GPU性能需综合考量浮点算力（如FP32/FP16）、显存规格（容量/带宽/类型）及实际应用指标（如images/s或tokens/s）。多卡系统需考虑互联带宽和软件优化，实际有效算力通常为理论值的60-80%。选型时应优先关注目标任务的实测性能及性价比。
2025-12-09 10:03:57
885
原创 国内Dockerfile的配置，提高打包速度
本文介绍了一个基于Python 3.10的Dockerfile配置，用于构建轻量级FastAPI应用容器。该配置优化了构建过程：使用阿里云镜像加速系统包安装，安装必要的编译工具和依赖项，并通过清华源快速安装Python依赖。容器设置了工作目录、创建了必要的上传和日志目录，暴露8000端口，并使用Uvicorn作为ASGI服务器启动FastAPI应用。整个配置注重构建效率和镜像精简，适合生产环境部署。
2025-12-08 17:19:54
567
原创 网站怎么接入微信支付
微信支付对接指南：从注册到开发全流程 准备工作：需注册微信商户号，获取商户ID、API密钥、证书等关键信息，并配置HTTPS回调域名。 支付流程：用户下单→后端生成订单→调用微信接口获取支付链接→前端生成二维码→用户扫码支付→微信异步通知→后端验证并更新订单状态。 开发要点： 后端需实现统一下单接口和回调验签逻辑 前端需实现二维码生成和订单状态轮询 区分Native支付和JSAPI支付场景 注意事项： 必须做好签名验证和敏感信息保护 建议使用沙箱环境测试 金额单位统一使用分 建议建立统一支付中心服务 安全提
2025-12-08 10:12:00
863
原创 配置微信支付需要的信息
本文介绍了微信支付相关的6个核心配置参数及其作用：1）WECHAT_APP_ID为应用唯一标识，用于识别支付发起方；2）WECHAT_MCH_ID为商户号，标识收款方身份；3）WECHAT_API_KEY是APIv3密钥，用于签名和加密；4）WECHAT_CERT_PATH为商户公钥证书路径；5）WECHAT_KEY_PATH为私钥路径，用于请求签名；6）WECHAT_SANDBOX控制是否使用测试环境。这些参数分别从微信公众平台、开放平台和支付商户平台获取，需妥善保管敏感信息。
2025-12-06 18:32:39
1109
原创 量化只支持a8w8和w4a8，其中a8w8和w4a8是什么意思？
摘要：A8W8表示激活和权重均使用8bit量化，是通用稳定的量化方案，显存占用约为FP16的一半。W4A8将权重压缩至4bit而激活保持8bit，可进一步节省显存，但实现更复杂，仅适用于特定预量化模型。目前多数框架优先支持A8W8，W4A8仅对少数适配模型开放。在应用时需注意：A8W8可广泛使用，而W4A8需要模型预先完成量化校准。
2025-11-27 17:55:20
349
原创 mac怎么卸载office Powerpoint
摘要：本文提供了Mac系统下两种卸载Microsoft PowerPoint的方法。普通卸载方案（方法一）通过活动监视器终止进程后直接删除应用本体，不影响其他Office组件。深度清理方案（方法二）额外删除缓存、偏好设置等残留文件，并标注了共享数据目录的风险提示。文章还包含终端快捷命令、模板备份建议等实用技巧，针对不同卸载需求给出明确指引，特别强调了保留其他Office组件时的注意事项。（149字）
2025-11-11 21:35:59
579
原创 can‘t read /etc/apt/sources.list: No such file or directory
Docker构建错误解决方案 问题描述：构建Docker镜像时报错sed: can't read /etc/apt/sources.list，因为新版Debian已改用/etc/apt/sources.list.d/debian.sources格式。 解决方案： 使用条件判断兼容两种源文件格式 先检查传统sources.list是否存在 若不存在则修改新的debian.sources文件 统一替换为阿里云镜像源后执行安装 关键代码： RUN if [ -f /etc/apt/sources.list ];
2025-11-03 13:06:49
411
原创 安装docker依赖LibreOffice 很慢的问题应该怎么解决？
摘要：针对Docker中安装LibreOffice慢的问题，提供4种优化方案：A)改用国内镜像源并精简安装包；B)创建包含LibreOffice的基础镜像；C)挂载宿主机已安装的LibreOffice；D)仅安装必要组件。建议优先采用换源+基础镜像方案，避免每次构建都重装。关键是通过国内源加速下载和减少安装量来提升构建速度。
2025-11-03 13:03:11
654
原创 apt-get update 国内更新docker镜像卡死的解决办法
摘要：构建Docker镜像时卡顿的主要原因是默认访问国外Debian源下载大索引文件导致网络延迟。解决方案包括：1）替换为国内镜像源（如清华/中科大）；2）如非必要可移除apt安装步骤；3）使用宿主机网络加速；4）预先构建带缓存的基础镜像。这些方法能有效解决因网络延迟导致的构建缓慢问题。
2025-11-02 10:28:32
595
原创 ImportError: libGL.so.1: cannot open shared object file: No such file or directory
摘要： Docker容器部署过程中出现worker服务启动失败问题。日志显示worker在加载PDF分割表格检测模块时出错，提示Volcengine SDK未安装（已改用HTTP方式调用API）。问题可能出现在依赖安装或模块导入环节，需要检查PDF相关工具库的安装情况及模块间的依赖关系。同时服务配置显示当前为开发环境（CODE_ENV=dev），建议核查开发环境配置文件是否正确加载。
2025-11-02 10:24:35
426
原创 什么是vllm_ascend
vLLM-Ascend是vLLM推理框架在华为昇腾NPU上的移植版本，旨在让昇腾910/910B等设备也能使用vLLM的高性能特性（如分页KV Cache、连续批处理）。该版本通过将CUDA后端替换为华为ACL/CANN实现，适配昇腾生态，支持GLM、Kimi等国产模型的高效推理。其典型应用场景是需要国产化替代又希望保留vLLM优势的环境，安装需配备昇腾NPU和CANN工具链。该分支持续跟进国产大模型发展趋势，为昇腾用户提供类似原版vLLM的体验。
2025-11-02 10:21:25
910
原创 麒麟V10的操作系统，启动redis报错
Redis 8.2.2启动时加载了多个模块(RedisBloom/RediSearch/RedisTimeSeries/ReJSON)，但出现严重错误："Fatal: Can't initialize Background Jobs. Error message: Operation not permitted"。同时还报告了两个警告：1)内存过度分配未启用，可能导致备份或复制失败；2)TCP backlog设置511无法生效，因系统参数somaxconn值较低。错误提示初始化后台作业时
2025-10-31 18:12:12
1025
原创 怎么做一个应用测试：老外说中文说得准不准
本文系统介绍了中文口语自动评测(CAPT)的技术实现方案。核心采用标准文本与发音比对思路，通过ASR识别、强制对齐和音素比对计算发音准确度。特别针对中文特点，重点处理声母韵母混淆、声调识别等问题，并评估流利度和可理解度。文章推荐直接调用微软、阿里云等现成API实现快速部署，也详细讲解了自建系统的技术路线，包括ASR选型、对齐处理、GOP打分等关键环节。最后针对外语学习者提出优化建议，如母语特定错误模板、标准度与听懂度分离评估等，并给出FastAPI集成方案。全文提供了从理论到实践的完整技术实现指南。
2025-10-30 22:04:32
381
原创 怎么识别语音是不是孩子的声音的方法
摘要：语音年龄段识别可通过三种方式实现：1）直接调用云厂商API（如阿里云、腾讯云），快速判断儿童/成人语音；2）自建模型服务，使用ECAPA-TDNN提取声纹特征并训练分类器；3）高安全场景可组合年龄段识别、反欺骗检测和声纹验证。需注意音频质量（5-10秒清晰语音）、儿童发音特殊性及设备一致性等问题，建议根据业务需求选择方案，新上线时可考虑三档分级策略优化用户体验。
2025-10-30 20:40:51
403
原创 什么是X402协议，主要用在什么场景
Coinbase的x402协议创新性地将加密支付融入HTTP协议，利用预留的402状态码实现链上即时支付。该协议通过标准HTTP交互完成支付流程，无需用户注册或第三方支付工具，支持一次性付费、订阅制和微支付等多种场景。开发者可使用官方SDK快速集成，由Coinbase提供验证节点支持。x402协议为互联网内容付费、API服务和AI应用提供了原生Web3支付解决方案，具有无账号体系、自动执行等特点。
2025-10-29 13:04:04
1167
原创 OSS文件上传错误No buffer space available
摘要 日志显示系统在2025-10-28出现多个文件上传失败错误，主要原因是OSError(55)网络缓冲区耗尽。分析表明问题源于并发上传过多、资源未释放和缺乏速率控制。解决方案采用增强版OSS客户端，包含指数退避重试机制（最多3次）、连接池优化和资源管理功能。核心改进包括：retry_on_failure装饰器实现自动重试，连接超时设置30秒，以及带缓冲控制的文件上传方法。该方案能有效处理网络资源不足问题，确保文件上传可靠性。
2025-10-28 16:51:13
170
原创 模型置信度在实际中的应用
摘要：大语言模型(LLM)中的置信度本质上是基于token生成概率的评估指标，可通过logprobs字段获取。具体实现上，Qwen/DeepSeek/vLLM等框架提供了置信度计算功能，工程应用包括：1）答案可靠性判定（RAG/多Agent系统）；2）多模型投票；3）拒答机制；4）提示词优化。置信度与温度参数共同控制生成质量，在实际系统中（如法律检索问答）可设置阈值来保证输出可靠性。该机制能有效降低幻觉风险，提升企业级系统的安全性。
2025-10-27 21:01:06
981
原创 什么是模型的置信度
模型置信度是指模型对输出结果正确性的自我评估量化指标，反映预测可靠性。其计算方式因任务而异：分类任务取softmax最高概率，检测任务结合目标存在概率，生成模型则基于token概率分布。置信度的核心用途包括结果过滤（设置阈值）、结果排序、不确定性评估（触发人工复核）、模型校准分析及主动学习样本选择。需注意置信度不等同真实准确率，可能受温度参数影响，且不同任务定义不同。典型示例中，情感分析模型对"餐厅差评"输出"消极"的置信度为0.9，超过阈值则判定结果可信。置信度本质
2025-10-27 20:55:52
790
原创 为什么麒麟信创系统需要开启overcommit_memory才能安装postgresql成功
摘要： 本文详解了通过调整Linux内核参数vm.overcommit_memory=1和vm.max_map_count=262144解决PostgreSQL初始化内存不足的问题。overcommit_memory=1强制允许内存分配，避免内核误判；max_map_count增加进程内存映射上限。提供永久配置方法（写入/etc/sysctl.conf并执行sysctl -p），并分析该问题的根源（国产系统默认配置保守）。最后给出包含共享内存和SWAP优化的完整配置方案，适用于内存充足的环境。（149字）
2025-10-23 21:00:08
350
原创 麒麟信创系统安装pgsql-15.4 报错 popen failure: Cannot allocate memory
PostgreSQL容器启动失败诊断摘要 PostgreSQL 15.4容器启动时出现内存分配错误和程序缺失问题。诊断脚本显示系统内存不足且内核参数可能配置不当。错误表现为"popen failure: Cannot allocate memory"和"program 'postgres' not found"。建议检查系统内存资源、调整overcommit_memory参数，并验证容器镜像完整性。问题可能源于内存限制过低或PostgreSQL二进制文件路径不正确。
2025-10-23 20:55:26
329
原创 使用原有docker镜像安装其他依赖并进行打包
本文提供了一个自动重打Docker镜像的脚本，用于在quay.io/ascend/vllm-ascend:v0.11.0rc0基础镜像上安装coreutils工具。脚本具有以下特点： 支持自定义基础镜像和新镜像标签 自动检查基础镜像是否支持apt-get 使用--no-install-recommends参数缩小镜像体积 自动清理APT缓存 包含验证步骤检查安装结果 使用方式简单，只需赋予执行权限后直接运行即可，也支持自定义镜像标签。该脚本适合需要在现有镜像基础上添加额外软件包的情况。
2025-10-21 11:25:46
191
原创 开发微信小程序的支付功能，需要提供给开发人员哪些信息
微信支付商户接入配置指南摘要：本文档详细列出了微信支付直连商户模式和服务商模式所需的配置信息，包括商户号、API密钥、证书等核心参数，以及小程序关联配置。重点说明了敏感信息的传递安全要求，并提供了可直接交付开发的环境变量模板。同时强调了开发注意事项：JSAPI支付流程、回调验签、HTTPS要求、证书轮换等关键实现点，帮助开发者避免常见问题。对于服务商模式，还补充了特约商户相关配置项。文档以标准化格式呈现，便于团队协作实施微信支付功能。
2025-10-20 13:33:36
549
原创 celery 在windows电脑上运行的错误
Celery在Windows系统下运行出现"ValueError: not enough values to unpack"错误，这是由于Windows不支持prefork模式的信号机制导致的内置兼容性问题。解决方案包括：1)本地开发使用线程池(-P threads)或单进程(-P solo)；2)生产环境建议改用Linux/WSL2/Docker；3)I/O密集型任务可尝试gevent/eventlet池；4)Windows下需用硬超时(time_limit)替代软超时。这是平台相关而
2025-10-20 13:09:02
335
1
原创 监控运行大模型的显存占用率的方式
本文介绍了监控大模型显存占用率的三种递进方案：1）使用nvidia-smi命令实时查看GPU状态，提供基础采样和时序监控模式；2）推荐终端可视化工具nvtop/nvitop/gpustat，便于直观排查；3）建议生产环境采用Prometheus+Grafana+DCGM Exporter方案，实现全面指标采集、可视化看板和告警功能。文章还提供了满载告警脚本模板和性能分析工具建议，特别强调对vLLM等场景需结合请求队列指标进行综合分析，形成完整的监控闭环。
2025-10-17 21:57:45
416
原创 Python是解释语言还是编译语言？
Python通常被称为解释型语言，但实际执行过程分为两步：先将源码编译为字节码（.pyc），再由虚拟机解释执行。CPython采用这种混合模式，而PyPy通过JIT将热点代码编译为机器码提升性能。其他工具如Cython可将Python代码编译为本地机器码。通过dis模块可查看字节码，__pycache__目录存储编译后的字节码文件。虽然Python主要被认为是解释型语言，但底层实现包含编译环节，不同实现方式可使其更接近编译型语言特性。
2025-10-16 17:16:13
539
原创 python中浅拷贝 vs 深拷贝
Python拷贝机制详解 本文系统介绍了Python中赋值、浅拷贝与深拷贝的区别及使用场景。赋值（b=a）不创建新对象；浅拷贝（如a.copy()）仅复制最外层容器，嵌套对象仍共享引用；深拷贝（copy.deepcopy()）递归复制所有子对象，实现完全隔离。通过示例演示了修改嵌套对象时不同拷贝方式的表现差异，并指出元组内可变对象、自引用结构等特殊情况的处理方式。文章还提供了常见数据结构的拷贝方法速查表，以及自定义类控制拷贝行为的实现方案。最后建议根据数据结构复杂度与性能需求合理选择拷贝方式，简单结构用浅拷
2025-10-16 17:11:48
366
原创 python中装饰器是什么
本文系统介绍了Python装饰器的核心概念与实用技巧。主要内容包括：1)装饰器本质是接收并返回可调用对象的函数，通过@语法糖实现功能增强；2)基础装饰器写法需配合functools.wraps保留元数据；3)带参数装饰器的三层结构设计；4)异步协程装饰器实现要点；5)类装饰器和类实现装饰器的使用场景；6)property等内置方法装饰器；7)类型提示友好写法；8)常见实战应用场景如性能监控、重试机制等；9)8个关键实践注意事项。文章强调装饰器"不改源码、横切增强"的核心价值，并指出@wr
2025-10-16 16:59:16
372
原创 什么是Celery，能应用到什么场景
Celery是一个Python分布式任务队列框架，适用于异步处理耗时任务（如文件处理、API调用、定时任务等）。其核心架构包括生产者、消息队列（Redis/RabbitMQ）、Worker进程和结果存储。通过@task装饰器定义任务，支持自动重试、任务编排（串行/并行）和定时调度（Celery Beat）。与FastAPI集成可实现API立即返回、后台异步处理的模式。为保证可靠性，需配置任务幂等性、超时限制和内存管理。性能调优需区分CPU/IO密集型任务，采用不同并发模型（prefork/gevent）和队
2025-10-16 16:21:17
1140
1
原创 什么是python中的functools.partial
摘要：functools.partial是Python中用于固定函数部分参数的工具，返回一个新的可调用对象。它支持绑定位置参数和关键字参数，适用于回调适配、并行任务配置、排序键定义等场景，比lambda/闭包更简洁高效。与partialmethod配合可优化类方法定义，返回对象包含原始函数、绑定参数等可调试属性。需注意参数冲突、可变对象引用等细节，适合纯参数预置场景，复杂逻辑仍需闭包实现。典型应用包括简化重复调用、接口适配和函数工厂等。
2025-10-16 14:01:26
218
citycode.sql
2019-07-02
xhell和Xftp学校版本
2020-10-21
navicat for sqlite安装文件
2019-01-15
geexekscore.zip
2020-06-12
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人