Tipriest的博客

本文从工程实践角度解析PyTorch模型本质与应用方法。模型由计算图代码(nn.Module)和训练参数(state_dict)组成，nn.Module定义前向逻辑，state_dict保存权重。训练完成后，模型可用于推理、部署服务、迁移学习等场景。关键点包括：使用eval()模式切换推理行为，no_grad()减少计算开销，以及设备管理。文章还介绍了模型封装、API服务化、批量推理等实践方法，并提及预训练模型的微调技巧。通过具体代码示例，展示了从模型定义到实际应用的全流程。

TensorRT 是 NVIDIA 提供的深度学习推理优化引擎，主要用于提升模型在 NVIDIA GPU 上的推理性能。它通过模型图优化、精度量化（FP16/INT8）、内存规划等技术，显著提高吞吐量并降低延迟。相比原生框架推理，TensorRT 能带来 2-8 倍的加速效果，同时更稳定且易于部署。典型工作流程包括：导出 ONNX 模型→构建 TensorRT 引擎→部署推理。入门建议从简单模型（如 ResNet18）开始，逐步掌握性能对比和 INT8 量化。实战示例展示了 PyTorch→ONNX→Ten

Ultralytics 8.3.0版本发布了丰富的模型资源，主要包括分割模型（SAM系列、MobileSAM、FastSAM）和YOLO系列模型。YOLO系列涵盖检测、分割、姿态、分类和旋转框等多种任务，包含YOLOv3/v5兼容模型、YOLOv8/v9/v10主力模型以及最新的YOLOv11家族。其中YOLOv11作为重点更新，提供检测、分割、姿态、分类和旋转框检测的全套解决方案。模型按规模分为nano/small/medium/large/xlarge，用户可根据计算资源选择合适版本。该版本还包含校准数