深度学习常见框架：TensorFlow 与 PyTorch 简介与对比 本文系统介绍了当前深度学习领域最主流的两个框架 —— TensorFlow 与 PyTorch。文章从发展背景、核心理念、主要组件、应用场景等方面，逐一解析它们的特性与差异，帮助读者全面了解各自的优势与使用场景。重点内容包括：✅ TensorFlow 由 Google 推出，具备强大的工程部署能力，适合大规模模型训练与跨平台部署；🔶 PyTorch 源于 Meta（Facebook），以灵活易用、Pythonic 编程体验著称，广受研究与教育界青睐；🔍 对比了二者在计算图结构、调试体验、

阅读 2.9k

90赞

收藏 85
加速LLM大模型推理，KV缓存技术详解与PyTorch实现 本文详细阐述了KV缓存的工作原理及其在大型语言模型推理优化中的应用，文章不仅从理论层面阐释了KV缓存的工作原理，还提供了完整的PyTorch实现代码，展示了缓存机制与Transformer自注意力模块的协同工作方式。实验结果表明，随着序列长度增加，KV缓存技术的优势愈发明显，在长文本生成场景中能将推理时间降低近60%。这一技术为优化大模型部署提供了一种无需牺牲精度的实用解决方案，为构建更高效的AI应用奠定了基础。作者：Shubh Mishra。

阅读 5.2k

28赞

收藏 13
解决PyTorch中的RuntimeError: CUDA error: device-side assert triggered 大家好，我是默语，擅长全栈开发、运维和人工智能技术。在这篇文章中，我将深入探讨如何解决PyTorch中的一个常见错误：RuntimeError: CUDA error: device-side assert triggered。这个错误常常让开发者头疼，因为它涉及到GPU设备的断言错误，可能会导致程序崩溃。通过本文的详细分析和代码示例，希望帮助大家顺利解决这个问题，提高模型的运行效率。在PyTorch中，张量的数据类型必须与模型的预期类型匹配。如果存在不匹配，可能会导致CUDA设备上的断言失败。

阅读 7.7w

66赞

收藏 29
从零开始用 PyTorch 搭建 CNN 手写数字识别模型（MNIST 实战教程） 本篇文章将带你从零开始，使用 PyTorch 搭建一个卷积神经网络（CNN）模型，实现对手写数字的识别。我们将以经典的 MNIST 数据集为例，深入讲解数据加载、模型构建、训练与评估的全过程，并最终实现自定义手写图片的本地识别测试。通过理论结合实战，读者不仅能够掌握 PyTorch 的基础用法，还能理解 CNN 在图像处理中的应用原理。本教程适合深度学习初学者以及希望通过实战提升技能的开发者，配有完整源码和注释，助你轻松入门 AI 世界。📌关键词：PyTorch、CNN、MNIST、手写数字识别、

阅读 2.1k

79赞

收藏 96
【语义分割】评价指标IOU，PC，Acc，SE，SP，dice，F1的计算公式及实现代码（Pytorch） 常见评价指标Iou，pc，Acc，SE，SP，dice，F1

阅读 908

22赞

收藏 8
【零基础入门】从PyTorch计算机看反向传播（求梯度/求导） PyTorch的自动求导（autograd）通过动态计算图实现梯度计算。计算图将张量（Tensor）的运算过程记录为节点与边，每一步操作（如加减乘除）都会构建图结构。调用backward()时，系统从输出节点反向遍历计算图，利用链式法则逐层计算梯度，并存储在对应张量的.grad属性中。autograd模块自动管理中间变量，无需手动推导公式。通过requires_grad=True开启跟踪，结合with torch.no_grad()可灵活控制求导范围。这种机制让神经网络的训练变得高效且直观。

阅读 1.5k

76赞

收藏 60
保姆级下载安装GPU(CUDA)版本PyTorch 摘要用心了

阅读 3.3w

116赞

收藏 348
从理论到实践：Pytorch实现注意力机制到Triton优化 从数学理论到编程实践：Pytorch实现多头注意力到Triton优化

阅读 875

39赞

收藏 11
关于pytorch中contiguous（内存连续性）的一些理解 （封面与正文无关）

阅读 661

24赞

收藏 16
【PyTorch】轻松应对 PyTorch 安装：兼容性问题解析 本文以使用 Python 3.13 环境与 CUDA 11.7 配合安装 PyTorch 为例，介绍了在安装过程中可能遇到的常见问题，特别是版本兼容性引发的安装失败。我们详细分析了 Python、CUDA 和 PyTorch 版本之间的依赖关系，特别是在安装过程中如何避免版本冲突和找不到分发版的情况，并提供避免版本冲突及找不到合适分发版的解决方案。版本兼容性检查：确保所用的 Python、CUDA 和 PyTorch 版本相互兼容，避免因版本冲突导致的安装失败。常见错误及其解决方案。

阅读 8.2k

22赞

收藏 52
作者推荐
船长Q
一名独立开发者，因为相信所以看见，时代不会辜负长期主义者。
关注
Hiweir ·
日常分享NLP自然语言处理的学习笔记， 若大佬们发现了我的学习错误，欢迎大佬们指正，万分感谢
关注
@李思成
愿我们的青春如花般绽放。 个人邮箱li_sicheng@126.com
关注
电科_银尘
希望能给大家带来一点帮助！
关注
小白的高手之路
小Liang爱学习 期待共同进步
关注
四口鲸鱼爱吃盐
但行好事
关注
E寻数据
擅长数据分析、机器学习、深度学习相关技术。
关注
Hi20240217
每天进步一点点
关注
JennnyZhang
电子科技大学-计算机学院-计算机视觉 https://github.com/JennyZhang0810
关注
Dawn³
数学进圈，AI进阶小小只，day-to-day coding 喜欢实操
关注