- 博客(14)
- 收藏
- 关注
RSS订阅原创 《昇思学习营-模型推理和性能优化学习心得》
本文分享了DeepSeek-R1-Distill-Qwen-1.5B模型在香橙派20T设备上的推理优化实战经验。核心内容包括：1）基础推理流程优化，如FP16权重加载和生成参数调优；2）性能瓶颈分析与优化策略，重点介绍了计算图编译和内存优化技巧；3）高级优化方案，包括动态批处理和INT8量化；4）典型问题解决方案，如长文本重复生成和响应时间波动。通过JIT编译+FP16组合方案，实现了首token延迟<1.5s、平均延迟<0.35s、显存占用<6GB的性能表现，为边缘设备部署提供了实用参考
2025-08-05 22:50:06
322
原创 《昇思学习营-lora微调学习心得》
本文总结了在香橙派开发板上对DeepSeek-R1-Distill-Qwen-1.5B模型进行LoRA微调的关键经验。LoRA技术通过添加低秩矩阵实现高效微调，适合资源有限的环境。重点包括：环境配置的内存限制技巧、LoRA微调的核心代码结构（冻结原模型、仅训练Adapter）、常见问题解决方法（OOM处理、损失震荡优化）以及效果验证方式。文章还提供了进阶优化技巧（动态秩选择、混合精度训练）和实践建议（数据筛选、增量训练）。实验证明，该方法在香橙派上能有效实现领域适应和风格迁移，特别适合垂直领域的小样本微调场
2025-08-05 22:46:59
479
原创 《昇思学习营-模型开发与适配学习心得》
本文档详细介绍了DeepSeek-R1-Distill-Qwen-1.5B模型的开发与适配流程。内容包括：1) 环境准备（硬件要求、软件版本及搭建步骤）；2) 模型开发流程（基础验证测试、常见问题解决方案）；3) 性能优化技巧（内存优化、推理性能优化）；4) 开发注意事项；5) 参考资料与常用命令速查。重点涵盖了MindSpore版本升级、算子缺失处理、损失函数优化等关键技术点，为开发者提供了完整的实施指南。文档特别针对OrangePI开发板环境进行了适配说明，并包含详细的问题排查和优化方法。
2025-08-05 21:48:04
962
原创 mysql开启不了
最近，我开了个服务器，为了节约成本我的服务器开的是最低规格，单核0.5gb，然后用来做一个项目，结果发现mysql下载不了，总会报错，排查了很久原因，然后用到查资料的时候用到打开MySQL的命令。然后再StackOverflow上面查找，别人说可能因为内存过小，之后把内存改为1gb就可以正常运行了。还是不能太过节约成本。
2023-04-19 14:48:46
260
原创 7.常用存储器
文章目录常用存储器FLASH存储特性常用存储器易失性存储器RAMDRAM（用电容存储电压，会放电丢失数据，要不断刷新）SDRAM （异步,上升沿都同步数据）DDR SDRAMDDRII SDRAM（上升和下降沿都同步数据，时钟极限频率800MHz）DDRIII SDRAM（上升和下降沿都同步数据，时钟极限频率1600MHz）SRAM（利用锁存器来存储数据）非易失性存储器ROMMASK ROM（出厂时固化，不可修改）PROMOTPROM（用户可写入一次，
2023-04-18 22:31:24
182
原创 Fats文件系统
完全由AISI C语言编写，完全独立于底层I/O介质————可移植性强FATFS是一个轻量级的开源嵌入式文件系统，主要用于小型嵌入式系统和存储器中。其基于FAT文件系统的设计，支持多种硬件和操作系统平台，包括但不限于ARM，AVR，STM32等。FatFs被广泛应用于可移动存储设备，如U盘、SD卡、microSD卡等。轻量级：FatFs非常适合嵌入式系统，其代码占用空间小，运行速度快。灵活性：FatFs支持多种簇大小和分区大小，可以根据应用的需要进行配置，适应不同的存储器。
2023-04-18 22:03:17
740
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人