weixin_43999691的博客

基本概念教师模型：一个已经训练好的、性能优异的大模型。学生模型：一个较小、较简单的模型，目标是学习教师模型的行为和知识。软标签（Soft Labels）：教师模型输出的概率分布，而不是简单的类别标签，这些概率分布包含了教师模型关于输入数据的丰富信息。训练过程训练教师模型直到它达到较高的准确率。使用教师模型的输出（软标签）来训练学生模型。学生模型同时学习硬标签（实际类别标签）和软标签，以此来模拟教师模型的行为。

🧬Fine-tuning Guide 微调指南了解微调的所有基础知识和最佳实践。适合初学者。

Unsloth是一个开源项目，主要致力于提高大型语言模型（LLMs）的微调效率。该项目由Daniel Han和Michael Han领导的团队开发，旨在为开发者提供一个高效且低内存占用的微调解决方案。：Unsloth通过优化内核和手动反向传播引擎，实现了微调训练速度的2倍提升。同时，与传统微调方法相比，内存使用减少了70%至80%，使得在相同硬件资源下可以处理更大的数据集和更复杂的模型。

YOLOv12和YOLOv11都是YOLO（You Only Look Once）系列中的实时目标检测模型，但它们在设计和性能上有所不同。总的来说，YOLOv12在继承YOLO系列优势的基础上，通过引入注意力机制和优化网络架构，实现了更高的检测精度和更快的推理速度。

参加开发者大会，逛了相应的workshop，对超级编码技术很感兴趣，RＫ做了很多事情，挺好的！

Unet眼底血管的分割

之前看到openpose的时候，想pt转onnx再转rknn，但是精度总是有问题，看到原来的openpose是caffe训练的，找了找caffe的模型，尝试转了rknn，没想到成功了，现在记录一下转化时候的坑！！！有坑的！！！

RK1808M0驱动更新

Yolov5 转换成 RKNN模型