22-分支和循环语句_while语句（下）

无故799

已于 2024-03-20 18:20:40 修改

阅读量352

点赞数 11

文章标签： c语言 visual studio

于 2024-03-17 12:25:55 首次发布

本文链接：https://blog.youkuaiyun.com/weixin_63260114/article/details/136779967

版权

该代码输出什么？

int main()
{
	char ch = '\0';
	while ((ch = getchar()) != EOF)
	{
		if (ch < '0' || ch>'9')
		{
			continue;
		}
		putchar(ch);
	}
	return 0;
}

结果：该代码只打印数字字符

附：ASCII码表

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

无故799

关注关注

11
点赞
踩
6

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

浅谈大模型「蒸馏」是什么技术！

女王の专属领地

02-17

901

大模型蒸馏（Model Distillation）是一种将大型、复杂模型（教师模型）的知识迁移到小型、高效模型（学生模型）的技术，旨在解决大模型部署成本高、推理速度慢的问题。为什么要用蒸馏把大模型学习到的东西迁移到小模型呢？因为大的模型很臃肿，而真正落地的终端算力有限，比如手表，安防终端。所以要把大模型变成小模型，把小模型部署到终端上。核心原理。

什么是蒸馏？一文带你了解机器学习中的知识蒸馏

Science prince的博客

02-02

394

知识蒸馏（Knowledge Distillation）作为一种有效的模型压缩技术，通过将“教师”模型的知识迁移到“学生”模型中，可以在保持甚至提升性能的同时，显著减小模型的体积并降低计算成本。知识蒸馏是一种有效的模型压缩和性能提升方法。通过将教师模型的知识迁移到学生模型，可以在保持甚至超越原模型性能的前提下，显著减少模型的大小和计算成本。

参与评论您还未登录，请先登录后发表或查看评论

什么是知识蒸馏？

百态老人的博客

07-24

3629

研究目录一、知识蒸馏的基本原理二、知识蒸馏在苹果公司LLMs中的应用三、什么是知识蒸馏？四、知识蒸馏的基本原理是什么？五、知识蒸馏如何提高模型性能？六、知识蒸馏与模型压缩的关系是什么？七、知识蒸馏如何减少计算复杂度？八、知识蒸馏如何降低资源需求？九、知识蒸馏如何提高模型的泛化能力？十、知识蒸馏中的教师模型和学生模型是什么？十一、教师模型如何训练？十二、学生模型如何模仿教师模型？十三、知识蒸馏中的数据增强技术有哪些？十四、如何设计知识蒸馏的损失函数？十五、如何优化模型架构以提高知识蒸馏效果？十六、知识蒸馏在自

什么是知识蒸馏技术？

weixin_43156294的博客

02-01

1151

知识蒸馏（Knowledge Distillation）是一种模型压缩和加速技术，旨在将大型模型（通常称为教师模型）所学到的知识迁移到小型模型（通常称为学生模型）中，从而让小型模型在减少计算资源消耗和推理时间的同时，尽可能达到接近大型模型的性能。具有很好的成本效益，在实际应用中有助于降低计算资源需求和部署成本。

什么是大模型蒸馏？一文搞懂大模型知识蒸馏

m0_65555479的博客

04-13

1368

知识蒸馏是一种机器学习模型压缩方法，它用于将大型模型（教师模型）的知识迁移到较小的模型（学生模型）中。知识蒸馏（KD），也被称为教师-学生神经网络学习算法，是一种有价值的机器学习技术，旨在提高模型性能和泛化能力。它通过将知识从复杂的模型（称为教师模型）转移到更简单的模型（称为学生模型）来实现这一点。KD背后的核心思想是将教师模型的综合知识转化为更精简、更有效的表示。本文，我们将概述利用LLM作为教师的蒸馏方法。根据这些方法是否将LLM的涌现能力（EA）提炼成小语言模型（SLM）来对这些方法进行分类。

什么是数据蒸馏？与知识蒸馏有何不同？

xx_nm98的博客

02-25

2168

1.1 定义与目标数据蒸馏（Dataset Distillation）是一种新兴的机器学习技术，其核心在于从大规模数据集中提取关键信息，生成一个规模更小但更具代表性的合成数据集，从而在保持模型性能的同时，显著降低数据存储和计算成本。具体而言，数据蒸馏的目标是通过优化合成数据集，使得在该数据集上训练的模型能够达到与在原始大规模数据集上训练的模型相当的性能。

大模型微调和蒸馏是什么？什么时候用蒸馏？什么时候用微调？

2401_83450572的博客

03-20

1021

模型蒸馏是一种。

什么是蒸馏技术

2401_84204413的博客

03-19

734

蒸馏技术（Knowledge Distillation, KD）是一种模型压缩和知识迁移的方法，旨在将一个复杂模型（通常称为“教师模型”）的知识转移到一个小型模型（通常称为“学生模型”）中。蒸馏技术的核心思想是通过模仿教师模型的输出或中间特征，使学生模型能够在保持较高性能的同时，显著减少参数量和计算复杂度。蒸馏技术最初由Hinton等人在2015年提出，主要用于深度学习领域，现已成为模型压缩、加速和迁移学习的重要工具。蒸馏技术的核心是通过教师模型的“软标签”（soft labels）来指导学生模型的训练。

数据蒸馏到底是什么？一文为你解锁AI知识传承的密码

打造全国最全的AI Agent开发知识领域的博客

04-22

480

数据蒸馏是AI领域突破性的知识压缩技术，通过将复杂模型的隐性知识提炼为轻量级模型可吸收的显性知识，实现效率与性能的平衡。这项技术在医疗影像分析中已实现98%精度下推理速度提升40倍，正成为AI普惠化落地的核心引擎。

知识蒸馏是什么？（Knowledge Distillation）KD

Drug discovery

08-23

1299

知识蒸馏是什么？（Knowledge Distillation）KD

病理图像分析中双层级特征蒸馏多示例学习（DTFD-MIL）的PyTorch实现及详解（复现论文，含详细可运行代码及解释）

03-31

内容概要：本文详细介绍了双层级特征蒸馏多示例学习（DTFD-MIL）框架的实现及其应用场景。首先，文中定义了一个基础注意力多示例学习模块（AB-MIL），用于计算实例权重并进行初步分类。接着引入了伪包生成器，通过将...

目标检测模型蒸馏：Logits与特征蒸馏对比

AI智能探索者的博客

04-15

739

知识蒸馏(Knowledge Distillation)作为一种有效的模型压缩和迁移学习技术，在计算机视觉领域得到了广泛应用。本文聚焦于目标检测任务中的知识蒸馏技术，特别是对两种主流方法——Logits蒸馏和特征蒸馏进行深入对比分析。两种蒸馏方法的基本原理和数学表达在目标检测任务中的具体实现方式性能对比和适用场景分析实际应用案例和代码实现本文首先介绍知识蒸馏的基本概念，然后分别深入探讨Logits蒸馏和特征蒸馏的原理与实现。

Python----循环神经网络（LSTM：长短期记忆网络）

weixin_64110589的博客

05-23

1002

RNN在处理长序列时存在长期依赖问题，即随着序列增长，模型难以记住较早时刻的信息，导致梯度消失或爆炸。为解决这一问题，LSTM（长短期记忆网络）被提出，它通过引入门控机制（输入门、遗忘门、输出门）来选择性保留或丢弃信息，从而更好地捕捉长期依赖关系。LSTM的输入门决定新信息的保留程度，遗忘门控制旧信息的遗忘程度，细胞状态则通过选择性更新来存储记忆。虽然LSTM不能完全避免梯度消失或爆炸，但它通过门控机制显著改善了这一问题，使其在处理长序列时表现更优。

Dataset和Dataloader

最新发布

zx15600886035的博客

05-27

466

维度DatasetDataLoader核心职责定义“数据是什么”和“如何获取单个样本”定义“如何批量加载数据”和“加载策略”核心方法（获取单个样本）、__len__（样本总数）无自定义方法，通过参数控制加载逻辑预处理位置在中通过transform执行预处理无预处理逻辑，依赖Dataset返回的预处理后数据并行处理无（仅单样本处理）支持多进程加载（典型参数root（数据路径）、transform（预处理）batch_sizeshuffle核心结论Dataset类：定义数据的内容和格式。

深度学习之-目标检测算法汇总(超全面)

一个不怎么正经的算法工程师的博客~不定期更新一些我所覆盖领域的干货~~~包你满意噢~~

05-22

1805

概括了目前YOLO目标检测模型从YOLOv1到YOLOv12的演进，并介绍了多种改进方法。这些改进包括引入注意力机制、多尺度特征融合、模型轻量化、与其他新技术结合（如Mamba模型、扩散模型等），以及优化损失函数和训练策略。文章还探讨了YOLO在农业、医疗、交通等领域的应用，并展示了其在复杂场景中的检测性能提升。此外，文章介绍了基于Transformer和MLP的目标检测改进方法，以及如何将大模型（如SAM）应用于目标检测任务。这些改进不仅提高了检测精度，还增强了模型的实时性和适应性。

计算机视觉与深度学习 ｜基于 YOLOv8 + BeautyGAN + CodeFormer + Face Parsing 实现简单的人脸美颜

尘世冰封的专栏

05-24

264

以下是一个基于YOLOv8、BeautyGAN、CodeFormer和Face Parsing的完整人脸美颜实现方案。包含算法流程、完整代码实现（附详细注释）和核心公式说明。该实现方案完整覆盖从人脸检测到美颜输出的全流程，代码经过模块化设计便于扩展。Face Parsing皮肤分割。CodeFormer细节增强。BeautyGAN皮肤美化。YOLOv8人脸检测。

Nat Rev Genet | 如果DNA序列能“说话”？深度学习S2E（序列2表达）模型正在听懂基因组的调控秘密！

组学之心，专注多组学/ 医学AI 领域

05-24

1113

基因转录调控：基因转录受启动子和增强子等DNA元件调控，其活性又受**转录因子（TFs）**控制。高度复杂的组合逻辑：调控网络涉及TFs和调控元件之间复杂的组合作用，使得仅从DNA序列预测基因活性的计算模型构建异常困难。

学习深度学习是否要先学习机器学习？

2501_91695603的博客

05-17

1769

不管你后面是不是真的想要从事机器学习或者深度学习这方面，我都希望你能有时间去学习的时候，多多的了解一下 AI 技术，还是那句话，时间紧的情况下，怎么快速的为目标服务是最重要的，先学对自己有用自己需要的内容。就比如我给计算机一些动物的图片，然后告诉计算机哪个是老虎，哪个是狮子，计算机根据我给出的“图片和答案的特征”去学习“老虎为什么是老虎，狮子为什么是狮子”。这三部分看着挺唬人，其实只需要学习需要的内容，如果你的时间稍微宽裕一点，可以花一个半月左右的时间，如果时间紧，那就压在一个月以内一鼓作气的搞定。

【深度学习】损失“三位一体”——从 Fisher 的最大似然到 Shannon 的交叉熵再到 KL 散度，并走进 PET·P-Tuning微调·知识蒸馏的实战

weixin_41645791的博客

05-24

785

1912 Fisher 用最大似然把「让数据出现概率最高」变成参数学习；1948 Shannon 把交叉熵解释成「最短平均编码长度」；1951 Kullback-Leibler 用相对熵量化「多余信息」。三条历史线落到今天深度学习同一个损失——交叉熵。下面按时间 → 问题 → 数学 → 代码的顺序拆解，并演示它们在二/多分类、知识蒸馏（含温度 T）和 PET 软模板微调里的角色。

特征蒸馏

03-08

### 特征蒸馏概述特征蒸馏属于知识蒸馏的一种形式，在此过程中，教师模型不仅传递预测标签的信息给学生模型，还通过中间层的特征表示来指导学生模型的学习过程[^1]。 ### 原理阐述在传统监督学习框架下，模型通常仅基于输入数据和对应的真实标签进行训练。而在特征蒸馏场景中，除了利用真实标签外，还会引入一个预先训练好的高性能复杂模型作为教师模型。该教师模型能够提供额外的知识——即不同层次上的特征映射，这些特征映射对于捕捉特定任务所需的关键模式至关重要。具体来说，学生网络会尝试模仿教师网络内部各层产生的激活响应，从而获得更丰富的语义信息并提高泛化能力。 ### 应用场景分析 #### 图像识别领域在一个典型的图像分类案例里，大型卷积神经网络可以充当教师角色，而轻量级版本则扮演学生的身份。通过对齐两者间高层视觉特征图谱的方式，后者能够在保持较低计算成本的同时达到接近前者的性能水平。这使得部署于边缘设备成为可能，例如智能家居摄像头或移动终端上的人脸解锁功能等。 ```python import torch.nn as nn class FeatureDistillationLoss(nn.Module): def __init__(self, temperature=2.0): super(FeatureDistillationLoss, self).__init__() self.temperature = temperature def forward(self, student_features, teacher_features): loss_fn = nn.MSELoss() distillation_loss = loss_fn(student_features / self.temperature, teacher_features.detach() / self.temperature) return distillation_loss * (self.temperature ** 2) ``` #### 自然语言处理方向当面对文本摘要生成这样的NLP难题时，预训练的语言模型如BERT可被视作强大的导师；相比之下，较小规模且易于推理的小型RNN/LSTM架构则是理想的学生候选者。借助特征蒸馏机制，可以使简易结构继承到复杂的上下文理解技巧，进而优化最终产出的质量与效率。