学习方法总结(2)

最近发现一个问题,就是自己的知识边界似乎越来越广了.但是似乎并不是什么好事真正属于自己的东西并不多.

读书之法在于熟读而精思,循序而渐进.要达到熟度和精思就必须要控制自己的学习范围,"人力有时尽"这句话可不是盖的.熟读强调的是"书读百遍""贪多嚼不烂",怎么才算是"精思",大概强调的是要举一反三,认识变种吧!就如一种模式,在一个情况下使用,换了情况要认识,还要会改动使它适用新情况,突出的要我们"想得到就做得到"的做事方式(当然有优劣).

问题出现是因为用的是盗版软件,一些自动化过程就直接挂掉.辛好很多操作采用手动也可以解决,所以不要轻易放弃这些漏洞,多想想,有易于自己更深刻的理解工具的工作方式,也易于自己理解编程语言.

代码大权中一句话"深入一种语言去编程",还有一句不知道哪里的来的话:""用行外的人的方式去思考,用行内人的方式去解决"大概强调的就是突破语言的局限,仅仅把语言当作一种工具,所以用c++,c,vb还是其它语言对真正的程序员来说是无所谓的.这种程序员应该也称的上思想家吧!

关于翻译,自己又实在是郁闷干巴巴的背单词,看阅读.翻译纯粹是为了学习英语.总结一下经验:

1)金山词霸是要滴,

2)有图的话要看图,然后再看英文.

3)英语的构篇习惯是在最后来一句简单明了的总结句,所以直接先看最后吧!

4)划分层次.就是把长句划成短句理解

5)朗读,很迷糊就多读几遍,"书读百便,其意自现"放之四海皆准!

5)书籍呢最好选择有英文电子版的,和汉译的中文本!看了英文感受一下自己的理解,在看中文,然后再看英文,这时要抓细节,抓关键.

偶尔看了贴子的同志要提提意见啊!把我当小弟就好了!在家族中一直是最小的...........习惯被人管!

 

夷长技以制夷,一定要盖住美国姥!

### 使用Transformer模型进行图像分类的方法 #### 方法概述 为了使Transformer能够应用于图像分类任务,一种有效的方式是将图像分割成固定大小的小块(patches),这些小块被线性映射为向量,并加上位置编码以保留空间信息[^2]。 #### 数据预处理 在准备输入数据的过程中,原始图片会被切分成多个不重叠的patch。假设一张尺寸为\(H \times W\)的RGB图像是要处理的对象,则可以按照设定好的宽度和高度参数来划分该图像。例如,对于分辨率为\(224\times 224\)像素的图像,如果选择每边切成16个部分的话,那么最终会得到\((224/16)^2=196\)个小方格作为单独的特征表示单元。之后,每一个这样的补丁都会通过一个简单的全连接层转换成为维度固定的嵌入向量。 ```python import torch from torchvision import transforms def preprocess_image(image_path, patch_size=16): transform = transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), # 假设目标分辨率是224x224 transforms.ToTensor(), ]) image = Image.open(image_path).convert('RGB') tensor = transform(image) patches = [] for i in range(tensor.shape[-2] // patch_size): # 高度方向上的循环 row_patches = [] for j in range(tensor.shape[-1] // patch_size): # 宽度方向上的循环 patch = tensor[:, :, i*patch_size:(i+1)*patch_size, j*patch_size:(j+1)*patch_size].flatten() row_patches.append(patch) patches.extend(row_patches) return torch.stack(patches) ``` #### 构建Transformer架构 构建Vision Transformer (ViT),通常包括以下几个组成部分: - **Patch Embedding Layer**: 将每个图像块转化为低维向量; - **Positional Encoding Layer**: 添加绝对或相对位置信息给上述获得的向量序列; - **Multiple Layers of Self-Attention and Feed Forward Networks**: 多层自注意机制与前馈神经网络交替堆叠而成的核心模块; 最后,在顶层附加一个全局平均池化层(Global Average Pooling)以及一个多类别Softmax回归器用于预测类标签。 ```python class VisionTransformer(nn.Module): def __init__(self, num_classes=1000, embed_dim=768, depth=12, num_heads=12, mlp_ratio=4., qkv_bias=False, drop_rate=0.): super().__init__() self.patch_embed = PatchEmbed(embed_dim=embed_dim) self.pos_embed = nn.Parameter(torch.zeros(1, self.patch_embed.num_patches + 1, embed_dim)) self.cls_token = nn.Parameter(torch.zeros(1, 1, embed_dim)) dpr = [drop_rate for _ in range(depth)] self.blocks = nn.Sequential(*[ Block( dim=embed_dim, num_heads=num_heads, mlp_ratio=mlp_ratio, qkv_bias=qkv_bias, drop=dpr[i], ) for i in range(depth)]) self.norm = nn.LayerNorm(embed_dim) self.head = nn.Linear(embed_dim, num_classes) def forward(self, x): B = x.shape[0] cls_tokens = self.cls_token.expand(B, -1, -1) x = self.patch_embed(x) x = torch.cat((cls_tokens, x), dim=1) x += self.pos_embed x = self.blocks(x) x = self.norm(x) return self.head(x[:, 0]) ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值