- 博客(4)
- 收藏
- 关注
RSS订阅原创 学习记录多模态1-clip
图像分支是resnet50或是vit，文本分支和bert的结构类似，采用12层transformer，8个head，词表大小是49,152。通过encoder特征提取以后，图像分支获得的特征是[batch, embed_dim]，文本分支获得的特征是[batch, embed_dim]。特征间进行两两计算，[batch, embed_dim] * [embed_dim, batch] = [batch, batch]，获取到batch*batch对样本之间的距离。CLIP的成功，在于数据量的扩大，
2025-06-12 14:03:53
263
原创 warmup lr+CosineAnnealingLR策略
warmup lr策略就是在网络训练初期用比较小的学习率，线性增长到初始设定的学习率。大概就是下面这个趋势，从0上升到0.01，再按照正常的学习率调整策略训练。import torchfrom torch.optim.lr_scheduler import _LRSchedulerclass WarmUpLR(_LRScheduler): """warmup_training learning rate scheduler Args: optimiz
2020-11-19 15:03:39
8264
9
原创 brew_install
#!/bin/bashset -u# First check if the OS is Linux.if [[ "$(uname)" = "Linux" ]]; then HOMEBREW_ON_LINUX=1fi# On macOS, this script installs to /usr/local only.# On Linux, it installs to /ho...
2020-03-10 17:53:15
1629
原创 FCN+CRF
经过fcn的输出图可以接CRF后处理。python版本代码安装：pip install pydensecrf测试语句：python inference.py image.jpg output.png result.pngimage是原图，output是CNN语义分割结果，result是CRF处理后的图。利用fcn输出结果测试。我最开始的输出是这样的。。。后来...
2018-08-24 14:56:43
3843
11
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人