clip算法的研究:《CLIP 零样本实战:两行代码教会模型“认轮椅”——从概率矩阵到余弦相似度》

该博客介绍了如何运用预训练的CLIP模型进行图像分类。通过计算文本和图像特征的余弦相似度,确定图像内容。内容涉及加载图像、处理文本描述、提取特征以及计算相似度。

wheelchair.jpg
nowheelchair.jpg
[[0.31989905 0.18366921]
 [0.31910986 0.18774156]]

代表了概率。第一个代表了他的概率是0.3198 这个数值是大的 因此认为是轮椅

另外一个代表了0.18777 代表了不是轮椅

目录

一、为什么选 CLIP?

二、素材只有 4 样东西

三、代码 walk-through(完整可跑)

四、输出矩阵一眼看懂

五、3 行代码完成「零样本分类」

六、还能怎么玩?

七、经验小结

八、一句话总结


标题:

封面一句话:
不用微调,不用标注,只要两张图 + 两句话,让开源 ViT-B/32 告诉你“哪张是轮椅”。


一、为什么选 CLIP?

OpenAI 的 CLIP(Contrastive Language-Image Pre-training)把“视觉”和“语言”压到同一向量空间。
零样本能力:见词即识图,无需再训练。

表格

复制

传统 CNN CLIP
需要千张标注 2 张图 + 2 句话
重新训练 向量点积即分类
固定类别 任意文本实时扩展

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

交通上的硅基思维

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值