- 博客(6)
- 收藏
- 关注
转载 大模型--指令微调
指令是一种通过在上进一步训练LLMs的过程。其中,。这个过程有助于LLMs的下一个词与用户让LLMs遵循的目标之间的。。但是,它们的目标依然有差别。SFT是一种使用标记数据对预训练模型进行微调的过程,以便模型能够更好地执行特定任务。而指令微调是一种通过在包括(指令,输出)对的数据集上进一步训练大型语言模型(LLMs)的过程,以。指令微调的特殊之处在于其数据集的结构,即由人类指令和期望的输出组成的配对。这种结构使得指令微调。总的来说,。
2025-09-17 15:57:22
70
转载 【SAM综述】医学图像分割的分割一切模型:当前应用和未来方向
Cheng等为了桥接自然图像与医学图像之间巨大的域差距,引入了SAM-Med2D,这是将SAM应用于医学2D图像的最全面的研究,他们在image编码器中加入可学习的适配器层,对prompt编码器进行微调,并通过交互式训练更新mask解码器。Chen等人引入了一种模态无关的SAM自适应框架(MASAM),适用于各种体积和视频医疗数据,它将一系列可调的3D adapters注入图像编码器的每个 transformer 块,并将它们与mask解码器一起进行微调。最近的几项研究也在探索这一方向。
2025-02-23 11:31:08
371
转载 SAM(Segment Anything Model)代码解析与结构绘制之Mask Decoder
由此可见,经TwoWayTransformer获得了iou_token_out和mask_tokens_out,iou_token_out由iou_prediction_head(1个MLP)实现iou预测,4个mask_tokens_out分别经过1个MLP所获得的映射拼接后,与经过output_upscaling上采样后的图像嵌入(包含image encoder嵌入和prompt mask嵌入)进行矩阵相乘,得到mask预测。中将 [1,256] 下采样至 [1,32]。
2024-11-17 19:27:18
426
转载 SAM(Segment Anything Model)代码解析与结构绘制之Prompt Encoder
【segment_anything/predictor.py --> SamPredictor类 -->predict_torch函数】【segment_anything/modeling/prompt_encoder.py -->PromptEncoder类】【segment_anything/predictor.py --> SamPredictor类 -->predict函数】调用forward_with_coords将point归一化到[0,1],调用_pe_encoding完成位置编码。
2024-11-16 16:37:36
508
转载 SAM(Segment Anything Model)代码解析与结构绘制之Image Encoder
【segment_anything/predictor.py --> SamPredictor类 --> set_torch_image函数】【segment_anything/predictor.py --> SamPredictor类 --> set_image函数】【segment_anything/modeling/sam.py --> sam类 --> preprocess函数】:缩放、转换为Tensor,通道调整,调用set_torch_image函数。,使用官方的狗狗图像,采用。
2024-11-15 11:18:03
544
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅