遥感资源大放送(上):用开源代码,训练土地分类模型

如何像DeepSeek一样低成本训练遥感大模型 免切片预处理的遥感大数据基础平台,将为遥感大模型训练带来怎样的改变? 阅读详情
AI摘要

本文介绍了遥感影像在地理信息领域的应用及其挑战,包括数据格式不统一和存储空间问题。文章讨论了土地分类的三种方法:GIS地理信息系统分类、机器学习算法分类和神经网络语义分割分类。特别强调了深度学习中的语义分割技术,如FCN、SegNet和DeepLab模型在提高土地分类精度和效率上的优势。通过实例展示了DeepLab-v3+模型的训练和应用,并提供了数据集和模型训练资源,鼓励读者利用开放遥感数据集进行模型优化训练。

教程传送门

遥感资源大放送(下)| 11 个经典遥感数据集


遥感影像是开展测绘地理信息工作的重要数据,对于地理国情监测、地理信息数据库更新等意义重大,在军事、商业、民生等领域发挥了越来越重要的作用。

近年来,随着国家卫星影像获取能力的提升,遥感影像数据采集效率大幅提升,形成了低空间分辨率、高空间分辨率、宽视角多角度、雷达等多种传感器共存的格局。

轨道中的 Landsat 2 正在收集地球遥感数据

 

该卫星是 NASA 陆地卫星计划中的第 2 颗,于 1975 年发射,旨在以中等分辨率获取全球季节性数据

传感器种类齐全,满足了不同用途的对地观测需求,但是也造成了遥感影像数据格式不统一、耗费大量存储空间等问题,在图像处理过程中常常面临较大的挑战。

以土地分类为例,以往利用遥感影像进行土地分类,往往依赖大量人力进行标注和统计,耗时长达数月甚至一年的时间;加上土地类型复杂多样,难免也会出现人为统计失误。

随着人工智能技术的发展,遥感影像的获取、加工、分析,也变得更加智能和高效。

常用的土地分类方法

常用的土地分类方法,基本上分为三类:以 GIS 为基础的传统分类方法、以机器学习算法为依据的分类方法,以及利用神经网络语义分割的分类方法。

传统方法:利用 GIS 地理信息系统分类 

GIS 是处理遥感影像时常需要用到的工具,全称 Geographic Information System,又被称为地理信息系统。

它把关系数据库管理、高效图形算法、插值、区划和网络分析等先进技术集成起来,让空间分析变得简单易行。

利用 GIS 对伊丽莎白河东部支流地区进行空间分析

 

利用 GIS 的空间分析技术,可以获取对应土地类型的空间位置、分布、形态、形成和演变等信息,识别土地特征并进行判断。

机器学习:利用算法分类 

传统的土地分类方法包括监督分类和非监督分类。

监督分类又称训练分类法,它是指用已确认类别的训练样本像元,跟未知类别像元作比较和识别,进而完成对整个土地类型的分类。

在监督分类中,当训练样本精度不够时,通常会重新选择训练区或人为目视修改,以确保训练样本像元的准确性。

监督分类后的遥感图像(左),红色为建设用地,绿色为非建设用地

 

非监督分类是指不必提前获取先验类别标准,而是完全按照遥感影像中像元的光谱特性进行统计分类,该方法自动化程度高,人为干预少。

借助支持向量机、最大似然法等机器学习算法,可以极大提高监督分类和非监督分类的效率和准确度。

神经网络:利用语义分割分类 

语义分割是一种端到端像素级别的分类方法,可以加强机器对环境场景的理解,在自动驾驶、土地规划等领域应用广泛。

基于深度神经网络的语义分割技术,在处理像素级分类任务时,其表现优于传统的机器学习方法。

利用语义分割算法对某地遥感影像进行识别和判断

 

高分辨率遥感图像场景复杂、细节信息丰富,地物间光谱差异不确定,很容易导致分割精度低,甚至产生无效分割。

利用语义分割处理高分辨率、超高分辨率遥感影像,可以更准确地提取图像的像素特征,迅速且准确地识别特定土地类型,进而提高遥感图像的处理速度。

常用的语义分割开源模型

常用的像素级语义分割开源模型包括 FCN、SegNet 和 DeepLab。

1、全卷积网络(FCN)

特性:端到端语义分割
优点:不限制图像尺寸,具有通用性和高效率

缺点:无法快速进行实时推理,处理结果不够精细,对图像细节不敏感

2、SegNet 

特性:将最大池化指数转移至解码器中,改善了分割分辨率
优点:训练速度快、效率高,占用内存少
缺点:测试时不是前馈(feed-forward ),需要优化来确定 MAP 标签

3、DeepLab 

DeepLab 由 Google AI 发布,主张用 DCNN 来解决语义分割任务,共包括 v1、v2、v3、v3+ 四个版本。

DeepLab-v1 为了解决池化引起的信息丢失问题,提出了空洞卷积的方式,在增大感受野的同时不增加参数数量,同时保证信息不丢失。

DeepLab-v1 模型流程演示

 

DeepLab-v2 在 v1 的基础上,增加了多尺度并行,解决了对不同大小物体的同时分割问题。

DeepLab-v3 将空洞卷积应用在了级联模块,并且改进了 ASPP 模块。

DeepLab-v3+ 在 encoder-decoder 结构上采用 SPP 模块,可以恢复精细的物体边缘。细化分割结果。

模型训练准备

目的:在 DeepLab-v3+ 基础上,开发用于土地分类的 7 分类模型

数据:源自 Google Earth 的 304 张某地区遥感图像。除原图外,还包括经过专业标注的配套 7 分类图、7 分类 mask、25 分类图、25 分类 mask 图像。图像分辨率为 560*560,空间分配率为 1.2m。

原图及对应 7 分类图拼接示例,上半部分为原图,下半部分为 7 分类图

 

调参代码如下:

net = DeepLabV3Plus(backbone = 'xception')
criterion = CrossEntropyLoss()
optimizer = optim.SGD(net.parameters(), lr=0.05, momentum=0.9,weight_decay=0.00001) 
lr_fc=lambda iteration: (1-iteration/400000)**0.9
exp_lr_scheduler = lr_scheduler.LambdaLR(optimizer,lr_fc,-1)

训练详情

算力选择:NVIDIA T4

训练框架:PyTorch V1.2

迭代次数:600 epoch

训练时长:约为 50h

IoU:0.8285(训练数据)

AC:0.7838(训练数据)

数据集传送门

详细训练过程

 

遥感图像土地七分类公共教程详情

 

教程使用 

教程中的样例展示文件是 predict.ipynb,运行这个文件,会安装环境,并展示已有模型的识别效果。

项目路径 

测试图片路径:

semantic_pytorch/out/result/pic3

掩膜图片路径:

semantic_pytorch/out/result/label

预测图片路径:

semantic_pytorch/out/result/predict

训练数据列表:train.csv

测试数据列表:test.csv

使用说明 

训练模型进入 semantic_pytorch,训练的模型被保存在 model/new_deeplabv3_cc.pt。 

模型采用 DeepLabV3plus,训练参数中,Loss 采用二进制交叉熵。Epoch 为600,初始学习率0.05。

 训练指令:

python main.py

如果使用我们已经训练好的模型,则使用保存在 model 文件夹中 fix_deeplab_v3_cc.pt,在 predict.py 中直接调用即可。

 预测指令:

python predict.py

教程传送门

 

模型作者

问题 1:为了开发这个模型,你都通过哪些渠道,查阅了哪些资料?

王岩鑫:主要是通过技术社区、GitHub 等渠道,查看了一些 DeepLab-v3+ 的论文和相关项目案例,提前了解了一下都有哪些坑、怎么克服,为后续模型开发过程中随时遇到问题随时查询解决,做了比较充分的准备。

问题 2:过程中遇到了哪些障碍?怎么克服的?

王岩鑫:数据量不是很够,导致 IoU 和 AC 的表现一般,下次可以用数据量更丰富的公开遥感数据集试试。

问题 3:关于遥感还想尝试哪些方向?

王岩鑫:这一次是对土地进行分类,接下来我想利用结合机器学习和遥感技术,对海洋景观和海洋要素进行分析,又或者结合声学技术尝试对海底地形进行识别和判断。


此次训练所用数据量较小,在训练集上 IoU 及 AC 表现一般,大家也可以尝试用已有公共遥感数据集进行模型训练,一般情况下训练越充分、训练数据越丰富,模型表现越好。

本系列的(下)篇文章中,我们汇总了 11 个主流的公共遥感数据集,并将其做了归类整理。大家可以依据本文提供的训练思路,按需选用,训练更完善的模型。

 

—— 完 ——

 

 

 

遥感解译预训练大模型(LIM) 遥感解译预训练大模型()是由超图软件开发的面向遥感影像智能解译的AI模型。其核心目标是通过大规模预训练技术,提升对多源遥感数据的自动化处理能力,覆盖地物分类、目标检测、变化分析等任务。核心特性自监督学习:基于海量无标签遥感影像训练基础模型,减少对标注数据的依赖。亿级参数规模:模型参数量达亿级,具备更强的特征提取能力。任务适配性:通过下游网络微调,支持建筑、道路、水体等多类地物提取。 阅读详情

相关推荐

遥感图像分析: 利用深度学习进行土地覆盖分类

遥感图像分析是一种通过使用遥感技术收集的图像来研究地球表面特征的方法。遥感图像可以提供大量关于地表特征的信息,如植被、水体、土地利用等。利用遥感图像,我们可以监测森林砍伐、城市扩张、农业用地变化等现象。深度学习技术,特别是卷积神经网络(CNN),由于其在计算机视觉任务中的优异性能,已在遥感图像分析中得到广泛应用。CNN可以自动学习图像的特征表示,从而实现高度精确的分类。本文详细介绍了如何使用深度学习技术,特别是卷积神经网络(CNN)对遥感图像进行土地覆盖分类。

斌擎科技 2308

基于遥感影像的耕地地块提取相关论文、代码以及相关开源数据集

文章目录前言2018Deep Extraction of Cropland Parcels from Very High-Resolution Remotely Sensed Imagery 前言 本博文是对关于农田提取论文的简单汇总。有比较新颖的方法,欢迎大家在下面留言。 2018 Deep Extraction of Cropland Parcels from Very High-Resolution Remotely Sensed Imagery 摘要 从高分辨率遥感影像中提取耕地面积是实现精准农业等

如果想成为中心,那么就到中心去吧。 3万+

FCN数据集 图片和标签

http://blog.youkuaiyun.com/muyouhang/article/details/53608928 中使用的数据集。caffe 图像分割实验

【论文阅读】遥感大模型GeoChat : Grounded Large Vision-Language Model for Remote Sensing

本文是遥感领域的大模型相关的一篇工作,发表在CVPR2024。

兴趣使然的创作者 5304

基于Python+CNN网络的深度学习遥感影像地物分类项目源码(Landsat数据处理+模型h5).zip

基于Python+CNN网络的深度学习遥感影像地物分类项目源码(Landsat数据处理+模型h5).zip 【项目说明】 1、该项目是团队成员近期最新开发,代码完整,资料齐全,含设计文档等 2、上传的项目源码经过严格测试,功能完善且能正常运行,请放心下载使用! 3、本项目适合计算机相关专业(人工智能、通信工程、自动化、电子信息、物联网等)的高校学生、教师、科研工作者、行业从业者下载使用,可借鉴学习,也可直接作为毕业设计、课程设计、作业、项目初期立项演示等,也适合小白学习进阶,遇到问题不懂就问,欢迎交流答疑。 4、如果基础还行,可以在此代码基础上进行修改,以实现其他功能,也可直接用于毕设、课设、作业等。 5、不懂配置和运行,可远程教学 6、欢迎下载,沟通交流,互相学习,共同进步!

【无标题】

可以看到这是一个带过滤的rce,并且还需要绕过空格,通过·查询资料得到了${IFS},$IFS$9,<,$IFS。然后f,l,a,g都被过滤了,可以用中括号[]来进行正则匹配,把GET传的参数改为?cmd=uniq /[e-h][k-n][^-b][e-h],就得到了flag。cmd={%0A"cmd":"/bin/cat /home/rceservice/flag"%0A}可以看到l被过滤了ls用不了了可以用dir用GET传参cmd=dir /,POST传参shell=system。

2501_94507425的博客 303

【GitHub项目推荐--开源!第一个用于遥感的落地大视觉语言模型】【转载】

中东土豪大学 穆罕默德·本·扎耶德人工智能大学开源!第一个落地的大视觉语言模型,专门针对遥感(RS)场景而定制。源代码与通用域模型不同,GeoChat 擅长处理高分辨率 RS 图像,采用区域级推理进行全面的场景解释。利用新创建的 RS 多模态数据集,GeoChat 使用 LLaVA-1.5 架构进行了微调。这可以在各种 RS 任务中实现强大的零样本性能,包括图像和区域字幕、视觉问答、场景分类、视觉基础对话和引用对象检测。GeoChat:用于遥感的接地(落地、接实际应用场景)大视觉语言模型。

j8267643的博客 1831

腾讯云TDSQL MySQL版 - 开发指南兼容性

语言结构 分布式实例支持所有 MySQL 使用的文字格式,包括: String Literals Numeric Literals Date and Time Literals Hexadecimal Literals Bit-Value Literals Boolean Literals NULL Values String Literals String Literals 是一个 bytes 或者 characters 的序列,两端被单引号'或者双引号"包围,TDSQL MySQL版

weixin_43872058的博客 908

遥感通用大模型EarthGPT数据集已全部开源!含100万图文对!

EarthGPT在多个遥感数据集上进行了广泛的实验,结果显示在大多数遥感任务中,EarthGPT超过了最先进的专家模型和多模态语言模型。因此,作者创建了一个新的指令跟随数据集MMRS,涵盖了五个任务和三种视觉模态,并使用EarthGPT在该数据集上进行微调,以实现优秀的粗粒度对话和细粒度定位能力。该数据集的构建过程详细介绍。EarthGPT整合了多种遥感视觉任务,如场景分类、图像描述、视觉问答、视觉定位和目标检测等,此外,EarthGPT还统一了多种传感器的遥感图像理解,涵盖光学、SAR和红外图像。

2401_88345259的博客 4149

美亚杯2023参赛全攻略:从检材下载到Veracrypt挂载的保姆级教程

本文提供美亚杯2023电子数据取证竞赛的完整参赛指南,重点解析从检材下载、Veracrypt挂载到实战取证的保姆级流程。针对新手常见误区,详细说明两套密码(ZIP解压密码与Veracrypt挂载密码)的区别与正确使用方法,并分享赛前环境搭建、赛中高效分析及赛后报告撰写的核心技巧,帮助参赛者系统备赛,规避基础错误。

y9z0a1b的博客 1078

SpeedyBee F405 V3 50A飞塔装机全攻略:从开箱到首飞避坑指南

本文提供SpeedyBee F405 V3 50A飞塔的详细装机指南,涵盖从开箱检查、硬件焊接、软件配置到安全首飞的全流程。重点剖析了电源连接、固件刷写等高频故障点,帮助FPV新手避开常见陷阱,确保一次成功组装并安全起飞。

weixin_29179311的博客 416

【数据资源】遥感资源大放送(上):用开源代码,训练土地分类模型

内容概要:土地分类是遥感影像的重要应用场景之一,本文介绍了土地分类的几个常用方法,并利用开源语义分割代码,打造了一个土地分类模型。关键词:遥感数据集 语义分割 机器视觉遥感影像是开...

fengdu78的博客 1271

手把手教你用gym训练宇树GO2机器人模型(附完整配置文件)

本文提供了一份详细的实战指南,教你如何使用Gym框架为宇树GO2四足机器人搭建强化学习训练环境。文章深入解析了环境配置、参数调试、奖励函数设置等关键步骤,并分享了避开常见陷阱的经验,旨在帮助开发者高效完成模型训练。

oo7890的博客 321

遥感资源大放送(下)| 11 个经典遥感数据集

内容提要:利用遥感影像进行土地类别分型,最常用的方法是语义分割。本文继上期土地分类模型训练教程之后,又整理了几大主流公开遥感数据集。 原创:HyperAI超神经 关键词:遥感数据集 语义分割 机器视觉 在上一期 《遥感资源大放送(上):用开源代码,训练土地分类模型 》 中,我们详细介绍了遥感影像进行土地分类的常用方法,以及具体如何使用利 deeplab-v3+ 用于土地 7 分类的具体训练过程及代码。 教程地址: https://openbayes.com/console/openbayes/cont.

HyperAI超神经 2万+

国产操作系统替换方案:3个避坑指南

坑核心误区避坑核心原则关键动作坑一:选型只看信创信创目录=唯一标准兼容性优先,信创是约束三维评估(兼容性+信创+生态),分场景选型坑二:迁移只管能跑功能能跑=迁移成功性能确认+运维回归适配-压测-回归三阶段,基线对比坑三:不防二次迁移解决停服=完成任务一步到位,两级兼容信创路线优先,双轨制发布,终态规划。

weixin_43524706的博客 294

15. GD32E230定时器实战:基于TIMER5的1秒LED闪烁中断配置详解

本文详细讲解了如何在GD32E230微控制器上配置TIMER5定时器,实现精准的1秒LED闪烁中断。内容涵盖从时钟开启、参数计算、中断设置到服务函数编写的完整流程,重点解析了预分频值与周期值的配置方法,帮助开发者掌握硬件定时器的核心应用。

weixin_29092787的博客 135

【数据资源】遥感资源大放送(下)| 11 个经典遥感数据集

By 超神经内容提要:利用遥感影像进行土地类别分型,最常用的方法是语义分割。本文继上期土地分类模型训练教程之后,又整理了几大主流公开遥感数据集。关键词:遥感数据集 语义分割 机器视...

fengdu78的博客 9639

(2-2-2)位置控制算法:常用的位置控制算法(2)

例如下面是一个使用滑模控制算法实现机器人位置控制的例子,在该例子中,假设机器人在一维空间中移动,目标是使机器人的位置迅速、鲁棒地达到设定的目标位置。自适应控制算法通过实时地调整控制器参数,可以适应系统的变化,从而提高系统的鲁棒性和性能。模型预测控制(Model Predictive Control,MPC)是一种先进的控制策略,通常应用于动态系统,以实现对系统状态的优化控制。(6)迭代优化:随着时间推移,MPC迭代执行上述步骤,持续优化控制输入,以适应系统动态和外部扰动,实现对系统状态的稳健控制。

码农三叔 1607

刚刚 ECCV 2020放榜!新鲜论文出炉啦!(附部分论文和代码汇总)

点击上方,选择星标或置顶,不定期资源大放送!阅读大概需要8分钟Follow小博主,每天更新前沿干货ECCV的全称是European Conference on Computer Visi...

深度学习技术前沿 8523

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

土地利用分类详细教程——以高分一号影像为例(上)

1 前言相信跟我一样刚刚接触遥感的计算机人士来讲,突然转行开始弄遥感,刚开始肯定会一头雾水。更别说什么土地利用分类的制作了。在这里,我将会用最为直接的图形流程操作来给像我一样初识遥感的童鞋们讲解一下制作土地利用的整个过程。 首先,我先用一幅流程图来概括一下制作土地利用的整个过程。如下图1所示: 图1土地利用分类流程图 这个流程操作适用于一般影像制作土地利用过程。然

流浪若相惜的专栏 5万+

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

全球首个面向遥感任务设计的亿级视觉Transformer大模型

点击下方卡片,关注“CVer”公众号AI/CV重磅干货,第一时间送达点击进入—>CV微信技术交流群转载自:京东探索研究院大规模视觉基础模型在基于自然图像的视觉任务中取得了重大进展。得益于良好的可扩展性和表征能力,基于视觉Transformer (Vision Transformer, ViT) 的大规模视觉基础模型吸引了研究社区的广泛关注,并在多种视觉感知任务中广泛应用。然而,在遥感图像感知...

阿木寺的博客 1624

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

遥感影像识别-训练策略

1. 主动学习结合遥感影像识别 1.1 摘要 在传统的机器学习中,模型的准确度往往由已标记的数据样本规模所决定。但是在实际情况中,海量数据中往往只有极小部分获得了准确标记,而大部分数据未经标记,如果通过专业人员对数据逐个进行标记,将耗费大量的时间成本和经济成本。主动学习是从大量未标记的数据集中检索出最有用的未标记数据,交由专业人员进行标记,然后用该类样本来训练模型以期提高模型的准确率。 1.2 主动学习特点 主动学习作为机器学习中一个重要的领域,其主要特点是通过一定方法的检索,在未标记的数据集中检索出最有意

122&&113的博客 3562

EarthMarker:首个视觉提示遥感多模态大模型,365万数据即将开源!

题目:EarthMarker: A Visual Prompting Multi-modal Large Language Model for Remote Sensing期刊:IEEE Transactions on Geoscience and Remote Sensing。

2401_88345259的博客 2200

基于PyTorch深度学习无人机遥感影像目标检测、地物分类及语义分割

随着无人机自动化能力的逐步升级,它被广泛的应用于多种领域,如航拍、农业、植保、灾难评估、救援、测绘、电力巡检等。但同时由于无人机飞行高度低、获取目标类型多、以及环境复杂等因素使得对无人机获取的数据处理越来越复杂。...

WangYan2022的博客 9142

从入门到封神!Sentinel-2遥感分析全流程+16大AI模型实战手册(全网最全开源合集)

零基础也能吃透遥感影像分析!本文汇总9篇Sentinel-2全流程实操教程、9类国标土地覆盖细分识别攻略、16大主流AI分割模型深度测评,从数据下载、预处理、指数计算、分类出图,到CPU/4090硬件实战、模型避坑、落地优化,一站式覆盖遥感传统算法+深度学习两大核心赛道。所有内容均为实战原创、可直接落地,附带完整开源代码与实操经验,帮你避开90%的遥感学习误区,快速实现从“只会看影像”到“能独立完成科研项目、工程落地”的进阶,是遥感科研、毕设、项目落地必备干货合集。

不胜人生一场醉 262

遥感大模型

定义:遥感大模型是利用卷积神经网络、循环神经网络、自注意力机制、Transformer 等先进的深度学习结构,通过对大规模遥感数据进行预训练,结合迁移学习与领域适配技术,实现对地物精细分类、多尺度目标检测、高精度语义分割以及多时相变化检测等任务的智能化处理的模型。特点多模态数据融合:能够融合光学、SAR、LiDAR 等遥感数据,以及文本、音频、视频、矢量数据等不同模态的数据,弥补单一模态的缺陷,使模型对遥感信息的理解更加全面和准确,从而提升模型的泛化性和表示能力,更好地应对复杂的遥感应用场景。

zxy98的专栏 1552
上一篇: 华科团队发布 OVIS 遮挡视频实例分割基准数据集
下一篇: 没时间看电影追剧,AI 一键让影视变漫画
HyperAI超神经
博客等级 码龄7年 8871粉丝 1752原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值