2021年机器学习、数据科学的门槛降低了吗?这是Kaggle的开发者调查

Kaggle上使用Tensorboard 想在Kaggle上使用Tensorboard,找了一圈。但发现有些变化,Code中用到的内网穿透工具Ngrok需要加一个Token,所以需要注册一个Ngrok账号,免费获取一个通道的Token。 阅读详情

机器之心报道

机器之心编辑部

Kaggle 正式发布了 2021 年度报告,超过 2.5 万名开发者参与调查,但来自中国的 Kaggle 数据科学家应该并不多。

939ba1543bbf128a8d30525922c218f9.png

这是 Kaggle 进行用户深度调查和公开分享结果的第五个年头。在调查过程中,超过 25000 名数据科学家和机器学习工程师提交了关于自身背景和日常经验的答案——从教育细节到薪水,再到偏爱的技术等。

调查在 2021 年 9 月 1 日至 2021 年 10 月 4 日进行,梳理数据后,得到共计 25973 个有效回复。

与往年一样,参与调查并获得所设奖项的用户受到一定限制:

假如您是克里米亚地区、古巴、伊朗、叙利亚、朝鲜的居民,或者受到美国出口管制或制裁个人 / 实体代表,不得参与竞赛。

当然,这份报告只关注了部分群体的数据,14% 的受访者目前的职位是「数据科学家」。报告分为五个部分: 

  • 01 技术

  • 02 数据科学家概况;

  • 03 教育;

  • 04 数据科学和机器学习经验;

  • 05 就业。

在今年的调查报告中,XGBoost 成为受访开发者最喜欢的机器学习框架之一,排名第三(去年是排名第四)。

4af732eb3cf7c45cab7fe7d2ddb0fe4b.png

图源:XGBoost 核心开发者、CMU 助理教授陈天奇发表感言。

相比去年,Keras 的排名有所下降,François Chollet 表示,Keras 下降了 3 个百分点,而 TensorFlow 增加了 3 个百分点,这是因为 99% 的新 TF 使用都利用了内建的 Keras。

技术

交互式的开发环境(IDE)

基于 Jupyter 的 IDE 仍然是数据科学家的首选工具,大约四分之三的数据科学家都在使用这一工具。VS Code 紧随其后,使用人数占比为 38%。

ed84f28170446d1a474294ce63b555c3.png

虽然 VS Code 的受欢迎程度远不及 Jupyter Notebook,但从历年情况来看,它的受欢迎程度是逐年提升的。

f6f9bfb8b1f7a585a1809443706b0b72.png

方法 & 算法

和去年一样,最常用的算法是线性回归和逻辑回归,其次是决策树和随机森林。在更复杂的方法中,梯度提升机(gradient boosting machine,GBM)和卷积神经网络是最流行的方法。

1f2b962e26aaba15599c9424418ced37.png

此外,我们还可以看到大型语言模型流行度的逐年增长,如基于 transformer 的 BERT、GPT-3 等。

52176739e33124e40427d86444c10e5c.png

机器学习框架

在机器学习框架领域,基于 Python 的工具仍占主导地位。

和去年一样,Scikit-learn 以超过 80% 的采用率位居第一,它就像一把瑞士军刀,在很多项目中都能派上用场。TensorFlow 和 Keras 主要用于深度学习,采用率都在 50% 左右。梯度提升库 XGBoost 位居第三,采用率和前两年差不多。

尽管从总体来看,PyTorch 的排名不在前三,但它的逐年增长势头依然强劲。

70ebcb3628086294e1ceffc27e0184b5.png

企业云计算

云计算领域最受欢迎的前三位重磅玩家依然是 Amazon Web Services、Google Cloud Platform 和 Microsoft Azure。

e44e0993f30dbc96c7b122cff5ca8825.png

那些使用云服务的人还被问及调查中的具体产品。亚马逊的弹性云计算(Elastic Compute Cloud)是最受欢迎的云计算产品,但谷歌云的计算引擎和 Azure 的虚拟机也得到了广泛的采用。

3d0340771ed15ce48900cbabb7fb0d4c.png

同样,亚马逊的 Simple Storage Service(S3)也是最受欢迎的数据存储产品,但 Google Cloud Storage 和 Azure Data Lake Storage 也有较高的采用率。

de846ae7716bd8ff6128b702704ea0ae.png

企业机器学习工具

和去年一样,在 ML 的企业客户中,Amazon SageMaker 是迄今为止最受欢迎的选择。排在 SageMaker 后面的是 Databricks——它的采用率与 Azure ML Studio 相似(约 13%),比谷歌 Cloud Vertex AI 的采用率高。

94022ff631d1fccee6e2157f8be0d81c.png

企业大数据

关于数据库,数据科学家们并没有明确的偏好。MySQL、PostgreSQL 和 Microsoft SQL Server 保持在前三名。

f9ca637689aeb78cf99e22a5a8bf98b5.png

机器学习环境

与去年相比,现在有更多的数据科学家使用工具来跟踪和管理他们的实验。其中,TensorBoard 仍然是最受欢迎的工具(22.3%),MLflow 紧随其后(18%)。

858ecc82aafc36b9c07078c777f633ed.png

自动化机器学习

Google Cloud AutoML 在 AutoML 类别中保持了第一。 

a284b54b9149993637fda36da14ec11c.png

Google Cloud AutoML 技术的采用在过去几年里稳步增长。

8db7573ef6f5db60b22654b89c78ee4f.png

TPU

在算力硬件方面,GPU 仍然是主流,谷歌的 TPU 也显示出了逐年增长的趋势。

29d4d984b5c8127a6148627f5334797b.png

数据科学家概况

性别

在 2021 年,数据科学领域依旧面临着性别分布不均的问题。在工作场所,82% 的用户是男性。从过去五年的数据分析,性别差异问题始终没有得到明显的改善。

abc4ab7601f28942f5b32dddefa51f26.png

年龄

同时,数据科学仍然是一个相当年轻化的职业,超过一半的数据科学家年龄在 22 到 34 岁之间。

f252916405e2a326c805f864669b24ab.png

国家

国家人口统计数据层面,与去年基本相同,印度占 Kaggle 数据科学家的 24.4% ,此外 12.2% 的数据科学家居住在美国。巴西排名第三但远远落后,低于 4.3%。

6f8de1cb320425c41d6e4ce007dbe31e.png

教育

高等教育

研究生学历仍然是数据科学家的主流,超过 62% 的数据科学家拥有硕士或博士学位。少于 5% 的数据科学家只有高中文凭。

562f212e30bac097f17f6ec430a8df66.png

与往年同期相比,没有高学历的数据科学家越来越常见,但高学历群体仍然占比接近 64%。

0dda652d31d3a2c50d321ccc70c44028.png

持续学习

数据科学和机器学习的迭代是非常快的,在当下比较流行的在线学习资源平台中,Kaggle 数据科学家最喜欢 Coursera。

7cfd66de35e9c4896f5d202aa39fad5e.png

Kaggle 学习课程则排在第二位,从去年到现在,Kaggle 学习课程的受欢迎程度增长了 9%。

数据科学和机器学习经验

编程经验

大多数 Kaggle 数据科学家都有编程经验,这份报告显示他们大多有一年以上的编程经验,没有编程经验的人极少。

0894cfae6f09c03428297fbf67560d04.png

机器学习经验

相比于编程,大多数 Kaggle 数据科学家更不熟悉机器学习。约 55% 的数据科学家机器学习经验不足三年。只有不到 6% 的专业数据科学家已有十年以上的机器学习从业经验。值得注意的是,美国数据科学家的机器学习经验普遍略多于全球受访者。

10045e9be2ac0884033685f9f96d0188.png

就业

薪酬

报告中的调查结果显示,美国科技公司给数据科学从业者的薪酬大多为 6 位数(美元)。而在全球范围内,数据科学从业者的薪酬会普遍低一些,但分布较为均匀。其中呈现出一些地区趋势,例如印度,近 90% 的人每年的收入低于 50000 美元。

9ca69d755e1df1c9dffbde5231238c1c.png

对比美国和印度两个国家的薪资会发现,大多数美国数据科学家的年薪超过了 100000 美元,而印度只有 3% 的数据科学家能够达到这个薪资水平。

fb636f1758997223bc86ac00338297f1.png

从事数据科学的公司

和去年的调查结果一样,大型企业和小型初创公司是数据科学家最常选择的公司类型。一半以上的公司员工数量少于 250 人,约 20% 的公司有超过 10000 人的员工。

cce285260c011d87051ce85fbee018b5.png

数据科学团队

数据科学团队的规模与去年相比没有显着变化——超过一半的数据科学家仍在小组人数不超过 5 人的公司工作,约 20% 的人在含 20 名数据科学家的团队工作。

c68c617ada519cbda66bab64b5afeee4.png

开销

今年的调查报告显示从业者们在机器学习和云计算产品上投入了大量资金,但并非所有数据科学家都是如此。超过四分之一的数据科学家声称根本没有这部分开销,而约十分之一的人在过去五年中花费了超过 100000 美元。

f1aad4599f04a5092fe369b34325265e.png

与全球同行相比,美国数据科学家在云上的花费会更多一些。与其他国家相比,最高可达其他国家从业者开销的两倍多。

982c153e01bc1fd03a3f12589b74c93f.png

报告链接:

https://www.kaggle.com/kaggle-survey-2021


 

推荐阅读:

入门: 最全的零基础学Python的问题  | 零基础学了8个月的Python | 实战项目 |学Python就是这条捷径

量化: 定投基金到底能赚多少钱?  | 我用Python对去年800只基金的数据分析

干货:爬取豆瓣短评,电影《后来的我们》 | 38年NBA最佳球员分析|   从万众期待到口碑扑街!唐探3令人失望  | 笑看新倚天屠龙记灯谜答题王 |用Python做个海量小姐姐素描图碟中谍这么火,我用机器学习做个迷你推荐系统电影

趣味:弹球游戏  | 九宫格  | 漂亮的花 | 两百行Python《天天酷跑》游戏!

AI: 会做诗的机器人给图片上色 | 预测收入 | 碟中谍这么火,我用机器学习做个迷你推荐系统电影

小工具: Pdf转Word,轻松搞定表格和水印! | 一键把html网页保存为pdf!|  再见PDF提取收费! | 用90行代码打造最强PDF转换器,word、PPT、excel、markdown、html一键转换 | 制作一款钉钉低价机票提示器! |60行代码做了一个语音壁纸切换器天天看小姐姐!|

年度爆款文案


 

 

 

 

 

 


 

 

 
点阅读原文,看Python全套!
Kaggle比赛整理 传送门:https://www.kaggle.com/competitions点击打开链接这里仅列出前50个比赛,全部的271个比赛word版下载地址:正在进行的比赛1、     Home Credit Default Risk利用各种替代数据(包括电信和交易信息)预测客户的还款能力。2、     TrackML Particle TrackingChallengeCERN探测器中的高能物理粒子追... 阅读详情

相关推荐

Kaggle实战如何打造高通过率数据科学简历

数据科学简历的本质是能力可信化表达,而非经历罗列。其核心原理在于将抽象技术能力转化为招聘方可验证、可横向对比的客观证据。Kaggle作为全球公认的能力公信平台,通过公开排行榜、可复现Notebook、社区互动等机制,天然支撑了从问题定义、特征工程、模型调优到业务解读的完整AI实践闭环。这种结构化能力呈现,显著提升简历在HR初筛(6–8秒决策)与技术终面中的专业可信度。典型应用场景包括转行求职、中级晋升、项目深度证明等,尤其适用于缺乏大厂背书但具备扎实Kaggle实战经验的候选人。

weixin_30697239的博客 421

XGBoost模型的python实现

实现 XGBoost 分类算法使用的是xgboost库的,具体参数如下:1、max_depth:给定树的深度,默认为32、learning_rate:每一步迭代的步长,很重要。太大了运行准确率不高,太小了运行速度慢。我们一般使用比默认值小一点,0.1左右就好3、n_estimators:这是生成的最大树的数目,默认为1004、objective:给定损失函数,常用的有:– reg:linear– 线性回归– reg:logistic – 逻辑回归。

辉的博客 4771

Titanic数据科学实战:从Kaggle入门到端到端建模

数据科学不是算法堆砌,而是理解业务、处理混合数据、构建可复现工作流的系统工程。本文以经典的Titanic数据集为载体,深入解析真实数据中常见的缺失值、类别变量编码、特征衍生与归一化等核心环节,强调SVM等线性模型在小样本场景下的教学价值与可解释优势。通过Kaggle竞赛流程这一标准化实践路径,串联起数据清洗、特征工程、模型训练与提交验证的完整闭环,帮助初学者建立‘问题驱动—反馈验证—迭代优化’的工程直觉。关键词涵盖Titanic数据集、Kaggle竞赛流程、端到端建模实操。

wgyyh 366

如何在kaggle上使用tensorboard

tensorflow官网 youtube教程 本教程结合以上两个教程得以实现在kaggle上使用tensorboard 以下代码都是在train_step的上面写的 log_dir="runs/" summary_writer = tf.summary.create_file_writer( log_dir + "fit/" + datetime.datetime.now().strftime("%Y%m%d-%H%M%S")) 下载一个包 !wget https://bin.equinox.io/

weixin_45564209的博客 3005

2021数据科学入门实战路径:业务导向的数据思维闭环

数据科学不是抽象算法堆砌,而是以业务问题为起点、用数据驱动决策的系统性能力。其核心原理在于构建‘问题拆解→数据获取→清洗验证→可视化表达→行动建议’的最小可行闭环,强调可验证性、可迁移性与抗遗忘性。技术价值体现在大幅缩短问题响应周期(如24小时内交付分析)、降低工具使用门槛(Excel/SQL优先于Python建模),并直面真实世界的数据脏乱挑战。典型应用场景包括用户流失归因、渠道ROI评估、SKU滞销预警等一线业务支持任务。本文聚焦2021年市场验证的入门路径,突出pandas数据清洗与SQL业务查询两大

图灵教育官方博客 775

行业调查数据叙事助力用户洞察与决策

Kaggle 2022年机器学习与数据科学调查竞赛突破传统预测模式,要求参赛者从2.4万份问卷中挖掘数据故事。竞赛聚焦叙事而非精度,考察数据清洗、可视化及洞察提炼能力,模拟真实商业分析场景。参赛者需选定特定群体(如女性从业者、学生群体),通过统计对比或聚类分析揭示行业趋势,最终以可复现的Notebook呈现兼具深度与传播力的故事。该竞赛强调数据科学家的业务沟通能力,为行业研究、人才战略等提供多维度洞察参考。

Mr数据杨 716

关于kaggle如何用tensorboard监视训练过程

主要为了解决在kaggle上打开event文件,但是网页无法连接的问题。(当然只要是网站不给访问的这里都能解决,往下看吧):)本文仅关注如何得到打开的结果,中间出现的提示我也不太清楚(但是好用就完事),后续会继续更新打开的原理,大家感兴趣的可以点点关注插个眼。

anonymous030的博客 1085

4、Kaggle数据科学竞赛全解析

本文全面解析了Kaggle数据科学竞赛的各类竞赛类型、运行机制及参赛策略。针对不同阶段的参赛者,提供了从初学者到高级选手的竞赛选择建议,并深入探讨了竞赛中常见的问题如数据泄露、排行榜探测和过拟合等及其应对方法。文章还介绍了Kaggle Notebooks的资源配置、组队协作的优势与挑战,以及来自顶级选手的实战经验分享。最后总结了有效的竞赛策略与未来展望,帮助参赛者在Kaggle平台上提升技术水平、优化团队协作并取得优异成绩。

h9j8k7l6m5n的博客 75

数据科学竞赛界的Manus?多智能体框架AutoKaggle开源,大幅降低数据科学门槛

AutoKaggle为数据科学家提供了一个端到端的数据处理解决方案,帮助简化和优化日常数据科学工作流程,同时我们也极大的降低了数据科学的门槛,可以帮助更多没有相关背景的使用者做出有价值的探索。

DataAnnotation的博客 1709

Python-在JupyterNotebook中启动Tensorboard

在Jupyter Notebook中启动Tensorboard

Win11下WSL2安装Ubuntu22.04避坑指南:从镜像源到C++环境配置

本文提供了一份详细的Win11下WSL2安装Ubuntu22.04的实战避坑指南。内容涵盖从WSL2核心安装、自定义安装路径,到更换国内镜像源以解决更新缓慢问题,并一站式配置完整的C++开发环境(包括GCC、CMake、vcpkg等),最后分享提升开发体验的进阶技巧,助你在Windows上打造高效的Linux开发工作站。

weixin_29260291的博客 563

大幅降低数据科学门槛!豆包大模型团队开源AutoKaggle,端到端解决数据处理

字节跳动豆包大模型团队与 M-A-P 社区于近日提出 AutoKaggle ,为数据科学家提供了一个端到端的数据处理解决方案,帮助简化和优化日常数据科学工作流程的同时,极大降低数据科学的门槛,可帮助更多没有相关背景的使用者进行有价值的探索。最后,我们统计了不同错误类型及出现次数,可以看到,每个子任务阶段都有可能发生错误。未来,团队成员还将继续探索智数据科学课题及相关开源工作,并关注 Kaggle 上的最新前沿技术,如果你也对智能体协作、数据科学、大模型对复杂问题的解决感兴趣,有志于探索前沿课题,

bytedanceospo的博客 1388

YOLOv8 TensorRT C++部署实战详解:从XMake构建到推理流水线

本项目实现了一个基于YOLOv8和TensorRT的高性能火灾烟雾检测系统,具有以下核心特点: 技术架构:采用TensorRT 8.6+进行GPU加速推理,结合CUDA 12.1和OpenCV 4.8+,实现高效计算机视觉处理。系统使用XMake替代CMake构建,配置更简洁高效。

hscing的博客 1066

Kaggle比赛最经典的10大机器学习项目是哪些?

Kaggle作为全球最大的数据科学竞技平台,承载了无数经典赛题的智慧碰撞。本文盘点十年间最具影响力的10大项目,这些赛事不仅塑造了技术演进方向,更成为机器学习领域的"必修课"。

m0_60721065的博客 1918

继电保护整定值计算软件_「全套69份」整定值计算与设计方案

【全套69份】整定值计算与设计方案,输电线路、变压器、发电机、电容器、母线保护等下载方式见文末内容预览:10kV高压电机保护原理及整定计算35kV环网运行线路继电保护整定计算方案分析35KV以下继电保护及三段式电流保护整定计算110 kv电网计算机整定计算新方案220kV两相式电铁牵引站供电线路的短路故障计算及其保护整定原则分析220kV周潮线接地距离保护整定计算特殊方案750 kV变压器保护配置...

weixin_30825953的博客 5020

手把手教你用ADS和CGH40010F模型搭建Doherty功放仿真原型(附工程文件)

本文详细介绍了如何使用ADS软件和CGH40010F GaN器件模型搭建Doherty功放仿真原型,涵盖工程准备、关键电路模块实现、效率优化技巧及常见问题排查。通过实战指南和效率优化技巧,帮助工程师快速掌握Doherty功放设计,提升5G基站和广播发射系统的功率放大器性能。

weixin_26897585的博客 346

如何通过Kaggle竞赛实战提升数据科学建模能力

在数据科学领域,Kaggle竞赛已成为衡量建模能力的重要标尺。《The-Kaggle-Book》作为Kaggle竞赛的权威指南,为数据科学家提供了从基础到进阶的完整知识体系。这本由Packt Publishing出版的实战手册,由Kaggle Grandmasters Konrad Banachewicz和Luca Massaron撰写,Kaggle创始人Anthony Goldbloom亲自作序

gitblog_02767的博客 1048

OpenClaw更新后变傻了?一分钟教你快速恢复(OpenClaw更新版本后降智、缺少权限问题的解决方案)

OpenClaw 版本更新后出现降智问题,AI不再执行具体任务。本文详细分析问题原因,提供最简便的解决方案✅

XiaoqiangClub的博客 3887

Google确认收购数据科学初创企业Kaggle

在昨天旧金山的Google Cloud Next会上,谷歌宣布收购了初创公司Kaggle,这家公司的网站通过举办比赛让数据科学家为其他企业解决难题。这次交易的具体条款没有对外披露。Kaggle的比赛提供了一种让数据科学家脱颖而出并且得到关注的机会。不过现在已经是谷歌的一部分了。收购之后,Kaggle的团队将仍然保留,比赛将作为谷歌云下一个独特品牌继续由Kaggle运营。谷歌云人工智能首席科学家李飞...

karamos的专栏 325

9、硬件工程师笔试面试知识器件篇——三极管(2025版本)

本文全面介绍了三极管的基础知识与应用,包括其结构、类型、工作原理、工作状态、功能、应用场景及特性参数。详细探讨了三极管在信号放大、无线通信、音频设备及医疗设备中的具体应用,并深入分析了设计放大电路时如何平衡增益与噪声、优化偏置电路以提高稳定性、使用负反馈改善性能等关键问题。此外,文章还涵盖了高频电路设计、温度补偿策略、电磁干扰防护等实用内容,为硬件工程师提供了全面的技术参考和设计指导。

XU157303764的博客 7314

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

AUTOKAGGLE: 一种用于自主数据科学竞赛的多智能体框架

涉及表格数据的数据科学任务面临复杂的挑战,需要复杂的问题解决方法。我们提出了 AutoKaggle,一个强大且以用户为中心的框架,帮助数据科学家通过协作多智能体系统完成日常数据管道。AutoKaggle 实施了一种迭代开发过程,结合代码执行、调试和全面的单元测试,以确保代码的正确性和逻辑一致性。该框架提供高度可定制的工作流程,允许用户在每个阶段进行干预,从而将自动化智能与人类专业知识相结合。

数智笔记 1447

jre9下载 jdk9

(Java SE Runtime Environment 9.0) 9.0u175 官方最新版 【x86|x64】

上一篇: 我用Python采集了6万多家火锅店数据,好吃的火锅在哪里!
下一篇: 网友:这才是高质量人类女性!32岁清华女博士获奖百万
菜鸟学Python
博客等级 码龄9年 8086粉丝 571原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值