数据分析与数据挖掘实践(1)——数据获取

本文深入解析了数据分析的全过程,从数据获取到模型评估,涵盖了数据仓库的构建、数据抓取技术、预处理步骤以及分析建模等关键环节。通过实例讲解,帮助读者理解如何从海量数据中提取有价值的信息。

1.数据分析的含义:使用统计分析的方法,提取有用的信息,总结和概括的过程。

2.数据分析流程:数据获取-探索分析与可视化(数据分析)-预处理数据-分析建模-模型评估(数据挖掘)

1. 数据获取

##1. 数据仓库
将所有业务书经汇总处理,构成数据仓库
记录全部事实
部分维度与数据的整理(数据集市-DM)
#数据仓库和数据库的区别
1.仓库面向主题存储,数据库面向业务存储
2.数据库针对应用,仓库针对分析
3.数据库组织规范,仓库冗余且相对数据量大
##2. 检测与抓取
1.直接解析网页,接口,文件的信息
urllib,urlib2,requests,scrapy
beautifulsoup,xpath
##3.填写,埋点,日志
##4.数据学习网站:
1.Kaggle
2.天池
3.Imagenet

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值