大数据学习各技术参考文档及虚拟机配置

本文档提供大数据学习的相关参考资料及虚拟机配置信息。使用Vmware12虚拟机,安装CentOS7.5操作系统,并配置lrzsz、vim等常用组件。详细列举了主从机IP地址以及所用软件版本,包括Anaconda3、Maria DB、Hadoop等。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

环境搭建的文章对于简单的不再更新了,稍微复杂点的再写博客记录吧

参考文档地址(持续新增)

标题地址
Hadoop Yarn Container 资源分配https://blog.youkuaiyun.com/szh1124/article/details/76178699?tdsourcetag=s_pcqq_aiomsg
map数量如何控制https://www.cnblogs.com/junneyang/p/5850440.html
MapReduce 程序内部数据处理流程全解析http://www.aboutyun.com/thread-15494-1-2.html
https://blog.youkuaiyun.com/qq_17776287/article/details/78176515
https://blog.youkuaiyun.com/aa518189/article/details/80020857
maptask 并行度决定机制https://blog.youkuaiyun.com/tototuzuoquan/article/details/72851603
https://blog.youkuaiyun.com/wu_cai/article/details/77869610
Shuffle过程介绍https://blog.youkuaiyun.com/txbsw/article/details/80760285
详解 WordCount 运行后历史日志记录https://blog.youkuaiyun.com/u011414200/article/details/50372331
Hadoop HDFS高可用(HA)https://blog.youkuaiyun.com/bingduanlbd/article/details/51946540
理解Hadoop YARN架构https://blog.youkuaiyun.com/bingduanlbd/article/details/51880019
MapReduce shuffle过程剖析及调优https://blog.youkuaiyun.com/bingduanlbd/article/details/51933914
MapReduce shuffle过程详解https://blog.youkuaiyun.com/u014374284/article/details/49205885
Hadoop MapReduce原理及实例https://blog.youkuaiyun.com/bingduanlbd/article/details/51924398
LCS
HMM隐马尔科夫
协同过滤
贝叶斯https://baike.baidu.com/tashuo/browse/content?id=bbf9b41cf33c09f9d4856750&lemmaId=&fromLemmaModule=pcBottom
朴素贝叶斯https://blog.youkuaiyun.com/fisherming/article/details/79509025
https://blog.youkuaiyun.com/li8zi8fa/article/details/76176597
逻辑回归https://blog.youkuaiyun.com/saltriver/article/details/63681339
逻辑回归——梯度下降法https://www.jianshu.com/p/c7e642877b0e

虚拟机配置

虚拟机: Vmware12


操作系统: CentOS7.5


系统内常用组件: lrzsz、vim、yum、wget


主从机地址:
Master —> 192.168.202.10
Slave1 —> 192.168.202.11
Slave2 —> 192.168.202.12


软件版本(及时更新)
Anaconda3 用于切换python2和3版本和管理python所需依赖
Maria DB
Hadoop2.7.7
HBase1.3.1
Zookeeper 3.4.11
Scala 2.11.12
Spark 2.0.2
Hive 1.2.2
Flume 1.9.0
Kafka 2.11-2.1.0


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值