- 博客(39)
- 收藏
- 关注
原创 mapreduce的工作原理
每个数据块都会被一个Map任务处理。Map任务将输入数据解析成键值对 <key, value> ,然后通过用户定义的Map函数对每个键值对进行处理,生成一组新的中间键值对。例如,在一个统计单词出现次数的任务中,Map函数可能会将每个单词作为键,出现次数初始化为1,生成 <单词, 1> 这样的中间键值对。- Map阶段产生的中间键值对会按照键进行排序和分组,相同键的值会被聚集到一起,形成 <key, [value1, value2, ...]> 的形式,然后被发送到Reduce任务所在的节点。
2025-03-31 19:34:42
204
原创 hadoop集群的常用命令
hadoop fs -put <local_path> <hdfs_path> :将本地文件系统中的文件上传到HDFS指定路径,例如 hadoop fs -put /home/hadoop/file.txt /user/hadoop/。- hadoop fs -get <hdfs_path> <local_path> :从HDFS下载文件到本地文件系统,如 hadoop fs -get /user/hadoop/file.txt /home/hadoop/。MapReduce相关命令。
2025-03-31 19:33:41
289
原创 环境变量的概念
在Windows系统中,可以通过“控制面板”中的“系统和安全”→“系统”→“高级系统设置”,在弹出的对话框中点击“环境变量”按钮来进行设置和查看。例如,在Windows系统中, PATH 环境变量用于指定可执行文件的搜索路径,当你在命令提示符中输入一个命令时,系统会按照 PATH 中指定的路径去查找对应的可执行文件。- 用户环境变量:针对每个用户进行设置,只对当前用户有效。环境变量在计算机系统中起着重要的作用,它为系统和应用程序提供了一种灵活的配置方式,使得不同的软件和工具能够在不同的环境中正确运行。
2025-03-26 08:42:35
158
原创 Linux常见操作命令
使用 tail 命令可以查看文件的后几行, tail -n 10 file 可以查看文件的后10行, tail -f file 可以实时查看文件的更新内容,常用于查看日志文件。- 查看目录内容:使用 ls 命令, ls 可以列出当前目录下的文件和子目录, ls -l 可以以详细列表形式显示文件信息, ls -a 可以显示包括隐藏文件在内的所有文件。- 删除文件/目录:使用 rm 命令, rm file 可以删除文件, rm -r dir 可以递归删除目录及其内容, rm -f 可以强制删除,不提示确认。
2025-03-03 19:31:15
1280
原创 vi常见操作命令
移动光标:在命令模式下,可以使用 h (向左)、 j (向下)、 k (向上)、 l (向右)键来移动光标,也可以使用 Ctrl + f (向下翻页)、 Ctrl + b (向上翻页)。- 复制粘贴:按 yy 可以复制光标所在的整行,按 nyy (n为数字)可以复制从光标所在行开始的n行。- 删除字符:按 x 键可以删除光标所在位置的字符,按 nx (n为数字)可以删除光标所在位置及后面的n个字符。- 删除行:按 dd 可以删除光标所在的整行,按 ndd (n为数字)可以删除从光标所在行开始的n行。
2025-03-03 19:30:17
133
原创 虚拟机IP配置
编辑网络配置文件:CentOS系统的网络配置文件位于 /etc/sysconfig/network-scripts/ 目录下,一般网卡配置文件名为 ifcfg-eth0 (如果有多个网卡,可能是 ifcfg-eth1 等)。其中, IPADDR 是你要设置的静态IP地址, NETMASK 是子网掩码, GATEWAY 是网关地址, DNS1 和 DNS2 是DNS服务器地址。查看当前网络配置:登录到CentOS虚拟机后,打开终端,输入命令 ip addr ,可以查看当前的网络配置信息。
2025-03-03 19:28:53
305
原创 vm+centos虚拟机
选择安装来源:这里选择“安装程序光盘映像文件(iso)”,然后浏览并选择你下载好的CentOS镜像文件,点击“下一步”。设置虚拟机名称和安装位置:给你的虚拟机取一个名字,比如“CentOS 7”,并选择一个合适的安装位置,这里要注意安装位置的磁盘空间要足够,然后点击“下一步”。安装CentOS:虚拟机创建完成后,点击“开启此虚拟机”,开始安装CentOS。在分区时,你可以选择自动分区,也可以手动分区。设置root密码和创建用户:安装过程中,需要设置root用户的密码,这是系统的超级管理员密码,一定要牢记。
2025-03-03 19:27:05
388
原创 作业作业作业
package test40object test4 { def getMax(intList: List[Int]): Int = { intList.foldLeft(intList.head)(math.max) } def getMax(doubleList: List[Double]): Double = { doubleList.foldLeft(doubleList.head)(math.max) } def main(args: Array[St
2024-12-12 09:22:48
113
原创 补充前面漏掉的
/6.脱字符^如果在正则的最前面,表示,要匹配的内容必须在字符串的开头。//7.脱字符$如果在正则的最后面,表示,要匹配的内容必须在字符串的结尾。//2.[a-z]:表示从a到z的26个字母中的任意的一个。//3.[A-Z]:表示从A到Z的26个字母中的任意的一个。//1.[ab]:表示匹配一个字符,或者是a或者是b。//4.[0-9]:表示从0到的10中任意一个。//5.{11}:表示前面的字符能出现11次。//定义一个正则表达式。
2024-12-12 00:06:12
232
原创 练习关于在scala中case的用法
/ l1.insert(2,150) //在指定位置添加 把2这个位置的元素改成150,其他的往后移。// val rs =l1.contains(2) //判断元素2是否存在list中。// val l3 = l1 ++l2 //把l1和l2中的内容合并到l3中。// //不可变 l1(0) =100写法是错误的!// l1.remove(0)//删除指定位置上的元素。// l1.prepend(-1)//在头部添加。// l1 -=150//删除指定元素。// //6.判断元素是否存在。
2024-12-12 00:05:38
367
原创 练习题Scala
println(s"《$name》 不存在,删除失败")println(s"id: $id 不存在,删除失败")println(s"《$name》 存在,删除成功")println(s"id: $id 存在,删除成功")println(s"总的金额是:${sum}")println(s"《$name》 不存在")println(s"《$name》 存在")println("没有")println("有")
2024-12-12 00:05:04
417
原创 二维数组,以及ARRAY的习题及答案
//二维数组//2.1创建方式1val arr5 = Array.ofDim[Int](2,3)//2行2列//2.2访问数组的元素arr5(0)(0)=1arr5(0)(1)=2arr5(1)(0)=3arr5(1)(1)=4//2.3把一维数组转化为二维数组var arr6 =Array(1,2,3,4,5,6)var arr7 =arr6.grouped(3)//3个元素一组// println(arr7)while (arr7.hasNext)
2024-12-12 00:04:16
543
原创 在scala中完成练习题(成绩排名) | 题目如图
list += Student("林峰", 102, 0) //2。list += Student("周周", 101, 0) //3。list += Student("郑选", 105, 0) //1。list += Student("吴刚", 102, 0) //2。list += Student("孙涛", 90, 0) //4。list += Student("陈晨", 90, 0) //4。//(2)若当前的分数等于预设的分数,则名次不变。//对list碱性排序,按总分排名。
2024-12-12 00:03:02
130
原创 在scala中完成成绩排名问题 | 创建包,创建类,导入文件
list += Student("林峰", 102, 0) //2。list += Student("周周", 101, 0) //3。list += Student("郑选", 105, 0) //1。list += Student("吴刚", 102, 0) //2。list += Student("孙涛", 90, 0) //4。list += Student("陈晨", 90, 0) //4。//(2)若当前的分数等于预设的分数,则名次不变。//对list碱性排序,按总分排名。
2024-12-12 00:02:29
295
原创 隐式转换代码表现方式
/隐式转换 :编译器自动的,偷偷的,把数据类型从A->B。//3.隐式函数:implicit 修饰的函数。//2.重要的是:参数类型和返回值类型!// //把Int类型,转换成Double类型。//implicit隐式转换。//有可能成功,也有可能失败。//潜规则:老代码不要改!//1.函数名字不重要。// //隐式转换成功。// //隐式转换失败。
2024-12-12 00:01:37
355
原创 Scala隐式类
/第二步: 定义一个隐式转换函数,把BasertUser----> PowerUser。//第一步: 定义一个有updateUser功能的类 PowerUser。//隐式类:implicit class == 隐式转换函数 + 类。u1.updateUser()//添加一个新的功能。//之前的类,不要改动他。//前提:写好的代码不要动!//给这个类提供新功能。
2024-12-12 00:01:00
433
原创 正则表达式的代码表现式
/规则分析:合法用户1名通常允许包含大小写字母(a-z,A-Z),数字(0-9)以及下划线(_),用户名长度一般限定在3到20位之间,且不能以数字开头。//12.\W: 表示 除 \w 之外的字符。//8.英文的.:表示除了换行之外的其他的任意字符。//14./S:表示 除 \s 之外的字符。//10.\D:表示 除\d 之外的字符。// //matches: 验证字符串是否满足。//9.\d:表示0-9的一个数字。//15.1 *: 表示 >=0。
2024-12-12 00:00:10
264
原创 Scala中的泛型
/ getMiddleEle(List(1,2,3,4,5)) ===> 5/2 = 2 ===>下标为2的元素是: 3。// getMiddleEle(List(1,2,3,4)) ===> 4/2 = 2 ===>下标为2的元素是: 3。//List[Int]: List 是列表,[Int] 是说列表中的每一个元素都是int!//2.泛型在编译时生效,在运行时不可见,最后产生的class文件中是没有泛型的。//类型参数-----泛型(数据类型是变化的)// 中间的位置的下标 = 长度/2。
2024-12-11 23:58:48
633
原创 Scala函数的调用
声明一个函数之后,可以通过“对象.函数名(参数列表)”的方式调用该函数,参数列表要指定参数的类型。在Java 中通过对象调用非静态成员,通过类名调用静态成员。在Scah中态成员,统一称为对象。Scala中Object 是一个单例对象,同样可以使用Object进行函数的调。
2024-09-29 17:52:46
257
原创 IDEA如何配置Scala?
2.下载完成后 打开文件点击项目结构中的全局库添加scala-sdk-2.13.14最后确认。1.打开IntelliJ IDEA软件 打开文件点击设置插件中搜索Scala下载。3.最后在src中新建Scala类object文件。
2024-09-10 15:59:28
1509
原创 Scala运算优先级
先算术运算,后移位运算,最后位运算。的、具有不同数据类型的数据对象;种运算,不同的运算顺序可能得出不同结果甚至出现。错误运算错误,因为当表达式中含多种运算时,必须。按一定顺序进行结合,才能保证运算的合理性和结果。相同优先级中,按结合顺序计算。至右计算,只有三个优先级是从右至左结合的,它们。优先级从上到下依次递减,最上面具有最高的优先。<<3+2&7等价于(1<<(3+2))&7。指针最优,单目运算优于双目运算。是单目运算符、条件运算符、赋值运算符。级,逗号操作符具有最低的优先级。先乘除(模),后加减。
2024-09-09 20:07:48
249
原创 如何用Scala写Hello World
例:scalac HelloWorld.scala。3、打开文件所在位置的文件夹Q,点导航目录,输。例:scala HelloWorld。2、把后缀名改为.scala。
2024-09-04 19:16:30
176
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人