分别采用匿名类和lambda来实现spark API的接口

SparkConf conf = new SparkConf().setAppName("SparkSample").setMaster("local[*]");
JavaSparkContext sc = new JavaSparkContext(conf);
SQLContext sqlContext = new SQLContext(sc);
		
JavaRDD<String> lines = sc.textFile("D:\\eclipse_1\\sparkTest\\src\\main\\java\\source\\idWordsFile.txt");

JavaPairRDD<String, String> countss = lines
				.filter(x -> x!="")
			    .mapToPair(PairFunction<String,K2,V2>) 
			    /* 对于这段话的意思是mapToPair 方法里面接受一个接口叫PairFunction方法,
                             这个PairFunction 接受三个参数,String,和K2,V2,对于K2和V2可以自己设定类型。
			     其中第一个String为输入类型,K2和V2为返回值的类型。
			     下面是两个分别用匿名类实现这个接口和用lambda实现这个方法的例子
			    */


		//用匿名类 实现该接口方法:
		JavaPairRDD<String,String> counts = lines
				.filter(x -> x!="")
				.mapToPair(new PairFunction<String ,String,String>(){
					public Tuple2<String, String> call(String line) throws Exception {
					    String[] splited =  line.split(":");
					    return new Tuple2<String,String>(splited[0],splited[1]);
					   }
				});

	
		//用lambda实现该接口方法:
		JavaPairRDD<String, String> countss = lines
				.filter(x -> x!="") // 对于lambda ->前面的内容为接口方法的输入的参数, ->后面的内容为需要返回的内容
			    	.mapToPair(w -> 
			    	{
			    		String[] splited = w.split(":"); 
			   		return new Tuple2<String,String>(splited[0],splited[1]);
			   	});
		




                
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值