基于mapreduce实现好友推荐功能

该博客介绍如何利用MapReduce处理好友关系数据,通过将数据倒置并在Reduce阶段合并,找出可能的好友对。Map阶段将好友对拆分为键值对,Reduce阶段使用HashSet检查每个用户的朋友集合,如果集合大小超过1,则输出所有可能的好友组合。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

数据格式:

hadoop hello

hdfs  world

tom cat

cat dog

hello world

每一行代表一个好友对,具体的思路是将所有数据倒置

map 阶段hadoop hello ==>  hadoop hello   | hello hadoop

reduce阶段,由于键相同的已经合并,在合并的数组中任何两个人都有可能是好友

代码如下:

qqMapper.java

package com.qq;

import java.io.IOException;

import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Mapper;


public class qqMapper  extends Mapper<LongWritable, Text, Text, Text>{
    
    protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException{
        String line = value.toString();
        String[] ss = line.split("\t");
        context.write(new Tex

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值