graphx操作实例03-导入顶点和边生成图

最新推荐文章于 2024-08-17 01:16:30 发布

原创

最新推荐文章于 2024-08-17 01:16:30 发布 · 3.2k 阅读

2 ·

CC 4.0 BY-SA版权

文章标签：

#graphx #spark #Graph

该博客详细介绍了如何利用GraphX导入顶点和边的数据，并通过这些数据在Spark中构建图结构。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

导入顶点和边的信息，使用Graph生成图

import org.apache.spark._
import org.apache.spark.SparkContext
import org.apache.spark.SparkContext._
import org.apache.spark.graphx._
import org.apache.spark.rdd.RDD

object Day04 {

    def main(args: Array[String]) = {

		val conf = new SparkConf()
		val sc = new SparkContext("local", "test", conf)

		// day04-vertices.csv
		// 1,Taro,100
		// 2,Jiro,200
		// 3,Sabo,300
		val vertexLines: RDD[String] = sc.textFile("graphdata/day04-vertices.csv")
		val vertices: RDD[(VertexId, (String, Long))] = vertexLines.map(line => {
				val cols = line.split(",")
				(cols(0).toLong, (cols(1), cols(2).toLong))
			})

		// day04-edges.csv
		// 1,2,100,2014/12/1
		// 2,3,200,2014/12/2
		// 3,1,300,2014/12/3
		val format = new java.text.SimpleDateFormat("yyyy/MM/dd")
		val edgeLines: RDD[String] = sc.textFile("graphdata/day04-edges.csv")
		val edges:RDD[Edge[((Long, java.util.Date))]] = edgeLines.map(line => {