MLlib是Apache Spark处理机器学习的库。下面介绍几个它的特点。
易用性:可以在Java、Scala、Python和SparkR中使用。MLlib融入Spark的API,并且能够在Python中与MumPy交互。你可以使用任何Hadoop数据源(例如HDFS、HBase或者本地文件),使其容易与Hadoop工作流结合。
性能:高质量的算法,比MapReduce快100倍。Spark擅长迭代式计算,使MLlib快速的运行。同时,我们也关心算法的性能:MLlib包含高质量的算法,利用迭代,有时会比基于MapReduce的一次遍历得到更好的结果。
易于部署:运行于现有的Hadoo集群和数据。如果你有一个Hadoop2集群,可以不需要额外的安装就能运行Spark和MLlib。除此之外,Spark也可以简单的运行在standalone、EC2或者Mesos。你可以从HDFS、HBase或者任何Hadoop数据源读取数据。