Cascalog入门

Cascalog与Hadoop集成及使用教程

最新推荐文章于 2024-03-26 09:31:42 发布

victory0508

最新推荐文章于 2024-03-26 09:31:42 发布

阅读量1.0k

点赞数

分类专栏： Storm 文章标签： storm cascalog

Storm 专栏收录该内容

8 篇文章

订阅专栏

前提

1. 版本： Cascalog 2.0.0

2. 搭建Hadoop集群

3. 安装Leiningen 或 Maven

如何在你的项目中增加Cascalog依赖

Clojure 组件发布在Clojars repository.

With Leiningen

增加Cascalog依赖

[cascalog "2.0.0"]

在你的项目文件project.clj中增加对Hadoop的开发依赖

:profiles{ :dev {:dependencies[[org.apache.hadoop/hadoop-core "1.1.2"]]}}

在project.clj中，为在local mode运行Hadoop提高heap大小，确保heap size 至少 768 MB

:jvm-opts ["-Xms768m" "-Xmx768m"]

With Maven

用Maven替代Leiningen，为你的repositories增加Clojars

<repository>
  <id>clojars.org</id>
  <url>http://clojars.org/repo</url>
</repository>

为你的项目添加Cascalog依赖

<dependency>
  <groupId>cascalog</groupId>
  <artifactId>cascalog</artifactId>
  <version>2.0.0</version>
</dependency>

Use Cascalog through Java or Clojure?

Cascalog以Clojure原生实现，但Cascalog提供了名为JCascalog的纯Java接口可与Clojure版本的互操作，选择适合自己的接口。

JCascalog

Basics

首先看些简单查询，我们查询的数据集在here, 所有的实例代码均在此文件可用this file。下面的查询获取所有25岁的人：

Api.execute(
  new StdoutTap(),
  new Subquery("?person")
    .predicate(Playground.AGE, "?person", 25));

执行如上查询，获得如下结果：

RESULTS
-----------------------
david
emily
-----------------------

解析上述查询:

执行查询并将结果存入一个 StdoutTap的实例
StdoutTap是一类cascading.tap.Tap，对数据读写的抽象，StdoutTap将 tuples写入stdout.
一个Subquery代表在其他tuple集合上进行计算获得的tuple集合，上述Subquery为：
- emit 包含一个名为"?person"field的输出 tuples
- 在Playground.AGE dataset读取数据，绑定此dataset的第一个field到"?person"并仅仅保留第二个field为25的tuples
Subquery包含一个"output fields declaration"，subquery输出tuple的名字和若干定义、约束这些输出变量的predicates。任何数据操作均可通过predicates实现：获取数据源、function、过滤、汇总、分组和二次排序等。

稍微复杂的查询，查出所有小于30岁的人：

Api.execute(
  new StdoutTap(),
  new Subquery("?person")
    .predicate(Playground.AGE, "?person", "?age")
    .predicate(new LT(), "?age", 30));

query 解析:

此Subquerysays "emit含有一个名为'?person' tuple的field
读取AGEdataset并绑定第一个field至"?person"和第二个field至"?age"
第二个predicate在tuple创建一个过滤器，保留'?age' 小于30"的tuple

上述查询仅仅输出名字，如果也包含年龄，仅仅在输出field声明中增加"?age"，如下：

Api.execute(
  new StdoutTap(),
  new Subquery("?person", "?age")
    .predicate(Playground.AGE, "?person", "?age")
    .predicate(new LT(), "?age", 30));

This query will print out:

RESULTS
-----------------------
david   25
emily   25
kumar   27
alice   28
gary    28
-----------------------

在查询中通过一个function创建新变量的例子：将上述查询中输出年龄改为输出年龄的两倍。

Api.execute(
  new StdoutTap(),
  new Subquery("?person", "?double-age")
    .predicate(Playground.AGE, "?person", "?age")
    .predicate(new Multiply(), "?age", 2).out("?double-age"));
执行function Multiply, ?age和2作为输入，emit名为?double-age的变量作为输出。
如下predicate以一组fields作为输入、一组fields作为输出。
在Cascalog中你可用两种类型的fields:

"Vars":以"?","!", or "!!"开头的字符串，绑定于一个predicate输出的var代表由此predicateemit的所有此部分的tuple值。
"Constants":常量。

JCascalog可以Options/DISTINCT作为使用predicate来emit一组去重tuples，比如，FOLLOWSdataset:

["alice" "david"]
["alice" "bob"]
["alice" "emily"]
["bob" "david"]
["bob" "george"]
["bob" "luanne"]
["david" "alice"]
["david" "luanne"]
["emily" "alice"]
["emily" "bob"]
["emily" "george"]
["emily" "gary"]
["george" "gary"]
["harold" "bob"]
["luanne" "harold"]
["luanne" "gary"]

取出所有第一个field的值：

Api.execute(
  new StdoutTap(),
  new Subquery("?person")
    .predicate(Playground.FOLLOWS, "?person", "_")
    .predicate(Option.DISTINCT, true));

结果如下：

RESULTS
-----------------------
alice
bob
david
emily
george
harold
luanne
-----------------------

"Option predicates" 是一种特殊的predicate，执行查询时自动调整许多方面。注意绑定于第二个field的下划线"_"意味着忽略此field。

Joins

Join两个datasetsFOLLOWS和GENDER "emily" follows中所有的男性：

Api.execute(
  new StdoutTap(),
  new Subquery("?person")
    .predicate(Playground.FOLLOWS, "emily", "?person")
    .predicate(Playground.GENDER, "?person", "m"));

Cascalog 中，Joins是隐含的，通过共享一个变量名实现。上例中，var?person在FOLLOWS和GENDER的输出中共享，在这两个dataset中实现innerjoin。"emily"是此查询中的常量。

Multi-level queries

多层子查询：

查询所有followsrelationships中多于两个follow的人员：

Subquery manyFollows =
        new Subquery("?person")                    
            .predicate(Playground.FOLLOWS, "?person", "_")
            .predicate(new Count(), "?count")
            .predicate(new GT(), "?count", 2);
Api.execute(
  new StdoutTap(),
  new Subquery("?person1", "?person2")
    .predicate(manyFollows, "?person1")
    .predicate(manyFollows, "?person2")
    .predicate(Playground.FOLLOWS, "?person1", "?person2"));

首先创建subquery "manyFollows"，而后在一个query中join此"manyFollows"来过滤FOLLOWS。

"multi level" queries的关键在于在查询内subqueries和taps以相同方式工作，它们是tuples源，Cascalog把每一个tuple源称为一个"generator".

最后，使得最后的查询更为精确：

Subquery manyFollows =
        new Subquery("?person")
            .predicate(Playground.FOLLOWS, "?person", "_")
            .predicate(new Count(), "?count")
            .predicate(new GT(), "?count", 2);
Api.execute(
  new StdoutTap(),
  new Subquery("?person1", "?person2")
    .predicate(Api.each(manyFollows), "?person1", "?person2")
    .predicate(Playground.FOLLOWS, "?person1", "?person2"));

注意Api.each，它创建"predicatemacro"，在此查询的第一个实现上将manyFollows应用为predicate的每个input var ，将一个predicate拓展为两个predicates。

Operations

在SENTENCEdataset中获取去重单词，需要一个operation将sentence分割为组成单词。此operation定义如下：

public class Split extends CascalogFunction {
    public void operate(FlowProcess flowProcess, FunctionCall fnCall) {
        String sentence = fnCall.getArguments().getString(0);
        for(String word: sentence.split(" ")) {
            fnCall.getOutputCollector().add(new Tuple(word));
        }
    }
}

此operation获取input的第一个field，作为sentence并且作为单个fieldemits每一个单词。使用此function：

Api.execute(
  new StdoutTap(),
  new Subquery("?word")
    .predicate(Playground.SENTENCE, "?sentence")
    .predicate(new Split(), "?sentence").out("?word")
    .predicate(Option.DISTINCT, true));

在SENTENCEdataset实现单词统计,典型的MapReduce查询，实现如下：

Api.execute(
  new StdoutTap(),
  new Subquery("?word", "?count")
    .predicate(Playground.SENTENCE, "?sentence")
    .predicate(new Split(), "?sentence").out("?word")
    .predicate(new Count(), "?count"));

唯一不同在于增加了"Count"predicate，在哪里执行了GROUP-BY呢？在Cascalog中Grouping是隐含实现的，可以在here了解更多关于Group和Aggragate的信息。

可在JCascalog中实现6中operations：

CascalogFunction:一次一个tuple并产生0或多个tuple作为输出。若为0，则输入tuple被过滤，若为多个，输入tuple被复制为多份。
CascalogFilter:如果输入tuple被保留则返回True，否则为False。
CascalogAggregator:一种aggregator，参看Cascadingaggregators
CascalogBuffer:另一种aggregator，不能与其他aggregators链接起来，同Cascadingbuffers
ParallelAgg:一种更为严格的aggregator，在map-side自动实现combiners加快计算。
ClojureOp: 引用Clojure编写的operations，一个namespace和一个var名。

jcascalog.op保含有一些列有用的常用operations。

读写files

上述操作皆为内存中的读写操作。此例查询读取目录"src/java/jcascalog/example"下所有的text文件并emit单个tuple，包含所有文件的行数，输出在"/tmp/myresults"目录下的一个textfile：

Api.execute(
  Api.hfsTextline("/tmp/myresults"),
  new Subquery("?count")
    .predicate(Api.hfsTextline("src/java/jcascalog/example"), "_")
    .predicate(new Count(), "?count"));

Api.hfsTextline作为一helperfunction来创建一个CascadingTap以TextLine格式读取HDFS，任何Cascading tap 均可用于Cascalog 查询。

Api static methods

JCascalog API 是jcascalog.Api类中的staticmethods，这些方法wrap在api.clj和ops.clj可用的functionality。一些其他functions：

union和combine，用于将两个或多个单独的数据集合并为一个数据集，要求每个 dataset包含由相同field数的tuples。union增加去重操作。
firstN:排序取出firstN。
setApplicationConf:以一map的JobConfparameters自动用于以后的每个查询。