Cascalog入门

前提

1. 版本: Cascalog 2.0.0

2. 搭建Hadoop集群

3. 安装Leiningen 或 Maven


如何在你的项目中增加Cascalog依赖

Clojure 组件发布在Clojars repository.

With Leiningen

增加Cascalog依赖

[cascalog "2.0.0"]

在你的项目文件project.clj中增加对Hadoop的开发依赖

:profiles{ :dev {:dependencies[[org.apache.hadoop/hadoop-core "1.1.2"]]}}

project.clj中,为在local mode运行Hadoop提高heap大小,确保heap size 至少 768 MB

:jvm-opts ["-Xms768m" "-Xmx768m"]

With Maven

用Maven替代Leiningen,为你的repositories增加Clojars

<repository>
  <id>clojars.org</id>
  <url>http://clojars.org/repo</url>
</repository>

为你的项目添加Cascalog依赖

<dependency>
  <groupId>cascalog</groupId>
  <artifactId>cascalog</artifactId>
  <version>2.0.0</version>
</dependency>

Use Cascalog through Java or Clojure?

Cascalog以Clojure原生实现,但Cascalog提供了名为JCascalog的纯Java接口可与Clojure版本的互操作,选择适合自己的接口。

JCascalog 

Basics

首先看些简单查询,我们查询的数据集在here, 所有的实例代码均在此文件可用this file。下面的查询获取所有25岁的人:

Api.execute(
  new StdoutTap(),
  new Subquery("?person")
    .predicate(Playground.AGE, "?person", 25));

执行如上查询,获得如下结果:

RESULTS
-----------------------
david
emily
-----------------------

解析上述查询:

  1. 执行查询并将结果存入一个 StdoutTap的实例
  2. StdoutTap是一类cascading.tap.Tap,对数据读写的抽象,StdoutTap将 tuples写入stdout.
  3. 一个Subquery代表在其他tuple集合上进行计算获得的tuple集合,上述Subquery为:
    • emit 包含一个名为"?person"field的输出 tuples
    • 在Playground.AGE dataset读取数据,绑定此dataset的第一个field到"?person"并仅仅保留第二个field为25的tuples
  4. Subquery包含一个"output fields declaration",subquery输出tuple的名字和若干定义、约束这些输出变量的predicates。任何数据操作均可通过predicates实现:获取数据源、function、过滤、汇总、分组和二次排序等。

稍微复杂的查询,查出所有小于30岁的人:

Api.execute(
  new StdoutTap(),
  new Subquery("?person")
    .predicate(Playground.AGE, "?person", "?age")
    .predicate(new LT(), "?age", 30));

query 解析:

  1. Subquerysays "emit含有一个名为'?person' tuplefield

  2. 读取AGEdataset并绑定第一个field"?person"和第二个field"?age"

  3. 第二个predicatetuple创建一个过滤器,保留'?age' 小于30"tuple

上述查询仅仅输出名字,如果也包含年龄,仅仅在输出field声明中增加"?age",如下:

Api.execute(
  new StdoutTap(),
  new Subquery("?person", "?age")
    .predicate(Playground.AGE, "?person", "?age")
    .predicate(new LT(), "?age", 30));

This query will print out:

RESULTS
-----------------------
david   25
emily   25
kumar   27
alice   28
gary    28
-----------------------

在查询中通过一个function创建新变量的例子:将上述查询中输出年龄改为输出年龄的两倍。

Api.execute(
  new StdoutTap(),
  new Subquery("?person", "?double-age")
    .predicate(Playground.AGE, "?person", "?age")
    .predicate(new Multiply(), "?age", 2).out("?double-age"));
执行function Multiply, ?age2作为输入,emit名为?double-age的变量作为输出。
如下predicate以一组fields作为输入、一组fields作为输出。
Cascalog中你可用两种类型的fields:
  1. "Vars":"?","!", or "!!"开头的字符串,绑定于一个predicate输出的var代表由此predicateemit的所有此部分的tuple值。

  2. "Constants":常量。

JCascalog可以Options/DISTINCT作为使用predicateemit一组去重tuples,比如,FOLLOWSdataset:

["alice" "david"]
["alice" "bob"]
["alice" "emily"]
["bob" "david"]
["bob" "george"]
["bob" "luanne"]
["david" "alice"]
["david" "luanne"]
["emily" "alice"]
["emily" "bob"]
["emily" "george"]
["emily" "gary"]
["george" "gary"]
["harold" "bob"]
["luanne" "harold"]
["luanne" "gary"]

取出所有第一个field的值:

Api.execute(
  new StdoutTap(),
  new Subquery("?person")
    .predicate(Playground.FOLLOWS, "?person", "_")
    .predicate(Option.DISTINCT, true));

结果如下:

RESULTS
-----------------------
alice
bob
david
emily
george
harold
luanne
-----------------------

"Option predicates" 是一种特殊的predicate,执行查询时自动调整许多方面。注意绑定于第二个field的下划线"_"意味着忽略此field

Joins

Join两个datasetsFOLLOWSGENDER "emily" follows中所有的男性:

Api.execute(
  new StdoutTap(),
  new Subquery("?person")
    .predicate(Playground.FOLLOWS, "emily", "?person")
    .predicate(Playground.GENDER, "?person", "m"));

Cascalog 中,Joins是隐含的,通过共享一个变量名实现。上例中,var?personFOLLOWSGENDER的输出中共享,在这两个dataset中实现innerjoin"emily"是此查询中的常量。

Multi-level queries

多层子查询:

查询所有followsrelationships中多于两个follow的人员:

Subquery manyFollows =
        new Subquery("?person")                    
            .predicate(Playground.FOLLOWS, "?person", "_")
            .predicate(new Count(), "?count")
            .predicate(new GT(), "?count", 2);
Api.execute(
  new StdoutTap(),
  new Subquery("?person1", "?person2")
    .predicate(manyFollows, "?person1")
    .predicate(manyFollows, "?person2")
    .predicate(Playground.FOLLOWS, "?person1", "?person2"));

首先创建subquery "manyFollows",而后在一个queryjoin"manyFollows"来过滤FOLLOWS

"multi level" queries的关键在于在查询内subqueriestaps以相同方式工作,它们是tuples源,Cascalog把每一个tuple源称为一个"generator".

最后,使得最后的查询更为精确:

Subquery manyFollows =
        new Subquery("?person")
            .predicate(Playground.FOLLOWS, "?person", "_")
            .predicate(new Count(), "?count")
            .predicate(new GT(), "?count", 2);
Api.execute(
  new StdoutTap(),
  new Subquery("?person1", "?person2")
    .predicate(Api.each(manyFollows), "?person1", "?person2")
    .predicate(Playground.FOLLOWS, "?person1", "?person2"));

注意Api.each,它创建"predicatemacro",在此查询的第一个实现上将manyFollows应用为predicate的每个input var ,将一个predicate拓展为两个predicates

Operations

SENTENCEdataset中获取去重单词,需要一个operationsentence分割为组成单词。此operation定义如下:

public class Split extends CascalogFunction {
    public void operate(FlowProcess flowProcess, FunctionCall fnCall) {
        String sentence = fnCall.getArguments().getString(0);
        for(String word: sentence.split(" ")) {
            fnCall.getOutputCollector().add(new Tuple(word));
        }
    }
}

operation获取input的第一个field,作为sentence并且作为单个fieldemits每一个单词。使用此function

Api.execute(
  new StdoutTap(),
  new Subquery("?word")
    .predicate(Playground.SENTENCE, "?sentence")
    .predicate(new Split(), "?sentence").out("?word")
    .predicate(Option.DISTINCT, true));

SENTENCEdataset实现单词统计,典型的MapReduce查询,实现如下:

Api.execute(
  new StdoutTap(),
  new Subquery("?word", "?count")
    .predicate(Playground.SENTENCE, "?sentence")
    .predicate(new Split(), "?sentence").out("?word")
    .predicate(new Count(), "?count"));

唯一不同在于增加了"Count"predicate,在哪里执行了GROUP-BY呢?在CascalogGrouping是隐含实现的,可以在here了解更多关于GroupAggragate的信息。

可在JCascalog中实现6operations

  1. CascalogFunction:一次一个tuple并产生0或多个tuple作为输出。若为0,则输入tuple被过滤,若为多个,输入tuple被复制为多份。

  2. CascalogFilter:如果输入tuple被保留则返回True,否则为False

  3. CascalogAggregator:一种aggregator,参看Cascadingaggregators

  4. CascalogBuffer:另一种aggregator,不能与其他aggregators链接起来,同Cascadingbuffers

  5. ParallelAgg:一种更为严格的aggregator,在map-side自动实现combiners加快计算。

  6. ClojureOp: 引用Clojure编写的operations,一个namespace和一个var名。

jcascalog.op保含有一些列有用的常用operations

读写files

上述操作皆为内存中的读写操作。此例查询读取目录"src/java/jcascalog/example"下所有的text文件并emit单个tuple,包含所有文件的行数,输出在"/tmp/myresults"目录下的一个textfile

Api.execute(
  Api.hfsTextline("/tmp/myresults"),
  new Subquery("?count")
    .predicate(Api.hfsTextline("src/java/jcascalog/example"), "_")
    .predicate(new Count(), "?count"));

Api.hfsTextline作为一helperfunction来创建一个CascadingTapTextLine格式读取HDFS,任何Cascading tap 均可用于Cascalog 查询。

Api static methods

JCascalog API jcascalog.Api类中的staticmethods,这些方法wrapapi.cljops.clj可用的functionality。一些其他functions

  1. unioncombine,用于将两个或多个单独的数据集合并为一个数据集,要求每个 dataset包含由相同field数的tuplesunion增加去重操作。

  2. firstN:排序取出firstN

  3. setApplicationConf:以一mapJobConfparameters自动用于以后的每个查询。

标题SpringBoot智能在线预约挂号系统研究AI更换标题第1章引言介绍智能在线预约挂号系统的研究背景、意义、国内外研究现状及论文创新点。1.1研究背景与意义阐述智能在线预约挂号系统对提升医疗服务效率的重要性。1.2国内外研究现状分析国内外智能在线预约挂号系统的研究与应用情况。1.3研究方法及创新点概述本文采用的技术路线、研究方法及主要创新点。第2章相关理论总结智能在线预约挂号系统相关理论,包括系统架构、开发技术等。2.1系统架构设计理论介绍系统架构设计的基本原则和常用方法。2.2SpringBoot开发框架理论阐述SpringBoot框架的特点、优势及其在系统开发中的应用。2.3数据库设计与管理理论介绍数据库设计原则、数据模型及数据库管理系统。2.4网络安全与数据保护理论讨论网络安全威胁、数据保护技术及其在系统中的应用。第3章SpringBoot智能在线预约挂号系统设计详细介绍系统的设计方案,包括功能模块划分、数据库设计等。3.1系统功能模块设计划分系统功能模块,如用户管理、挂号管理、医生排班等。3.2数据库设计与实现设计数据库表结构,确定字段类型、主键及外键关系。3.3用户界面设计设计用户友好的界面,提升用户体验。3.4系统安全设计阐述系统安全策略,包括用户认证、数据加密等。第4章系统实现与测试介绍系统的实现过程,包括编码、测试及优化等。4.1系统编码实现采用SpringBoot框架进行系统编码实现。4.2系统测试方法介绍系统测试的方法、步骤及测试用例设计。4.3系统性能测试与分析对系统进行性能测试,分析测试结果并提出优化建议。4.4系统优化与改进根据测试结果对系统进行优化和改进,提升系统性能。第5章研究结果呈现系统实现后的效果,包括功能实现、性能提升等。5.1系统功能实现效果展示系统各功能模块的实现效果,如挂号成功界面等。5.2系统性能提升效果对比优化前后的系统性能
在金融行业中,对信用风险的判断是核心环节之一,其结果对机构的信贷政策和风险控制策略有直接影响。本文将围绕如何借助机器学习方法,尤其是Sklearn工具包,建立用于判断信用状况的预测系统。文中将涵盖逻辑回归、支持向量机等常见方法,并通过实际操作流程进行说明。 一、机器学习基本概念 机器学习属于人工智能的子领域,其基本理念是通过数据自动学习规律,而非依赖人工设定规则。在信贷分析中,该技术可用于挖掘历史数据中的潜在规律,进而对未来的信用表现进行预测。 二、Sklearn工具包概述 Sklearn(Scikit-learn)是Python语言中广泛使用的机器学习模块,提供多种数据处理和建模功能。它简化了数据清洗、特征提取、模型构建、验证与优化等流程,是数据科学项目中的常用工具。 三、逻辑回归模型 逻辑回归是一种常用于分类任务的线性模型,特别适用于二类问题。在信用评估中,该模型可用于判断借款人是否可能违约。其通过逻辑函数将输出映射为0到1之间的概率值,从而表示违约的可能性。 四、支持向量机模型 支持向量机是一种用于监督学习的算法,适用于数据维度高、样本量小的情况。在信用分析中,该方法能够通过寻找最佳分割面,区分违约与非违约客户。通过选用不同核函数,可应对复杂的非线性关系,提升预测精度。 五、数据预处理步骤 在建模前,需对原始数据进行清理与转换,包括处理缺失值、识别异常点、标准化数值、筛选有效特征等。对于信用评分,常见的输入变量包括收入水平、负债比例、信用历史记录、职业稳定性等。预处理有助于减少噪声干扰,增强模型的适应性。 六、模型构建与验证 借助Sklearn,可以将数据集划分为训练集和测试集,并通过交叉验证调整参数以提升模型性能。常用评估指标包括准确率、召回率、F1值以及AUC-ROC曲线。在处理不平衡数据时,更应关注模型的召回率与特异性。 七、集成学习方法 为提升模型预测能力,可采用集成策略,如结合多个模型的预测结果。这有助于降低单一模型的偏差与方差,增强整体预测的稳定性与准确性。 综上,基于机器学习的信用评估系统可通过Sklearn中的多种算法,结合合理的数据处理与模型优化,实现对借款人信用状况的精准判断。在实际应用中,需持续调整模型以适应市场变化,保障预测结果的长期有效性。 资源来源于网络分享,仅用于学习交流使用,请勿用于商业,如有侵权请联系我删除!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值