
Hadoop
文章平均质量分 82
瑟龙
毕业于中南大学,从事游戏开发与后台技术、云计算等,带领团队开发过多个项目,均获得不错的成绩,现在一家厦门的创业公司担任技术总监,提供游戏开发与云计算以及私有云搭建的技术支持
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Hadoop从入门到精通 (一):Hadoop环境搭建准备
大家好,我是Stefan,今天开始为大家带来详细的Hadoop学习教程,大家可以按照我的教程步骤一步一步步入云计算的开发行列,好了,废话不多说,我们开始第一篇:Hadoop环境搭建。万事开头难,这话不是吹的。很多人在最初的环境搭建就出现了问题,而每个人的平台又有所差异,就更加导致了问题的出现概率,这里我尽可能涉及到多种情况,我本机用的时Mac OS 10.9.2,搭建的过程和用Ubuntu和C原创 2014-03-29 15:02:49 · 7480 阅读 · 2 评论 -
mahout itemBase 源码分析
item矩阵计算author : xiajun简介:本章介绍mahout itemBase 相似度的计算itemMatrix是计算两个商品之间的距离。mahout实现:user item pre 001 10001 3 001 10004 4 002 10001 2PreparePreferenceMatrixJob是处理数据格式转载 2014-05-12 19:18:19 · 943 阅读 · 0 评论 -
Mahout 协同过滤 itemBase RecommenderJob源码分析
Mahout支持2种 M/R 的jobs实现itemBase的协同过滤I.ItemSimilarityJobII.RecommenderJob下面我们对RecommenderJob进行分析,版本是mahout-distribution-0.7源码包位置:org.apache.mahout.cf.taste.hadoop.item.RecommenderJob转载 2014-05-12 15:28:49 · 793 阅读 · 0 评论 -
Mahout实现的机器学习算法
在Mahout实现的机器学习算法见下表算法类算法名中文名分类算法Logistic Regression逻辑回归Bayesian贝叶斯SVM支持向量机Perceptron感知器算法Neural Ne转载 2014-05-12 15:27:16 · 1219 阅读 · 0 评论 -
Apache Mahout的Taste基于Hadoop实现协同过滤推荐引擎的代码分析
Taste 是 Apache Mahout 提供的一个协同过滤算法的高效实现,它是一个基于Java实现的可扩展的高效的推荐引擎。该推荐引擎是用这样简单的数据格式表达用户对物品的偏好。以此为输入数据,计算后就可以得到为每个user推荐的items列表。他提供了方便的单机版的编程接口,也提供了基于hadoop的分布式的实现。单机版的编程接口主要适用于写demo和做算法的评估,若处理转载 2014-05-12 17:34:04 · 1005 阅读 · 0 评论 -
TF-IDF与余弦相似性的应用(二):找出相似文章
今天,我们再来研究另一个相关的问题。有些时候,除了找到关键词,我们还希望找到与原文章相似的其他文章。比如,"Google新闻"在主新闻下方,还提供多条相似的新闻。为了找出相似的文章,需要用到"余弦相似性"(cosine similiarity)。下面,我举一个例子来说明,什么是"余弦相似性"。为了简单起见,我们先从句子着手。 句子A:我喜欢看电视,不喜欢看电影转载 2014-05-10 15:05:01 · 758 阅读 · 0 评论 -
Hadoop从入门到精通之 如何运行hadoop程序
Hi 大家好,我是stefan,今天给大家带来的时如何运行Hadoop程序。大家学习所有的IT技术都是通过先运行它们的范例开始的,Hadoop也不例外。Hadoop的运行可以分为三种:1、在bash中敲代码,对每个文件编译运行2、在bash中敲代码,打包成jar包后执行3、在eclipse中编译后直接执行===>首先我们来看看第1种方法:第一种方法首先将我们写好的.原创 2014-04-11 15:49:26 · 2214 阅读 · 0 评论 -
Hadoop 2.X 分布式安装
经过好多天的各种折腾,终于在几台电脑里面配置好了Hadoop2.2.0分布式系统,现在总结一下如何配置。 前提条件: (1)、首先在每台Linux电脑上面安装好JDK6或其以上版本,并设置好JAVA_HOME等,测试一下java、javac、jps等命令是否可以在终端使用,如何配置JDK这里就不说了; (2)、在每台Linux上安装好SSH,如何安装请参加《Linux转载 2014-05-14 15:58:28 · 1178 阅读 · 0 评论 -
Hadoop从入门到精通之 如何从Hadoop1.x转到Hadoop2.x
Hello 大家好,我是stefan,今天来和大家分享下如何将Hadoop1.x迁移至Hadoop2.x。这篇博文提供了将Hadoop MapReduce应用从Hadoop1.x迁移到Hadoop2.x的方法。在2.x的版本中,apache将resource management剥离出来集成到Hadoop YARN里了,目的在于将application management框架分开使得原创 2014-04-01 14:48:34 · 2072 阅读 · 0 评论 -
Hadoop2.x安装
由于现在hadoop2.0还处于beta版本,在apache官方网站上发布的beta版本中只有编译好的32bit可用,如果你直接下载安装在64bit的linux系统的机器上,运行会报一个INFO util.NativeCodeLoader - Unable to load native-hadoop library for your platform... using builtin-java转载 2014-04-02 14:16:27 · 1413 阅读 · 0 评论