
计算机
文章平均质量分 68
小小哭包
1,在云计算,大数据,物联网,人工智能,领域深耕数十年。
2,这四大领域的科技,逐渐成为我们生活和工作的方方面面。
3,未来,这四大领域也将会大放异彩,这是方向,也是大势所趋,更是风口浪尖,有机遇,也有挑战。
4,我个人非常看好这些领域的前景。本人的工作也是跟这些领域密切相关,一直在这些领域垂直深耕多年。
有需要了解的朋友,或者需要软件项目合作的朋友,或者您有好的点子,欢迎咨询,沟通交流哦,一定提供完美的解决方案,让您满意。
展开
-
共识问题:区块链如何确认记账权?
区块链可以说是最近几年最热的技术领域之一,区块链起源于中本聪的比特币,作为比特币的底层技术,本质上是一个去中心化的数据库,其特点是去中心化、公开透明,作为分布式账本技术,每个节点都可以参与数据库的记录。原创 2023-12-03 09:57:18 · 2596 阅读 · 0 评论 -
深入了解 CPU 的型号、代际架构与微架构!
深入了解 CPU 的型号、代际架构与微架构!原创 2023-11-29 10:12:25 · 2353 阅读 · 0 评论 -
进程间通讯模型和进程间通讯
进程间通讯模型和进程间通讯原创 2023-11-04 14:10:16 · 302 阅读 · 0 评论 -
新手运维必知必会的常用技能或工具
说到工具,在行外可以说是技能,在行内我们一般称为工具,就是运维必须要掌握的工具。我就大概列出这几方面,这样入门就基本没问题了。原创 2023-10-31 04:45:30 · 460 阅读 · 0 评论 -
RUP流程是什么
RUP是一个基于6个最佳开发实践的流程定义产品。原创 2023-10-09 09:28:20 · 377 阅读 · 0 评论 -
RUP(统一软件开发过程)模型的主要内容有哪些?RUP的9个核心工作流(Core Workflows)
RUP软件开发生命周期是一个二维的软件开发模型(如图3-1所示)。横轴通过时间组织,体现开发过程的动态结构,用来描述它的术语主要包括周期(Cycle)、阶段(Phase)、迭代(Iteration)和里程碑(Milestone);纵轴以内容来组织为自然的逻辑活动,体现开发过程的静态结构,用来描述它的术语主要包括活动(Activity)、产物(Artifact)、工作者(Worker)和工作流(Workflow)。原创 2023-10-09 09:21:23 · 885 阅读 · 0 评论 -
CMM—软件企业走向世界的通行证
本文系统介绍了CMM概念、内容、申报程序及国内CMM认证现状,并对国内软件企业如何实施CMM认证提出建议。原创 2023-10-09 09:14:28 · 257 阅读 · 0 评论 -
解决问题:IIS启动不了,意外错误0x8ffe2740
由于要处理一个ASP网站,建立站点后发现页面打不开。打开控制面板>管理工具> Internet信息服务,发现默认网站处于停止状态,于是单击鼠标右键,从展开的菜单中选择“启动”,可是却出现如下错误: “发生意外错误0x8ffe 2740”,IIS无法启动!原创 2023-07-04 08:57:01 · 292 阅读 · 0 评论 -
Sftp服务器搭建
搭建SFTP服务, 提供sftp服务,scp服务,可以精确控制权限。不提供给用户shell,chroot 用户在主目录。用于和外部之间的文件交换,防止安全事件。同时也可以结合sshterm,来实现对文件的操作记录。SFTP目前广泛应用在运营上传下载文件,和银行物流公司等外部实体进行对账文件交换等。原创 2023-07-02 20:52:16 · 416 阅读 · 0 评论 -
Hive HBase 整合
hive hbase整合,要求比较多,1.hive的得是0.6.02.hive本身要求hadoop的最高版本是hadoop-0.20.23.要求hbase的版本是0.20.3,其他版本需要重新编译hive_hbase-handler但是新版的hbase(0.90)变动特别大,根本无法从编译。这点比较恶心,hbase目前升级比较快,当前是0.90(从0.20.6直接跳到0.89),至于为什么这样跳跃,参考官方的解释http://wiki.apache.org/hadoop/Hbase/HBas原创 2023-06-20 09:06:36 · 582 阅读 · 0 评论 -
MapReduce程序基本架构
MapReduce程序是以(键/值)对的形式来处理数据的,即可以通过以下的形式来表示:map: (K1,V1) ➞list(K2,V2) reduce: (K2,list(V2)) ➞list(K3,V3)原创 2023-06-19 09:01:13 · 575 阅读 · 0 评论 -
zookeeper集群的安装
zookeeper集群安装原创 2023-06-18 09:55:03 · 124 阅读 · 0 评论 -
HIVE配置手册
此文使用版本是hive-0.6.0,但是不支持hadoop-0.21.0,所以需要安装hadoop-0.20.2或者以下版本原创 2023-06-14 09:25:50 · 997 阅读 · 0 评论 -
JMeter从入门到精通--开始你的第一个JMeter脚本
JMeter是一款在国外非常流行和受欢迎的开源性能测试工具,像LoadRunner 一样,它也提供了一个利用本地Proxy Server(代理服务器)来录制生成测试脚本的功能,但是这个功能并不好用。所以在本文中介绍一个更为常用的方法——使用Badboy录制生成JMeter脚本原创 2023-06-13 09:09:14 · 1223 阅读 · 0 评论 -
MapReduce基础
MapReduce程序是设计用来并行计算大规模海量数据的,这需要把工作流分划到大量的机器上去,如果组件(component)之间可以任意的共享数据,那这个模型就没法扩展到大规模集群上去了(数百或数千个节点),用来保持节点间数据的同步而产生的通信开销会使得系统在大规模集群上变得不可靠和效率低下。MapReduce程序的第一步叫做mapping,在这一步会有一些数据元素作为Mapper函数的输入数据,每次一个,Mapper会把每次map得到的结果单独的传到一个输出数据元素里。原创 2023-06-12 08:08:44 · 930 阅读 · 0 评论 -
Hadoop Distributed System (HDFS) 写入和读取流程
如 果传输过程中,有某个datanode出现了故障,那么当前的pipeline会被关闭,出现故障的datanode会从当前的pipeline中移除, 剩余的block会继续剩下的datanode中继续以pipeline的形式传输,同时Namenode会分配一个新的datanode,保持 replicas设定的数量。HDFS是为以流的方式存取大文件而设计的。读取完当前block的数据后,关闭与当前的DataNode连接,并为读取下一个block寻找最佳的DataNode;二、HDFS的体系结构。原创 2023-06-10 15:39:30 · 1138 阅读 · 0 评论 -
Hadoop回收站trash
Hadoop回收站trash原创 2023-06-09 08:20:48 · 192 阅读 · 0 评论 -
Hadoop删除节点(Decommissioning Nodes)
Hadoop删除节点(Decommissioning Nodes)原创 2023-06-09 08:14:19 · 506 阅读 · 0 评论 -
Hadoop添加节点datanode
Hadoop添加节点datanode原创 2023-06-08 10:49:05 · 558 阅读 · 0 评论 -
hadoop mapreduce执行流程
我们以wordcount为例,假设有个6400M的文件,100台hadoop机器(准确地说应该是tasktracker机),默认block大小为64M,这样每台执行map的文件刚好是一个64M的block文件(假设这个分发过程已经完成,同时忽略备份数之类的细节),并且我们使用10个reduce任务来归并文件。Hadoop的mapreducer的执行过程如下原创 2023-06-08 10:42:00 · 675 阅读 · 0 评论 -
Hbase安装指南
HBase是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。HBase是Google Bigtable的开源实现,类似Google Bigtable利用GFS作为其文件存储系统,HBase利用Hadoop HDFS作为其文件存储系统;Google运行MapReduce来处理Bigtable中的海量数据,HBase同样利用Hadoop MapReduce来处理HBase中的海量数据;Google Bigtable利用Chub原创 2023-06-07 08:19:03 · 506 阅读 · 0 评论 -
数据结构与算法-跳表详解
我们知道如果一个数组是有序的,查询的时候可以使用二分法进行查询,时间复杂度可以降到 O(logn) ,但如果链表是有序的,我们仍然是从前往后一个个查找,这样显然很慢,这个时候我们可以使用跳表(Skip list),跳表就是多层链表,每一层链表都是有序的,最下面一层是原始链表,包含所有数据,从下往上节点个数逐渐减少。原创 2023-06-06 09:06:17 · 1168 阅读 · 0 评论 -
SpringBoot 3.1 正式发布,赶紧上车!
Spring Boot 3.1.0 现已发布,此版本添加了大量新功能和改进。原创 2023-06-06 08:50:25 · 543 阅读 · 0 评论 -
Hbase配置手册
Hbase配置手册原创 2023-06-05 08:29:41 · 957 阅读 · 0 评论 -
Hbase使用已经安装的zookeeper
Hbase使用已经安装的zookeeper原创 2023-06-05 08:18:57 · 267 阅读 · 0 评论 -
HBase与BigTable的差异比较
HBase是Google的BigTable架构的一个开源实现。但是我个人觉得,要做到充分了解下面两点还是有点困难的:一 HBase涵盖了BigTable规范的哪些部分?二 HBase与BigTable仍然有哪些区别?原创 2023-06-04 10:26:18 · 565 阅读 · 0 评论 -
HBase的安装、配置、管理与编程
HBase的安装、配置、管理与编程原创 2023-06-04 10:12:35 · 1153 阅读 · 0 评论 -
hbase简介与安装
HBase是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群原创 2023-06-03 13:16:25 · 393 阅读 · 0 评论 -
Hbase的布署
今天闲来无事,想起前两天关于在hadoop环境上布署Hbase的一些知识,在此分享下原创 2023-06-03 13:00:43 · 264 阅读 · 0 评论 -
Hadoop,ZooKeeper,HBase,hive(HQL)安装步骤
准备安装Hadoop集群之前我们得先检验系统是否安装了如下的必备软件:ssh和Jdk1.6(因为Hadoop需要使用到Jdk中的编译工具,所以一般不直接使用Jre)。可以使用yum install rsync来安装rsync。一般来说ssh是默认安装到系统中的。原创 2023-06-02 09:23:55 · 944 阅读 · 0 评论 -
HBase 在淘宝的应用和优化小结
hbase是从hadoop中分离出来的apache顶级开源项目。由于它很好地用java实现了google的bigtable系统大部分特性,因此在 数据量猛增的今天非常受到欢迎。对于淘宝而言,随着市场规模的扩大,产品与技术的发展,业务数据量越来越大,对海量数据的高效插入和读取变得越来越重要。 由于淘宝拥有也许是国内最大的单一hadoop集群(云梯),因此对hadoop系列的产品有比较深入的了解,也就自然希望使用hbase来做这样一种海 量数据读写服务。本篇文章将对淘宝最近一年来在online应用上使用和优化原创 2023-06-02 08:56:14 · 315 阅读 · 0 评论 -
Hadoop命令大全
本节比较全面的向大家介绍一下Hadoop命令,欢迎大家一起来学习,希望通过本节的介绍大家能够掌握一些常见Hadoop命令的使用方法原创 2023-06-01 08:19:25 · 1502 阅读 · 0 评论 -
Hadoop 实战实例
Hadoop是GoogleMapReduce的一个Java实现。MapReduce是一种简化的分布式编程模式,让程序自动分布到一个由普通机器组成的超大集群上并发执行。就如同java程序员可以不考虑内存泄露一样,MapReduce的run-time系统会解决输入数据的分布细节,跨越机器集群的程序执行调度,处理机器的失效,并且管理机器之间的通讯请求。这样的模式允许程序员可以不需要有什么并发处理或者分布式系统的经验,就可以处理超大的分布式系统得资源。原创 2023-06-01 08:13:09 · 2179 阅读 · 0 评论 -
网站推广—搜索引擎登记技巧
登记的标题,如果正文部分的标题与登记的标题不匹配,要改变正文标题,Yahoo!在提交网站时,需要对网站进行简单描述,注意要描述的是你的网站而不是你的公司,目的是为了让访问者对网站有一个初步了解,访问者进入网站之后再告诉他们你的公司状况、你销售额等。首先应该认真地考虑最适合于网站的关键词,因为关键词要与潜在访问者最可能输入搜索引擎的词语相匹配,一般用户首先会输入通用的词汇,然后才会逐步缩小关键词的范围,例如,假定你有一个宠物网站,那么,关键词“宠物”就比“狗”的效果要强大。首先,也是最重要的方面。原创 2023-05-31 08:24:09 · 253 阅读 · 0 评论 -
mapreduce技术
HBASE就是基于Hadoop的一个开源项目,也是对Google的BigTable的一种实现。BigTable最浅显来看就是一张很大的表,表的属性可以根据需求去动态增加,但是又没有表与表之间关联查询的需求原创 2023-05-24 07:33:34 · 779 阅读 · 0 评论 -
Hadoop Streaming使用简介
它是hadoop的一个工具,用来创建和运行一类特殊的map/reduce作业。所谓的特殊的map/reduce作业可以是可执行文件或脚本本件(python、PHP、c等)。Streaming使用“标准输入”和“标准输出”与我们编写的Map和Reduce进行数据的交换。由此可知,任何能够使用“标准输入”和“标准输出”的编程语言都可以用来编写MapReduce程序原创 2023-05-24 07:25:11 · 990 阅读 · 0 评论 -
Hadoop集群配置参考
本文主要讲解在Linux环境下的Hadoop集群配置参考原创 2023-05-23 08:38:17 · 495 阅读 · 0 评论 -
linux搭建hadoop环境
单节点配置:安装单节点的Hadoop无需配置,在这种方式下,Hadoop被认作为一个单独的Java进程。伪分布配置:伪分布的Hadoop是只有一个节点的集群。在这个集群中,计算机既是master也是slave,即使 namenode也是datanode,既是jobtracker也是tasktracker。原创 2023-05-23 08:23:36 · 799 阅读 · 0 评论 -
轻松使用Hadoop RPC
Hadoop RPC是Hadoop的一个重要部分,提供分布式环境下的对象调用功能,源码在org.apache.hadoop.ipc中。而HBase也几乎完全copy了这部分的源码,只是在配置项上面有所改动。关于Hadoop RPC的机制分析和源码解读,网上已经有许多资料,一搜一大把,这里就不在描述了。本文通过一个小例子,介绍如何调用Hadoop RPC原创 2023-05-22 08:27:04 · 621 阅读 · 2 评论 -
Windows安装hadoop
首先安装cygwin 见同一目录下的“下载安装Cygwin.mht”,或者上谷歌搜索关键字“下载安装Cygwin.mht”。然后安装hadoop-0.21.0,步骤如下10步原创 2023-05-22 08:06:34 · 946 阅读 · 0 评论