
大数据
文章平均质量分 83
angeliacmm
快乐编码,快乐生活。
展开
-
2021-06-23
Tensorflow2程序设计案例1.单层神经网络-Fashion-MNIST1.1目标与步骤本题完成解析图片识别时尚衣服单品的功能,以此达到或者掌握Tensorflow2的单层神经网络的知识点。实施步骤如下:1:准备数据如数据源所示,据由一些图片构成,里面的内容是时尚单品;2:利用Tensorflow2单层神经网络推断出图片分类代表0-9中的哪个类别,首先收集导入Tensorflow2的支持,加载数据集,浏览数据,预处理数据,构建模型,编译模型,训练模型,评估模型,预测模型,详细代码见5.1原创 2021-06-23 23:07:00 · 375 阅读 · 0 评论 -
Mysql之表操作
4.表操作1.数据库设计 系统设计中一个重要的环节就是数据库设计. 数据库设计的时候需要先进行数据建模(实体关系图 E-R图) 数据建模的依据就是前期所做的需求分析 实体-关系图(Entity Relationship Diagram),也称为E-R图,提供了表示实体、属性和关系的方法,用来描述现实世界的概念模型。 构成E-R图的基本要素是实体、属性和关系 实体(Entity):实体用来表示具有相同特征和性质的事物(类似于java的类),实体由实体名和实体属性来表示。 属原创 2021-06-16 22:37:37 · 386 阅读 · 0 评论 -
Mysql之安装配置、基本操作
Mysql数据库1.安装配置Mysql 1.Windows操作Mysql服务器 安装成功Mysql之后,会在"控制面板->管理工具->服务"中出现Mysql服务,选中Mysql服务右键选择启动,停止,重启选项。 2.Linux操作Mysql服务器 0.在线安装 sudo apt install mysql-sever-5.7 (Ubuntu 16.10和17.04这两个版本对于5.7支持比较好) 在安装过程中有一个需要输入“root(此root非彼r原创 2021-06-14 21:11:15 · 230 阅读 · 1 评论 -
Hadoop的shuffle流程图
原创 2021-06-14 21:07:15 · 152 阅读 · 0 评论 -
Hive之UDF、Java客户端操作、与Hbase交互
2.自定义函数UDF1.创建一张表create table t_student_udf(id int,name string,tel string)row format delimitedfields terminated by ','stored as textfile;2.上传数据load data local inpath '/home/hdfs/data_getarea' into table t_student_udf;文件内容:1,张三,138341122332,李四,1原创 2021-06-14 21:03:47 · 1430 阅读 · 1 评论 -
Hive之内置函数
5Hive函数1.内置函数1.创建表create table t_student(id int,name string)row format delimitedfields terminated by ','stored as textfile;2.上传数据load data local inpath '/home/hdfs/data_student' into table t_student;文件内容如下:1,terry2,kiven3,larry4,renee3.函数测原创 2021-06-14 21:01:49 · 502 阅读 · 0 评论 -
Hive之数据类型、查询操作
3.数据类型,表以及表的操作1.数据类型tinyint/smallint/int/biginty s lfloat/double/decimalbooleanstring/varchar/chartimestamp/date/intervalbinaryArray 数组 Map 键值对 Struct 对象2.表•Table 内部表•External Table 外部表•Partition 分区表•Bucket Tabl原创 2021-06-14 21:00:03 · 3267 阅读 · 0 评论 -
Hive之认识、搭建
Hive1.什么是Hive,Hive运行架构Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供类SQL查询功能。通过Hive,我们可以方便地进行ETL(extract抽取/transform转化/load加载)的工作。1.Hive与Hbase的区别Hive:Hive是基于Hadoop的一个数据仓库工具,可以将结构化的数据文件映射为一张数据库表,并提供简单的sql查询功能。Hive本身不存储和计算数据,它完全依赖于HDFS和MapReduce,H原创 2021-06-14 20:58:40 · 287 阅读 · 1 评论 -
Hbase之滤器Filter
3.基本命令 hbase shell 在终端输入hbase shell命令进入hbase命令行。hbase shell1.输入help命令,查看帮助文档hbase(main):000:0> helphbase(main):000:0> help '分组名称'练习:help 'ddl'help 'dml'help 'namespace'2.输入list命令,查看表列表hbase(main):000:0> list#案例:#查看有哪些命名空间list_n原创 2021-06-14 20:43:26 · 3229 阅读 · 0 评论 -
Hbase之JavaAPI操作、表设计优化
3.JAVA API操作 C:/window/System32/Drivers/etc/hosts 修改hosts文件,配置主机与虚拟机的映射信息1.编写流程 1.HBaseConfiguration Configuration conf = HBaseConfiguration.create(); conf.set(“hbase.zookeeper.quorum”,“standalone:2181”) 2.Connection Connection co原创 2021-06-14 20:41:45 · 229 阅读 · 0 评论 -
Hbase之认识、搭建集群
1.What Hbase结论 1.分布式列式数据库 2.基于键值对的数据库 3.基于四维表格的数据库 4.NoSql的数据库 5.对非结构化和结构化数据友好的数据库 6.BigTable 十亿行*百万列 表被分割成不同的Region由来 Hadoop database > Hadoop的数据库 1.数据库-------存储数据 2.HDFS分布式文件系统存储数据与Hbase存储数据的有什么区别? 1.文件系统读取数据是顺序读写的,效率比较低。 2.数原创 2021-06-14 20:17:01 · 1309 阅读 · 1 评论