
大数据
HappyYiqin
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
将文本中的数据批量写入redis
在redis批量造数测试pom.xml <!-- redis --> <dependency> <groupId>redis.clients</groupId> <artifactId>jedis</artifactId> <version>2.9.0</version> </de原创 2020-11-17 11:34:12 · 810 阅读 · 1 评论 -
kudu快速造测试数据
为了测试kudu的数据迁移,需要往kudu表中大量造数,怎么快速造1亿的数据呢。比如我有一张Employees_China表(见图),假设表中开始有100条数据。在impala中语句如下:with temptable as ( select 1 union all select 2 union all select 3 union all select...原创 2020-04-08 16:05:41 · 578 阅读 · 0 评论 -
ES笔记_通过java代码往ElasticSearch批量造数
ES中数据量的大小会影响性能结果,为了模拟真实的环境,需要保证ES中的数据量。之前写了一篇通过hive往ES中造数https://blog.youkuaiyun.com/yiqin3399/article/details/99638411,但是如果hive中没有底层数据,大量插数就不方便了,这里提供另外一种方法,就是通过java代码批量插数。一、首先要知道ES的index/type,以及各字段的映射...原创 2019-10-18 16:06:39 · 2198 阅读 · 0 评论 -
Redis在测试中应用
一、Redis简介目前最火爆的内存数据库之一,通过在内存中读写数据,大大提高了 读写速度,是实现网站高并发不可或缺的一部分。在分布式系统和WEB开发中得到广泛的应用其存储的是非结构化的key-value数据,支持丰富的数据结构。Redis的5种对象类型:String字符串、hash哈希、list列表、set集合、zset有序集合。丰富的类型是redis相对于memcached等一大优势。...原创 2018-11-27 17:24:01 · 1400 阅读 · 0 评论 -
Maven学习笔记
我为什么要用Maven?用JMeter测试的时候,需要借助IDEA额外的写一些函数之类的,借助Maven打包成jar很方便,˶⚈Ɛ⚈˵呵呵~ maven介绍 https://www.cnblogs.com/whgk/p/7112560.html将maven web项目打包成war直接部署到tomcat https://blog.youkuaiyun.com/zhengholien/a...转载 2018-12-20 16:33:16 · 1165 阅读 · 0 评论 -
ES笔记1_ElasticSearch介绍和基本操作
ES是什么?ES是一个分布式的近实时搜索[Office1]和分析引擎用于全文搜索、结构化查询、分析计算或三者结合开源,构建于Apache Lucence之上提供RESTful API[Office2]和Java API面向文档,JSON格式ES中重要概念?集群节点分片:将索引分成多个块,每块叫做一个分片,分片带来规模上(数据水平切分[Office3]...原创 2019-01-10 17:53:02 · 761 阅读 · 0 评论 -
kafka笔记_java实现生产者和消费者
项目背景:往kafka的topicimgchk_request中produce图二中的参数,经过AI服务对图片进行质检,将结果再写入kafka topicimgchk_response中供其它系统调用。测试范围:功能测试、性能测试测试过程:用java写一段kafka生产者和消费者的代码,通过一次性生产不同数量的消息到imgchk_request,再通过消费者消费imgchk_r...原创 2019-02-22 16:43:33 · 883 阅读 · 1 评论 -
ES笔记2_通过hive往ES批量造数
做接口性能测试前,经常需要往ES中造数。记录一下,举个栗子:1.在hive中创建数据表并造数,如edw.courier_order_time。可以通过其它表创建新表(create table tablename as select )2.建立hive与es的映射关系drop table edw.courier_work_time_total_20190812 ;CREATE E...原创 2019-08-15 15:46:52 · 631 阅读 · 0 评论 -
ES笔记3_elasticsearch-sql简化ElasticSearch查询(实用)
查询es时通过curl查询比较复杂,可以安装一个插件实现用sql查询:1.到es的plugin目录下,安装插件,插件的版本与ES的版本都有对应关系。具体可参照:https://github.com/NLPchina/elasticsearch-sql。我的ES是elasticsearch-5.5.2,对应的插件是5.5.2.0版本cd/mnt/elasticsearch-5.5.2/pl...原创 2019-08-15 16:24:57 · 474 阅读 · 0 评论