- 博客(114)
- 资源 (15)
- 收藏
- 关注
原创 八种架构设计模式优缺点
如上图所示,我把业务分块,做了垂直切分,切成一个个独立的系统,每个系统各自衍化,有自己的库、缓存、ES等辅助系统,系统之间的实时交互通过RPC,异步交互通过MQ,通过这种组合,共同完成整个系统功能。这种模式主要解决突发流量的到来,导致无法横向扩展或者横向扩展太慢,进而影响业务,全站崩溃的问题。问题七,所有需要我部数据的需求,都通过接口的形式发布出去,客户通过接口获取数据,从而屏蔽了底层数据库结构,甚至数据来源,我部只需保证我部的接口契约没有发生变化即可,新的需求增加新的接口,不会影响老的接口。
2023-11-12 11:50:00
837
转载 安装CDH出现file /opt/cloudera/parcels/.flood/CDH-6.2.0-1.cdh6.2.0.p0.967373-el7.parcel...does not exist
安装CDH出现file /opt/cloudera/parcels/.flood/CDH-6.2.0-1.cdh6.2.0.p0.967373-el7.parcel...does not exist_黄智霖的博客-优快云博客
2021-12-23 19:41:39
761
转载 /OPT/CLOUDERA/目录更换操作
描述:CDH的parcel等文件默认放在/opt/cloudera目录下,但一般情况下这个目录的磁盘空间都比较小,需要把这些文件放到空间大的目录,可以通过修改配置文件来做,但这样比较麻烦,可能还会有一些遗留问题,下面介绍一种使用软链接的方式解决:mkdir -p /data/cloudera/parcelmv /opt/cloudera/ /data/cloudera/parcel/ln -s /data/cloudera/parcel/cloudera/ /opt/cloudera这样文
2021-12-23 16:01:58
501
原创 ElasticSearch分片参数设置
number_of_shards:主分片数,默认为1number_of_replicas:副本分片数,默认为1可以在线修改副本分片数number_of_replicas,但主分片数number_of_shards不可以在线改curl -XPUT 'XXXX:9200/_settings' -d ' { "index" : { "number_of_replicas" : 0 } }'也可以在配置文件 elasticsearch.yml 中进行修改:index.number_of...
2021-12-16 08:50:38
5979
翻译 Windows PowerShell 文件内容检索
在Linux下可以使用grep进行文件内容检索grep (options) file.txtgrep "text I search" *.log在Window下可以利用Windows PowerShell实现同样的功能1、在文件中检索字段Select-String -Path C:\temp\*.log -Pattern "Contoso"2、在文件夹及其子文件目录中检索内容Get-ChildItem C:\temp -Filter *.log -Recurse | Se.
2021-12-13 10:05:45
5110
1
原创 Windows 下搭建kafka单机环境
在安装zookeeper前,请确认java环境已经正确安装和配置JAVA_HOME环境变量。否则无法启动zookeeper和kafka的。Kafka依赖zookeeper,在安装Kafka之前首先运行zookeeper服务。1.安装ZookeeperKafka的运行依赖于Zookeeper,所以在运行Kafka之前我们需要安装并运行Zookeeper 3.4.131、下载安装文件: http://mirror.bit.edu.cn/apache/zookeeper/2、解压文件(本文解..
2021-12-01 14:31:07
1955
转载 Python 利用 elasticsearch 操作Elasticsearch对象
操作几个方面结果过滤,对于返回结果做过滤,主要是优化返回内容。 直接操作elasticsearch对象,处理一些简单的索引信息。一下几个方面都是建立在es对象的基础上。 Indices,关于索引的细节操作,比如创建自定义的mappings。 Cluster,关于集群的相关操作。 Nodes,关于节点的相关操作。 Cat API,换一种查询方式,一般的返回都是json类型的,cat提供了简洁的返回结果。 Snapshot,快照相关,快照是从正在运行的Elasticsearch集群中获取的备份。
2021-11-27 14:07:11
701
转载 Linux永久关闭防火墙 firewalld和sellinux设置
关闭 firewalld:systemctl stop firewalld #临时关闭systemctl disable firewalld #永久关闭,即设置开机的时候不自动启动--------------------------------------关闭 selinux:[root@localhost html]# getenforce #查看selinux状态Permissive[root@localhost html]# setenforce 0 ..
2021-11-24 14:53:38
1339
原创 进入docker容器内部
1、列出所有人容器id[root@2 ]# docker ps -lCONTAINER ID IMAGE COMMAND CREATED STATUS PORTS
2021-11-22 20:30:35
1372
转载 docker设置固定ip地址
转自docker设置固定ip地址 - 雪之谷 - 博客园Docker安装后,默认会创建下面三种网络类型$ docker network lsNETWORK ID NAME DRIVER SCOPE9781b1f585ae bridge bridge local1252da701e55 host host local237ea3d5cfbf none null
2021-11-22 20:26:32
1443
转载 Docker 安装部署RabbitMQ
这里注意获取镜像的时候要获取management版本的,不要获取last版本的,management版本的才带有管理界面。获查询镜像 docker search rabbitmq:management可以看到如下结果:[root@localhost ~]# docker search rabbitmq:managementINDEX NAME DESCRIPTION
2021-11-22 15:55:31
384
翻译 es数据迁移
FAQScroll ID too long, updateelasticsearch.ymlon source cluster.http.max_header_size: 16khttp.max_initial_line_length: 8k使用工具esmhttps://github.com/medcl/esm下载地址https://github.com/medcl/esm/releases1、使用方法下载对应操作系统的使用文件后,解压到目录即可。最好不要有中文路径...
2021-11-22 11:15:03
1003
转载 服务器时间相差8小时
第一种方法:ntpdate时间同步命令1、安装ntpdate# CentOS:yum install ntpdate -y# Debian/Ubuntu: apt install ntpdate -y2、执行ntpdate时间同步命令# CentOS/Debian/Ubuntu 执行:ntpdate 0.asia.pool.ntp.org第二种方法:环境变量/etc/profile1、在 /etc/profile 文件中增加一行:export TZ='
2021-11-22 09:50:38
1052
原创 Centos 定时脚本配置
1、安装crontab[root@CentOS ~]# yum install vixie-cron[root@CentOS ~]# yum install crontabsvixie-cron软件包是cron的主程序;crontabs软件包是用来安装、卸装、或列举用来驱动 cron 守护进程的表格的程序。安装vixie-cron报错:No package vixie-cron available. Error: Nothing to do执行yum -y install vi
2021-11-20 10:05:10
1559
转载 elasticsearch问题汇总
1、链接java spark es_ES-Spark连接ES后,ES Client节点流量打满分析_佳琪小仙女的博客-优快云博客
2021-11-20 09:44:43
141
原创 使用python库elasticsearch操作es
1、单个写入 from elasticsearch import Elasticsearch es = Elasticsearch("192.168.0.11:9200") mappings = { "id": "11", "serial": "版本", "tags": {"comment": "标签3"}, "status": "tag1" } es.index(index="index-te
2021-11-19 15:54:10
1938
转载 关于apache spark:线程“主”中的异常java.lang.NoSuchMethodError:scala.Predef $ .refArrayOps([Ljava / lang / Obje
参考https://www.codenong.com/56007488/
2021-11-18 14:43:42
196
转载 Elasticsearch启动报错问题汇总
参考链接elasticsearch启动报错解决 问题集分析_程序白阿渣的博客-优快云博客_es启动报错
2021-11-16 15:49:21
558
转载 Error: Could not find or load main class org.elasticsearch.tools.JavaVersionChecker
把elasticsearch目录换到不属于root目录的其他目录就行了把elasticsearch目录移到 /opt/下面然后就好了...
2021-11-16 15:04:54
923
原创 Linux nc 指令
#如果没有netcat请先安装yum install -y nc#启动sock隧道nc -lk 7777nc-l 开启 监听模式,用于指定nc将处于监听模式。通常 这样代表着为一个 服务等待客户端来链接指定的端口。-p<通信端口> 设置本地主机使用的通信端口。有可能会关闭-k<通信端口>强制 nc 待命链接.当客户端从服务端断开连接后,过一段时间服务端也会停止监听。 但通过选项 -k 我们可以强制服务器保持连接并继续监听端口。参考链接在linux中,..
2021-11-11 08:59:44
1445
转载 pom中配置maven仓库(阿里仓库)
pom中配置maven仓库配置maven仓库,可以在maven的settings.xml里改。优点是全局统一配置,缺点是不受你项目git管理。也可以直接在pom.xml里改, 好处就是 可以受git管理,缺点是每个项目的pom你都得配置。maven自动下载依赖时,会涉级读取三个配置文件,分别是项目下的pom.xml 文件 、家目录下的.m2/settings.xml 与 maven 全局配置settings.xml ,后面两者不难理解,就像linux下的用户一样,有一个/etc/profile ,用
2021-11-10 16:11:44
7608
原创 Pycharm设置python脚本模板
打开pycharm,file->setting在右侧模板框图中填写模板##!/usr/bin/python3# -*- coding: utf-8 -*-# @Time : ${DATE} ${TIME}# @Author : ${USER}# @Email : wayne_lau@aliyun.com# @File : ${NAME}.py# @Project : ${PROJECT_NAME}其他可用的预定义文件模板变量为:$ {PROJECT_NAME} - .
2021-11-09 16:17:26
1185
原创 IDEA添加自定义模板,并在scala使用
1、file->Setings ->Etitor->Live Templates添加自定义模板,如下图所示,添加file,表示“注释”2、添加注释模板,并点击Edit Variables,配置date和time变量* * @Author: auth * @Description: * @Date: $date$ $time$ **/3、将模板关联到scala4、使用新建scala文件后,输入/file,结果如下参考链接:IDEA模.
2021-11-09 11:25:42
645
转载 MySQL报错Incorrect string value: ‘\\xF0\\x9F\\x90\\xA0 \\xD0...‘ for column ‘XXX‘ at row 1“
这个问题,原因是UTF-8编码有可能是两个、三个、四个字节。Emoji表情或者某些特殊字符是4个字节,而Mysql的utf8编码最多3个字节,所以数据插不进去。我的解决方案是这样的1.在mysql的安装目录下找到my.ini,作如下修改:[mysqld]character-set-server=utf8mb4[mysql]default-character-set=utf8mb4修改后重启Mysql2. 将已经建好的表也转换成utf8mb4命令:更改数据库编码:A
2021-11-05 15:14:11
6825
原创 centos使用7za压缩文件
1、安装方式1:使用yum安装 yum install -y p7zip方式2:源码安装wget http://downloads.sourceforge.net/project/p7zip/p7zip/16.02/p7zip_16.02_src_all.tar.bz2tar -jxvf p7zip_16.02_src_all.tar.bz2 cd p7zip_16.02 make make install 2、使用简介压缩指令7za a -t7z -m
2021-11-03 09:59:55
1410
原创 Windows下批量修改文件时间
在powershell里面执行如下语句更改为当前时间,执行如下语句:Get-Childitem -path ‘D:\Tomcat7\webapps’ -Recurse | foreach-object { $_.LastWriteTime = Get-Date ; $._CreationTime = Get-Date }更改为指定时间,执行:Get-Childitem -path ‘D:\Tomcat7\webapps’ -Recurse | foreach-object { $_.Las
2021-10-26 09:48:36
2569
4
原创 Windows10 批量替换文件名
需要批量将某文件下的zip文件重新命名,在PowerShell中执行如下语句get-childitem '文件路径' *.zip | rename-item -newname {$_.name -replace '旧词语', '新替换词语'}
2021-09-24 10:12:30
867
原创 elasticsearch中配置 “search.max_open_scroll_context”
es使用scroll查询报异常elasticsearch.exceptions.TransportError: TransportError(500, 'search_phase_execution_exception', 'Trying to create too many scroll contexts. Must be less than or equal to: [500]. This limit can be set by changing the [search.max_open_scroll_
2021-09-23 17:27:56
5540
原创 firewall-cmd 防火墙设置
1、限制某个IP访问服务器firewall-cmd --permanent --add-rich-rule='rule family="ipv4" source address="192.168.1.1" reject'firewall-cmd --reload2、取消富规则# 查看已经创建好的富规则firewall-cmd --list-rich-rules# 删除富规则(******代表已经创建好的完整富规则内容)firewall-cmd --remove-rich-rul
2021-07-23 09:21:21
363
翻译 spark 操作
1、TransformationsTransformation Meaning map(func) Return a new distributed dataset formed by passing each element of the source through a functionfunc. filter(func) Return a new dataset formed by selecting those elements of the source on wh.
2021-06-24 16:19:33
124
转载 CentOS 8.1 KVM网桥的配置
KVM的默认网络模式为NAT,借助宿主机模式上网,现在我们来改成桥接模式,这样外界就可以直接和宿主机里的虚拟机通讯了。Bridge方式即虚拟网桥的网络连接方式,是客户机和子网里面的机器能够互相通信。可以使虚拟机成为网络中具有独立IP的主机。桥接网络(也叫物理设备共享)被用作把一个物理设备复制到一台虚拟机。网桥多用作高级设置,特别是主机多个网络接口的情况。KVM网桥模式配置方法如下:1、查看当前网络信息,其中有两个网卡ens192与ens224[root@localhost ~]# if
2021-06-24 10:42:23
2139
原创 centos下设置Es开机自启动
1、编写脚本在目录/usr/init.d/下新建脚本el-start.sh#!/bin/sh# chkconfig: 345 99 10# description: Auto-starts elastic# /etc/init.d/el-start# elastic auto-start# Source function library.#. /etc/init.d/functions# source networking configuration.#. /etc/sysconf
2021-06-24 10:28:40
1320
原创 运行spark程序时报错org.apache.hadoop.security.AccessControlException: Permission denied:
1、问题:运行spark程序时报一下错误2、解决方案关闭权限检测,在cloudera Manager中去掉dfs.permissions并重启HDFS即可
2021-05-10 15:02:45
756
转载 解决pyspark部署模式由client切换成cluster报错的问题
问题写了一个pyspark的代码,自定义了一些py文件import进来使用,并且通过shell脚本传8个参数,如下:#!/usr/bin/env bashspark-submit \ --master yarn \ --deploy-mode cluster \ --conf spark.shuffle.service.enabled=true \ --queue xxx \ --conf spark.dynamicAllocation.enab
2021-04-07 18:29:02
1689
1
基于WIN2000下的WDM驱动程序探究
2015-04-14
Windows2000_XP设备驱动程序探析
2015-04-14
VxWorks下PCI总线设备驱动程序设计
2015-04-14
USB与RS232接口转换器的设计
2015-04-14
基于WDM的Windows2000驱动开发技术_李松
2015-04-06
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人