自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(114)
  • 资源 (15)
  • 收藏
  • 关注

原创 八种架构设计模式优缺点

如上图所示,我把业务分块,做了垂直切分,切成一个个独立的系统,每个系统各自衍化,有自己的库、缓存、ES等辅助系统,系统之间的实时交互通过RPC,异步交互通过MQ,通过这种组合,共同完成整个系统功能。这种模式主要解决突发流量的到来,导致无法横向扩展或者横向扩展太慢,进而影响业务,全站崩溃的问题。问题七,所有需要我部数据的需求,都通过接口的形式发布出去,客户通过接口获取数据,从而屏蔽了底层数据库结构,甚至数据来源,我部只需保证我部的接口契约没有发生变化即可,新的需求增加新的接口,不会影响老的接口。

2023-11-12 11:50:00 837

原创 热数据、温数据、冷数据

热数据、温数据和冷数据是指根据数据的访问频率和重要性,将数据分为不同的类别,以便更好地管理和存储数据。

2023-03-03 11:42:48 12532

转载 windows提示“为了对电脑进行保护,已经阻止此应用mmc.exe ”

win10 提示“为了对电脑进行保护,已经阻止此应用“解决办法

2022-10-21 10:51:06 2780 2

转载 删除win10电脑U盘使用记录

win10 删除USB记录

2022-10-21 10:45:55 9115

原创 python同步两个文件夹内容

使用python函数dirsync。

2022-07-30 18:29:19 888

原创 Axure RP9 利用中继器实现表单

aaa

2022-05-17 18:56:18 872

转载 安装CDH出现file /opt/cloudera/parcels/.flood/CDH-6.2.0-1.cdh6.2.0.p0.967373-el7.parcel...does not exist

安装CDH出现file /opt/cloudera/parcels/.flood/CDH-6.2.0-1.cdh6.2.0.p0.967373-el7.parcel...does not exist_黄智霖的博客-优快云博客

2021-12-23 19:41:39 761

转载 /OPT/CLOUDERA/目录更换操作

描述:CDH的parcel等文件默认放在/opt/cloudera目录下,但一般情况下这个目录的磁盘空间都比较小,需要把这些文件放到空间大的目录,可以通过修改配置文件来做,但这样比较麻烦,可能还会有一些遗留问题,下面介绍一种使用软链接的方式解决:mkdir -p /data/cloudera/parcelmv /opt/cloudera/ /data/cloudera/parcel/ln -s /data/cloudera/parcel/cloudera/ /opt/cloudera这样文

2021-12-23 16:01:58 501

原创 ElasticSearch分片参数设置

number_of_shards:主分片数,默认为1number_of_replicas:副本分片数,默认为1可以在线修改副本分片数number_of_replicas,但主分片数number_of_shards不可以在线改curl -XPUT 'XXXX:9200/_settings' -d ' { "index" : { "number_of_replicas" : 0 } }'也可以在配置文件 elasticsearch.yml 中进行修改:index.number_of...

2021-12-16 08:50:38 5979

翻译 Windows PowerShell 文件内容检索

在Linux下可以使用grep进行文件内容检索grep (options) file.txtgrep "text I search" *.log在Window下可以利用Windows PowerShell实现同样的功能1、在文件中检索字段Select-String -Path C:\temp\*.log -Pattern "Contoso"2、在文件夹及其子文件目录中检索内容Get-ChildItem C:\temp -Filter *.log -Recurse | Se.

2021-12-13 10:05:45 5110 1

原创 Windows 下搭建kafka单机环境

在安装zookeeper前,请确认java环境已经正确安装和配置JAVA_HOME环境变量。否则无法启动zookeeper和kafka的。Kafka依赖zookeeper,在安装Kafka之前首先运行zookeeper服务。1.安装ZookeeperKafka的运行依赖于Zookeeper,所以在运行Kafka之前我们需要安装并运行Zookeeper 3.4.131、下载安装文件: http://mirror.bit.edu.cn/apache/zookeeper/2、解压文件(本文解..

2021-12-01 14:31:07 1955

转载 Python 利用 elasticsearch 操作Elasticsearch对象

操作几个方面结果过滤,对于返回结果做过滤,主要是优化返回内容。 直接操作elasticsearch对象,处理一些简单的索引信息。一下几个方面都是建立在es对象的基础上。 Indices,关于索引的细节操作,比如创建自定义的mappings。 Cluster,关于集群的相关操作。 Nodes,关于节点的相关操作。 Cat API,换一种查询方式,一般的返回都是json类型的,cat提供了简洁的返回结果。 Snapshot,快照相关,快照是从正在运行的Elasticsearch集群中获取的备份。

2021-11-27 14:07:11 701

转载 Linux永久关闭防火墙 firewalld和sellinux设置

关闭 firewalld:systemctl stop firewalld #临时关闭systemctl disable firewalld #永久关闭,即设置开机的时候不自动启动--------------------------------------关闭 selinux:[root@localhost html]# getenforce #查看selinux状态Permissive[root@localhost html]# setenforce 0 ..

2021-11-24 14:53:38 1339

原创 进入docker容器内部

1、列出所有人容器id[root@2 ]# docker ps -lCONTAINER ID IMAGE COMMAND CREATED STATUS PORTS

2021-11-22 20:30:35 1372

转载 docker设置固定ip地址

转自docker设置固定ip地址 - 雪之谷 - 博客园Docker安装后,默认会创建下面三种网络类型$ docker network lsNETWORK ID NAME DRIVER SCOPE9781b1f585ae bridge bridge local1252da701e55 host host local237ea3d5cfbf none null

2021-11-22 20:26:32 1443

转载 使用 Docker 构建自己的镜像

转自使用 Docker 构建自己的镜像 - 知乎

2021-11-22 16:39:40 122

转载 Docker 安装部署RabbitMQ

这里注意获取镜像的时候要获取management版本的,不要获取last版本的,management版本的才带有管理界面。获查询镜像 docker search rabbitmq:management可以看到如下结果:[root@localhost ~]# docker search rabbitmq:managementINDEX NAME DESCRIPTION

2021-11-22 15:55:31 384

翻译 es数据迁移

FAQScroll ID too long, updateelasticsearch.ymlon source cluster.http.max_header_size: 16khttp.max_initial_line_length: 8k使用工具esmhttps://github.com/medcl/esm下载地址https://github.com/medcl/esm/releases1、使用方法下载对应操作系统的使用文件后,解压到目录即可。最好不要有中文路径...

2021-11-22 11:15:03 1003

转载 服务器时间相差8小时

第一种方法:ntpdate时间同步命令1、安装ntpdate# CentOS:yum install ntpdate -y# Debian/Ubuntu: apt install ntpdate -y2、执行ntpdate时间同步命令# CentOS/Debian/Ubuntu 执行:ntpdate 0.asia.pool.ntp.org第二种方法:环境变量/etc/profile1、在 /etc/profile 文件中增加一行:export TZ='

2021-11-22 09:50:38 1052

原创 Centos 定时脚本配置

1、安装crontab[root@CentOS ~]# yum install vixie-cron[root@CentOS ~]# yum install crontabsvixie-cron软件包是cron的主程序;crontabs软件包是用来安装、卸装、或列举用来驱动 cron 守护进程的表格的程序。安装vixie-cron报错:No package vixie-cron available. Error: Nothing to do执行yum -y install vi

2021-11-20 10:05:10 1559

转载 elasticsearch问题汇总

1、链接java spark es_ES-Spark连接ES后,ES Client节点流量打满分析_佳琪小仙女的博客-优快云博客

2021-11-20 09:44:43 141

原创 使用python库elasticsearch操作es

1、单个写入 from elasticsearch import Elasticsearch es = Elasticsearch("192.168.0.11:9200") mappings = { "id": "11", "serial": "版本", "tags": {"comment": "标签3"}, "status": "tag1" } es.index(index="index-te

2021-11-19 15:54:10 1938

转载 关于apache spark:线程“主”中的异常java.lang.NoSuchMethodError:scala.Predef $ .refArrayOps([Ljava / lang / Obje

参考https://www.codenong.com/56007488/

2021-11-18 14:43:42 196

转载 Elasticsearch启动报错问题汇总

参考链接elasticsearch启动报错解决 问题集分析_程序白阿渣的博客-优快云博客_es启动报错

2021-11-16 15:49:21 558

转载 Error: Could not find or load main class org.elasticsearch.tools.JavaVersionChecker

把elasticsearch目录换到不属于root目录的其他目录就行了把elasticsearch目录移到 /opt/下面然后就好了...

2021-11-16 15:04:54 923

原创 Linux nc 指令

#如果没有netcat请先安装yum install -y nc#启动sock隧道nc -lk 7777nc-l 开启 监听模式,用于指定nc将处于监听模式。通常 这样代表着为一个 服务等待客户端来链接指定的端口。-p<通信端口> 设置本地主机使用的通信端口。有可能会关闭-k<通信端口>强制 nc 待命链接.当客户端从服务端断开连接后,过一段时间服务端也会停止监听。 但通过选项 -k 我们可以强制服务器保持连接并继续监听端口。参考链接在linux中,..

2021-11-11 08:59:44 1445

转载 pom中配置maven仓库(阿里仓库)

pom中配置maven仓库配置maven仓库,可以在maven的settings.xml里改。优点是全局统一配置,缺点是不受你项目git管理。也可以直接在pom.xml里改, 好处就是 可以受git管理,缺点是每个项目的pom你都得配置。maven自动下载依赖时,会涉级读取三个配置文件,分别是项目下的pom.xml 文件 、家目录下的.m2/settings.xml 与 maven 全局配置settings.xml ,后面两者不难理解,就像linux下的用户一样,有一个/etc/profile ,用

2021-11-10 16:11:44 7608

原创 Pycharm设置python脚本模板

打开pycharm,file->setting在右侧模板框图中填写模板##!/usr/bin/python3# -*- coding: utf-8 -*-# @Time : ${DATE} ${TIME}# @Author : ${USER}# @Email : wayne_lau@aliyun.com# @File : ${NAME}.py# @Project : ${PROJECT_NAME}其他可用的预定义文件模板变量为:$ {PROJECT_NAME} - .

2021-11-09 16:17:26 1185

原创 IDEA添加自定义模板,并在scala使用

1、file->Setings ->Etitor->Live Templates添加自定义模板,如下图所示,添加file,表示“注释”2、添加注释模板,并点击Edit Variables,配置date和time变量* * @Author: auth * @Description: * @Date: $date$ $time$ **/3、将模板关联到scala4、使用新建scala文件后,输入/file,结果如下参考链接:IDEA模.

2021-11-09 11:25:42 645

转载 MySQL报错Incorrect string value: ‘\\xF0\\x9F\\x90\\xA0 \\xD0...‘ for column ‘XXX‘ at row 1“

这个问题,原因是UTF-8编码有可能是两个、三个、四个字节。Emoji表情或者某些特殊字符是4个字节,而Mysql的utf8编码最多3个字节,所以数据插不进去。我的解决方案是这样的1.在mysql的安装目录下找到my.ini,作如下修改:[mysqld]character-set-server=utf8mb4[mysql]default-character-set=utf8mb4修改后重启Mysql2. 将已经建好的表也转换成utf8mb4命令:更改数据库编码:A

2021-11-05 15:14:11 6825

原创 centos使用7za压缩文件

1、安装方式1:使用yum安装 yum install -y p7zip方式2:源码安装wget http://downloads.sourceforge.net/project/p7zip/p7zip/16.02/p7zip_16.02_src_all.tar.bz2tar -jxvf p7zip_16.02_src_all.tar.bz2 cd p7zip_16.02 make make install 2、使用简介压缩指令7za a -t7z -m

2021-11-03 09:59:55 1410

原创 Windows下批量修改文件时间

在powershell里面执行如下语句更改为当前时间,执行如下语句:Get-Childitem -path ‘D:\Tomcat7\webapps’ -Recurse | foreach-object { $_.LastWriteTime = Get-Date ; $._CreationTime = Get-Date }更改为指定时间,执行:Get-Childitem -path ‘D:\Tomcat7\webapps’ -Recurse | foreach-object { $_.Las

2021-10-26 09:48:36 2569 4

原创 Windows10 批量替换文件名

需要批量将某文件下的zip文件重新命名,在PowerShell中执行如下语句get-childitem '文件路径' *.zip | rename-item -newname {$_.name -replace '旧词语', '新替换词语'}

2021-09-24 10:12:30 867

原创 elasticsearch中配置 “search.max_open_scroll_context”

es使用scroll查询报异常elasticsearch.exceptions.TransportError: TransportError(500, 'search_phase_execution_exception', 'Trying to create too many scroll contexts. Must be less than or equal to: [500]. This limit can be set by changing the [search.max_open_scroll_

2021-09-23 17:27:56 5540

原创 firewall-cmd 防火墙设置

1、限制某个IP访问服务器firewall-cmd --permanent --add-rich-rule='rule family="ipv4" source address="192.168.1.1" reject'firewall-cmd --reload2、取消富规则# 查看已经创建好的富规则firewall-cmd --list-rich-rules# 删除富规则(******代表已经创建好的完整富规则内容)firewall-cmd --remove-rich-rul

2021-07-23 09:21:21 363

翻译 spark 操作

1、TransformationsTransformation Meaning map(func) Return a new distributed dataset formed by passing each element of the source through a functionfunc. filter(func) Return a new dataset formed by selecting those elements of the source on wh.

2021-06-24 16:19:33 124

转载 CentOS 8.1 KVM网桥的配置

KVM的默认网络模式为NAT,借助宿主机模式上网,现在我们来改成桥接模式,这样外界就可以直接和宿主机里的虚拟机通讯了。Bridge方式即虚拟网桥的网络连接方式,是客户机和子网里面的机器能够互相通信。可以使虚拟机成为网络中具有独立IP的主机。桥接网络(也叫物理设备共享)被用作把一个物理设备复制到一台虚拟机。网桥多用作高级设置,特别是主机多个网络接口的情况。KVM网桥模式配置方法如下:1、查看当前网络信息,其中有两个网卡ens192与ens224[root@localhost ~]# if

2021-06-24 10:42:23 2139

原创 centos下设置Es开机自启动

1、编写脚本在目录/usr/init.d/下新建脚本el-start.sh#!/bin/sh# chkconfig: 345 99 10# description: Auto-starts elastic# /etc/init.d/el-start# elastic auto-start# Source function library.#. /etc/init.d/functions# source networking configuration.#. /etc/sysconf

2021-06-24 10:28:40 1320

原创 运行spark程序时报错org.apache.hadoop.security.AccessControlException: Permission denied:

1、问题:运行spark程序时报一下错误2、解决方案关闭权限检测,在cloudera Manager中去掉dfs.permissions并重启HDFS即可

2021-05-10 15:02:45 756

转载 解决pyspark部署模式由client切换成cluster报错的问题

问题写了一个pyspark的代码,自定义了一些py文件import进来使用,并且通过shell脚本传8个参数,如下:#!/usr/bin/env bashspark-submit \ --master yarn \ --deploy-mode cluster \ --conf spark.shuffle.service.enabled=true \ --queue xxx \ --conf spark.dynamicAllocation.enab

2021-04-07 18:29:02 1689 1

Django Web

Django Web开发,有需求的快快来

2016-07-11

Python经典练习题

经典例题,熟练Python。

2016-03-26

C语言经典程序190例

熟读经典三百首,编程技术自然有。

2016-03-17

C语言必背18个经典程序

学好c语言,好例子不能少。

2016-03-17

基于WIN2000下的WDM驱动程序探究

Windows驱动程序模型WDM是microsoft推出的全新设备驱动程序模式,本文深入剖析了在windows2000环境下wdm驱动程序开发模型的基本机制以及实现的基本原理,详细说明windows2000环境下设备驱动程序的开发过程。

2015-04-14

Windows2000_XP设备驱动程序探析

介绍了Windows 2000/XP 设备驱动程序的分类、结构及Windows 2000/XP 系统的基本结构,并详细论述了其工作原理.

2015-04-14

VxWorks下PCI总线设备驱动程序设计

随着VxWorks 操作系统在嵌入式系统中的应用, VxWorks 下产品的开发和应用也越来越广泛。本文描述了VxWorks 下PCI 数据采集模块驱动程序的设计过程,即通过PCI 总线桥接芯片CY7C09449PV的配置,实现中断和DMA 数据传输、完成PCI 设备的初始化和驱动接口函数及实现数据采集功能。

2015-04-14

USB与RS232接口转换器的设计

针对RS232 接口向USB 接口转换的需求,提出两类设计方案。一类方案以CY7C68013 芯片为代表,从硬件底层固件开始,进行全面系统开发。另一类采用类似CP2102 的USB/RS232 双向转换专用芯片进行设计,只需对芯片功能了解和应用,无须深入开发。

2015-04-14

VS2008环境下编译驱动

详细介绍了vs2008开发驱动建立项目的具体步骤及相关参数流程,适合初学者学习,简单易懂。

2015-04-06

Win98设备驱动程序读取硬盘技术

通过Windows98 设备驱动程序链表结构与I/ O 请求头结构的分析, 给出设备驱动程序直接读硬盘逻辑扇区机理与应用技术。

2015-04-06

基于WDM的Windows2000驱动开发技术_李松

针对windows2000下开发驱动程序的问题, 介绍了驱动程序开发模型,分析了该模型的工作原理给出了在系统下基于开发设备驱动程序的流程, 分析了驱动开发中的关健点 。在此基础上给出了个开发实例, 结合实例对开发设备驱动程序的方法和流程进行了说明, 并简单介绍了驱动程序的调试和调用方法

2015-04-06

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除