Mr.Zhou

小风不再小啦

Elasticsearch源码编译（5.6.17）

下载源码 Github下载es源码，地址：link：下载后checkout到5.6分支。编译、打包、运行 java版本 java13太高，需降级到1.8，修改环境变量即可。 vi ~/.bash_profile ... export JAVA_HOME="/Library/Java/JavaVirtualMachines/jdk1.8.0_221.jdk/Contents/Ho...

Posted by Mr.Zhou on September 7, 2020

zookeeper源码编译（mvn）

背景老版的zk是通过ant进行编译的，但最新的zk源码中已经没了build.xml，而多了pom.xml，也就是说构建方式由原先的Ant变成了Maven，源码下下来后，直接编译、运行是跑不起来的，有一些配置需要调整，这边做下总结。注意点导入项目类型导入类型是Maven，不要再选Eclipse了。构建项目点击IDEA最右侧的“Maven”，点击第二个小图标：“Gener...

Posted by Mr.Zhou on January 13, 2020

IDEA快捷键使用入门

IDEA快捷键使用入门 Mac快捷键符号 ⌘、⌥、⇧、⌃、↑、↓、←、→、⌫、⎋、⏎、⇪、⇥、注：在 Mac 上快速输入 ⌘、⌥、⇧ 等特殊字符 Editor ⏎ Actions ⌘⇧A About/ show line Select 选中光标所选：⌥⇧→ 选中代码块（依次增加）：⌥↑ 反选代码块（依次减少）：⌥↓ 全选：⌘A Comment Line 备注：⌘...

Posted by Mr.Zhou on December 8, 2019

k8s configmap配置问题导致容器崩溃

背景线上K8S ELK集群中的logstash及gohangout所在容器的配置文件均以Config Maps方式进行配置，昨晚K8S集群突然抛大量异常，挂了一批logstas/gohangout服务，进而导致es索引出现延迟。问题有些挂，有些没挂，是何原因？先以恢复业务为主，重启那些崩掉的服务，果然重启之后容器马上就拉起来了：启动后单独查看pod信息，还是能够发现F...

Posted by Mr.Zhou on July 31, 2019

corosync+pacemaker脑裂问题处理

背景办公网DNS使用Nginx作为反向代理服务器，服务器配有corosync+pacemaker，用来实现高可用。问题今天在维护这几台服务器时，突然发现2台Nginx的corosync发生了脑裂的现象，各自都分配了vip： NodeA # crm status Stack: classic openais (with plugin) Current DC: pr-v1...

Posted by Mr.Zhou on July 3, 2019

kafka副本扩容（笔记）

背景某机房kafka集群因其中一台节点服务器意外宕机，导致其中一个broker不可用，而gohangout在该情况下进程崩溃，无法继续消费，es索引出现延迟。该问题记录在：kafka集群中某broker宕机后gohangout panic 问题 gohangout进程崩溃存在问题，但kafka topic的配置也有问题，我们线上kafka topic都配置了0副本，如配置多副本的...

Posted by Mr.Zhou on July 1, 2019

k8s-elastic（利用k8s部署elk集群）版本升级记录（v6.5.1 -> v7.2.0）

背景随着elk版本不断升级，特别是4月份es出了7.0大版本，到最近的7.2.0小版本，有了很多实用新功能，这边准备进行升级。由于我司全面推广k8s项目，所有新上项目都会考虑部署至k8s集群，因此本次升级也是在k8s环境下进行的。升级步骤官网上分别拉取elasticsearch/kibana/logstash最新7.2.0版本镜像，修改tag，并上传至公司私有镜像。 ...

Posted by Mr.Zhou on June 28, 2019

ES集群间数据传输量超千兆，网卡限流导致ES索引异常

背景某机房ES集群近期一到晚高峰，索引速度出现不稳定情况，这段时间内ES可用性降低，无论数据索引还是查询，都会出现慢或超时的情况。问题登录集群中某es节点服务器，查询es日志发现很多集群内部通信异常的报错，我们挑几个贴出来： [2019-06-26T18:39:10,870][WARN ][o.e.t.n.Netty4Transport ] [x.x.50.187] wr...

Posted by Mr.Zhou on June 27, 2019

k8s集群升级时es集群运行状况记录

背景我司最大的一个es集群部署在k8s集群上，由于新版k8s能够解决不少业务上诸如响应超时等无解问题，于是升级k8s集群版本也算是一个常规操作了。升级过程 es集群为有状态服务，重启k8s集群后，内部service会中断几秒钟，导致内部发现失败，es进程异常进而导致es集群崩溃。在升级完毕后，由于通信恢复正常，es master及datanode分别进行重启，其中master通...

Posted by Mr.Zhou on June 24, 2019

Kafka版本升级记录（v1.1.1 -> v2.2.1）

背景从1.1.x升级到2.2.x，跨越了1个大版本，主要提升了SSL、安全验证、内存使用优化、程序健壮性、新版本java支持、API改进等功能。升级步骤按照官方文档即可，值得注意的是，从1.1.x升级至2.2.x，无需指定消息格式配置，也即：log.message.format.version这项，只有低于0.11.0.x版本才需单独制定。升级步骤首先下载新版kafka程序，...

Posted by Mr.Zhou on June 17, 2019