jmx-exporter zookeeper exporter kafka
Kafka与RabbitMQ区别
Kafka和RabbitMQ都是流行的消息传递系统，但它们在设计和用途上有一些重要的区别。以下是它们之间的一些主要区别： 1. 消息传递模型： Kafka：Kafka是一个分布式流处理平台，主要用于处理实时数据流。它采用发布-订阅模型，消息被持久化保存在日志中，允许多个消费者以不同的速率消费消息。 ......
kafka再均衡导致的消息积压分析
起因： 某天，项目组收到大量的kafka消息积压告警。查看了kafka日志后，发现 kafka不断地 rebalance(再均衡)。 Rebalance (再均衡)： 分区的所有权从一个消费者转移到另一个消费者，这样的行为被称为Rebalance (再均衡). 在再均衡期间，消费者无法消费消息，造成 ......
docker部署Prometheus、grafana、node_exporter、cadvisor
安装Prometheus docker run -d --name=prometheus -p 9090:9090 -v /tmp/prometheus.yml:/etc/prometheus/prometheus.yml prom/prometheus 安装node_exporter docker ......
Zookeeper
ZooKeeper 概览 ZooKeeper 是一个开源的分布式协调服务，它的设计目标是将那些复杂且容易出错的分布式一致性服务封装起来，构成一个高效可靠的原语集，并以一系列简单易用的接口提供给用户使用。 原语： 操作系统或计算机网络用语范畴。是由若干条指令组成的，用于完成一定功能的一个过程。 具有不 ......
kafka入门(四)：消费者
消费者 (Consumer ) 消费者 订阅 Kafka 中的主题 (Topic) ，并 拉取消息。 消费者群组（ Consumer Group） 每一个消费者都有一个对应的 消费者群组。 一个群组里的消费者订阅的是同一个主题，每个消费者接收主题的一部分分区的消息。 每一个分区 (Partition ......
kafka和rabbitMQ的区别？
https://aws.amazon.com/cn/compare/the-difference-between-rabbitmq-and-kafka/ Kafka 和 RabbitMQ 是可用于流处理的消息队列系统。数据流是需要高速处理的大容量、连续增量数据。例如，您必须持续收集和处理有关环境的传 ......
K8S-部署Kafka
nfs&rpc离线包下载 链接：https://pan.baidu.com/s/1NtsBd_5W4NVfL3A2BvwqUA 提取码：0000 #master&slave #上传rpm文件到此目录 mkdir -p /opt/software/nfs_rpc#安装NFSrpm -Uvh *.rpm ......
kafka消费端速度慢解决方案
一、增加patition数量， 有多少个patition就会启多少个消费者线程去消费，跟消费者服务节点的数量无关，只能patition有关。 二、patition一样的情况下，改为批量消费，一次拉取多条数据，max.poll.records，利用多线程去处理数据，避免单线程处理批量数据时间过长，导致 ......
AMQP协议中的，消息队列RabbitMQ，ActiveMQ，Apache Kafka区别是什么？
都是基于AMQP协议来的一种实现方式。 参考chatGPT4 回答 请使用 Markdown 表格来展示 RabbitMQ、ActiveMQ 和 Apache Kafka 之间的区别： 维度 RabbitMQ ActiveMQ Apache Kafka 语言 Erlang Java Scala / ......
kafka集群双活-数据迁移
一、集群搭建（kafka使用自带的zookeeper） 前提：必须要有java环境 1、下载地址： http://kafka.apache.org/downloads 2、安装目录 /app/kafka tar -zxvf kafka_2.12-3.6.1.tgz 建立数据和日志存储目录 mkdir ......
kafka数据入paimon（flink-sql）
1.创建CATALOG CREATE CATALOG paimon_hive WITH ( 'type' = 'paimon', 'metastore' = 'hive', 'uri' = 'thrift://hadoopm111:9083', 'warehouse' = 'hdfs:///apps ......
2.Kafka
Kafka 是什么？主要应用场景有哪些？ Kafka 是一个分布式流式处理平台。 流平台具有三个关键功能： 消息队列：发布和订阅消息流，这个功能类似于消息队列，这也是 Kafka 也被归类为消息队列的原因。 容错的持久方式存储记录消息流：Kafka 会把消息持久化到磁盘，有效避免了消息丢失的风险。 ......
docker compose 一键部署kafka
一. 新建文件docker-compose.yml version: "3.8" services: zookeeper: restart: always image: 'bitnami/zookeeper:3.8.3' ports: - '2181:2181' environment: - ALL ......
扫盲Kafka？看这一篇就够了！【转】
kafka的使用场景 为什么要使用 Kafka 消息队列？ 解耦、削峰：传统的方式上游发送数据下游需要实时接收，如果上游在某些业务场景：例如上午十点会流量激增至顶峰，那么下游资源可能会扛不住压力。但如果使用消息队列，就可以将消息暂存在消息管道中，下游可以按照自己的速度逐步处理； 可扩展：通过横向扩展 ......
Zookeeper——分布式一致性协议及Leader选举原理
一、引言 随着业务的增长，单体架构发展为分布式架构，大大提升了业务的处理能力，但同时也带来了很多单体架构不存在的问题，如： 各节点之间网络通信的异常以及因其引起的脑裂问题（网络分区）。 引出“三态”。在单体架构中只会存在“成功”或“失败”两种结果，但是在分布式架构中由于网络异常将会出现“未知”的结果 ......
扫盲Kafka？看这一篇就够了！
解耦、削峰：传统的方式上游发送数据下游需要实时接收，如果上游在某些业务场景：例如上午十点会流量激增至顶峰，那么下游资源可能会扛不住压力。但如果使用消息队列，就可以将消息暂存在消息管道中，下游可以按照自己的速度逐步处理； ......
kafka入门(三)：kafka多线程消费
kafka消费积压 如果生产者发送消息的速度过快，或者是消费者处理消息的速度太慢，那么就会有越来越多的消息无法及时消费，也就是消费积压。 消费积压时，可以使用多线程消费，提高消费速度。 kafka多线程消费的代码： public class ThirdMultiConsumerThreadDemo ......
Kafka集群调优+能力探底
一、前言 我们需要对4个规格的kafka能力进行探底，即其可以承载的最大吞吐；4个规格对应的单节点的配置如下： 标准版： 2C4G 铂金版： 4C8G 专业版： 8C16G 企业版： 16C32G 另外，一般来讲，在同配置下，kafka的读性能是要优于写性能的，写操作时，数据要从网卡拷贝至堆内存，然 ......
Prometheus Dashboard for elasticsearch exporter
prometheus-community/elasticsearch_exporter: Elasticsearch stats exporter for Prometheus Releases · prometheus-community/elasticsearch_exporter Dashbo ......
docker compose 一键部署zookeeper集群
compose.yml 文件 services: zoo1: image: zookeeper:3.8.3 restart: always hostname: zoo1 ports: - 2181:2181 environment: ZOO_MY_ID: 1 ZOO_SERVERS: server. ......
单机ELK接收kafka日志环境搭建
单机ELK接收kafka日志环境搭建 1、安装elk单机环境 参考以下链接： 2、搭建kafka 下载kafka：https://archive.apache.org/dist/kafka/2.6.2/ 解压： tar -zxvf kafka_2.12-2.6.2.tgz mv kafka_2.12 ......
消息队列入门 —— 以 Kafka 为例（一）
消息队列入门 —— 以 Kafka 为例（一） 概述 当我们的应用逐步变得庞大，各层应用之间调用关系越来越复杂，对系统的可用性以及可扩展性要求也越来越高。消息队列作为分布式系统架构中的一个关键中间件，提供了“消息传递”和“消息排队模型”，可以应用在系统解耦、异步处理、流量削峰等多个场景，有着举足轻重 ......
How to export Postman request as a cURL comman
https://help.mulesoft.com/s/article/How-to-export-Postman-request-as-a-cURL-command-to-help-MuleSoft-Support How to export Postman request as a cURL c ......
了解Kafka
背景介绍 Kafka 是一个消息系统，原本开发自 LinkedIn，用作 LinkedIn 的活动流（Activity Stream）和运营数据处理管道（Pipeline）的基础。现在它已被多家不同类型的公司作为多种类型的数据管道和消息系统使用。LinkIn于2010年贡献给了Apache基金会并成 ......
安装redis_exporter 以及配置prometheus
安装： 1、下载redis_exporterwget https://github.com/oliver006/redis_exporter/releases/download/v1.29.0/redis_exporter-v1.29.0.linux-amd64.tar.gz 2、解压/usr/lo ......
vue报错export 'default' (imported as 'VueRouter') was not found in 'vue-router'
直接使用npm install vue-router -save安装的路由，运行报错 经排查后发现是安装的vue-router版本太高 使用 npm uninstall vue-router 卸载之前安装的路由 使用 npm i vue-router@3.5.2 安装低版本的路由 问题解决！！！ ......
12.kafka单集群安装部署
一.安装jdk ，kafka需要至少jdk8+ 1.安装jdk yum install java-11-openjdk.x86_64 -y 2.查看安装是否正常 [root@localhost bin]# java --version openjdk 11.0.21 2023-10-17 LTS O ......
zookeeper
Hello World docker pull apache/dolphinscheduler docker run --name dolphinscheduler -p 12345:12345 -p 25333:25333 -d apache/dolphinscheduler-standalone ......
kafka docker-compose 单节点部署
启动脚本 sed -i -r "s/[0-9]{1,3}(\.[0-9]{1,3}){3}/$(ifconfig $(ip route show default |head -1 |awk '{print $5}') |grep -oP '(?<=inet\s)\d+(\.\d+){3}')/g" ......
Docker + supervisor在同一容器中部署zookeeper和kafka
使用supervisor进程管理工具，在同一个容器中部署zookeeper和kafka 目录 Dockerfile jdk1.8.0_181.tar.gz kafka_2.12-1.1.0.tgz conf.d docker-compose.yml kafka_conf.d conf.d 中为sup ......