kafka
Kafka常用命令
Kafka实操命令 kafka版本：scala2.11，kafka1.1.0 kafka_2.11-1.1.0.jar Kafka命令行操作 1）查看当前服务器中的所有topic kafka-topics.sh --zookeeper hadoop111:2181/kafka --list 2）创建 ......
java——kafka随笔——broker&主题-topic&分区-partition理解
首先，让我们来看一下基础的消息(Message)相关术语： 名称解释 Broker 消息中间件处理节点，⼀个Kafka节点就是⼀个broker，⼀个或者多个Broker可以组成⼀个Kafka集群 Topic Kafka根据topic对消息进⾏归类，发布到Kafka集群的每条消息都需要指定⼀个topi ......
Kafka反序列化RCE漏洞（CVE-2023-34040）
Spring Kafka 是 Spring Framework 生态系统中的一个模块，用于简化在 Spring 应用程序中集成 Apache Kafka 的过程，记录 (record) 指 Kafka 消息中的一条记录。这一个漏洞所影响的组件其实是 Spring-Kafka，严格意义上来说并不算是 ... ......
Kafka：消费者的offset
auto.offset.reset latest（默认） 已有一个消费者groupId=ClientConsumer，消费消息到最新位置，然后停止消费。 启动生产者生产一定数量消息，然后停止生产。 接着启动消费者，设置 auto.offset.reset=latest 结果：消费者从上次消费位置接着 ......
Kafka的部分初始化参数的学习与整理
Kafka的部分初始化参数的学习与整理 背景 前段时间跟同事一起处理过kafka的topic offset的retention 时间与 log 的retention时间不一致. 导致消息还有, 但是offset 没有, 导致重复消费的问题. 发现很多产品其实参数很复杂, 不能只看一个参数就立马进行修 ......
kafka可视化管理：Kafka Manager
需求 虽然kafka server有命令行工具管理kafka，但必须登录到kafka server主机上，觉得不是特别方便。 希望在web界面可以管理kafka需求就来了，查到几个管理kafka管理工具，觉得kafka manager还不错。 该管理工具基本上可以满足我的需求： 1）管理kafka ......
Kafka基本原理、生产问题总结及性能优化实践
Kafka是最初由Linkedin公司开发，是一个分布式、支持分区的（partition）、多副本的（replica），基于zookeeper协调的分布式消息系统，它的最大的特性就是可以实时的处理大量数据以满足各种需求场景：比如基于hadoop的批处理系统、低延迟的实时系统、Storm/Spark流... ......
Flink消费kafka数据同步问题排查
Flink消费kafka数据同步问题排查 https://mp.weixin.qq.com/s/EZbCKHBI_JrsF0yJndhe8Q Flink消费kafka数据同步问题排查 原创 任天兵 哈啰技术 2023-10-31 17:31 发表于上海 我们有一个flink任务，消费的kafka的数 ......
kafka了解多少，遇到哪些故障，怎么解决的？
作为一种分布式消息队列，Kafka 在实际应用中也可能遇到各种故障，下面列举几种常见的情况和解决方案： 1. 节点宕机 当 Kafka 集群中的某个节点宕机时，可能导致数据不一致、数据丢失等问题。解决方案建议使用多副本机制，即在各个节点之间进行数据的同步和复制，保证集群中的节点宕机时，数据不会丢失。 ......
Kafka-生产者性能调优
（一）参数调优 参数调优相关代码 在实际的kafka开发中，我们会发现，无论是生产者还是消费者，都需要构建一个Properties对象，里面设置了很多参数。在这段代码中有很多常用的参数配置，在线上使用时，我们要根据实际的数据量和数据大小来决定这些配置的具体值。 Properties props = ......
Kafka-生产者、broker、消费者的调优参数总结
生产环境下，为了尽可能提升Kafka的整体吞吐量，可以对Kafka的相关配置参数进行调整，以达到提升整体性能的目的。 本文主要从Kafka的不同组件出发，讲解各组件涉及的配置参数和参数含义。 一、生产者（producer.properties或者代码中） 1、acks：Producer需要Leade ......
Kafka基础学习笔记
一、Kafka： 1、简介： Kafka是由Apache开源，具有分布式、分区的、多副本的、多订阅者，基于Zookeeper协调的分布式处理平台，由Scala和Java语言编写。最大的特性就是可以实时并高速的处理大量数据来满足需求，同时对消息数据进行持久化存储。 2、优点： Kafka与其他消息队列 ......
kafka代码实践
安装kafka： Windows安装kafka, 详情见：https://blog.csdn.net/sinat_32502451/article/details/133067851 Linux 安装kafka，详情见：https://blog.csdn.net/sinat_32502451/art ......
kafka代码示例
安装kafka： Windows安装kafka, 详情见：https://blog.csdn.net/sinat_32502451/article/details/133067851 Linux 安装kafka，详情见：https://blog.csdn.net/sinat_32502451/art ......
Kafka 在分布式系统中的 7 大应用场景
Kafka 介绍 Kafka 是一个开源的分布式流式平台，它可以处理大量的实时数据，并提供高吞吐量，低延迟，高可靠性和高可扩展性。Kafka 的核心组件包括生产者（Producer），消费者（Consumer），主题（Topic），分区（Partition），副本（Replica），日志（Log）， ......
K8s - 安装部署Kafka、Zookeeper集群教程（支持从K8s外部访问）
本文演示如何在K8s集群下部署Kafka集群，并且搭建后除了可以K8s内部访问Kafka服务，也支持从K8s集群外部访问Kafka服务。服务的集群部署通常有两种方式：一种是 StatefulSet，另一种是 Service&Deployment。本次我们使用 StatefulSet 方式搭建 Zoo ......
kafka基于SCRAM认证，快速配置启用ACL
启动和停止服务 zookeeper /usr/local/apache-zookeeper-3.8.2-bin/bin/zkServer.sh start /usr/local/apache-zookeeper-3.8.2-bin/bin/zkServer.sh stop kafka /usr/lo ......
kafka-ACL
本文档时在centos7直接部署添加认证的kafka文件基础上，做下面的修改实现ACL访问控制topic 参考：https://www.seaxiang.com/blog/Qpsqii 一. 添加多个kafka用户及相关的配置文件 1.kafka_server_jaas.conf KafkaServ ......
helm部署kafka鉴权以及ACL
官方文档 https://github.com/bitnami/charts/tree/main/bitnami/kafka https://blog.csdn.net/u011618288/article/details/129105777 (包含zookeeper与broker认证、鉴权流程) ......
centos7直接部署添加认证的kafka
前言 测试服务器：10.255.60.149 一. 安装jdk 官网下载jdk1.8版本以上的 https://www.oracle.com/java/technologies/downloads/ 测试系统版本为centos7，选择了最后一个下载后，使用rpm -ivh即可安装 二. 安装zook ......
docker-compose部署SASL认证的kafka
前言 测试服务器：10.255.60.149 一. 编写docker-compose文件 1.docker-compose.yml version: '3.8' services: zookeeper: image: wurstmeister/zookeeper volumes: - /data/z ......
Kafka Server之kafka-consumer-groups.sh
消费者组查询 在 kafka server中查看有哪些消费者：./kafka-consumer-groups.sh --list --bootstrap-server localhost:9092 查询到有2个消费者组 消费者组描述 在 kafka server中查看指定消费者组信息：./kafka ......
kafka：brokers are down
producer发布消息失败 由于使用脚本：./kafka-server-stop.sh and ./zookeeper-server-stop.sh 关闭kafka后，jps查询服务还在，就打算把重启系统。 重启后，往kafka上发布消息失败，报错代码：brokers are down 。 一顿操 ......
添加Kafka的Ranger访问权限策略
原文链接：https://support.huaweicloud.com/intl/zh-cn/eu-west-0-cmpntguide-lts-mrs/mrs_01_1861.html 操作场景 Ranger管理员可通过Ranger为Kafka用户配置Kafka主题的读、写、管理权限以及集群的管理 ......
kafka 分区概念
消费者api kafka文档 偏移量和消费位置 主题被分为分区集合，分区内是完全有序的，每一个分区在任何时间只被分给订阅此主题的消费组里的一个消费者消费 每一个分区的偏移量只是一个int，代表着下一个要消费的消息的偏移量 因为每个分区同一时间只被一个消费组里的一个消费者消费，所以消息消费确认不用记录 ......
Kafka并行度配置
在Spring Kafka中， spring.kafka.listener.concurrency 是一个配置属性，用于设置Kafka消息监听器容器的并发消费者数量。它指定了每个主题分区的并发消费者线程数量。 具体来说，可以通过以下方式配置 spring.kafka.listener.concurr ......
kafka分区与消费者配置
kafka分区与消费者配置 工作当中如何计算分区与消费者数量,如何最大化利用资源,防止不必要的浪费,本文将带你计算 1.基本概念回顾 Kafka是一个分布式流处理平台，具有高吞吐量、可扩展性和容错性。以下是一些Kafka的基本概念： 消息：Kafka是一个消息传递系统，它通过生产者将消息发布到主题（ ......
使用Grafana + jmx 监控 kafka3.5 的过程
使用Grafana + jmx 监控 kafka3.5 的过程 摘要 周五一边进行数据库监控, 同时想着部署一套监控系统. 能够监控一下kafka等中间件 结果不想自己遇到了很多坑. 下午有同事语音告诉自己一些排查问题的方式与方法. 自己又多花了半个小时才将数据捞出来. 感觉自己对很多工具的使用还是 ......
Python-操作kerberos验证的kafka
本笔记为python操作kerberos认证的kafka的操作方法，此仅记录作为使用者，连接客户提供的kafka并进行操作的流程。 1、依赖安装： python相关依赖库： pip3 install kafka-python pip3 install gssapi 系统（镜像）：需要安装kerber ......