kafka

云原生 Kafka AutoMQ 1.1.2-rc0 正式发布

AutoMQ 介绍 Apache Kafka 自诞生之日起,就以其卓越的设计和强大的功能,很快成为了流系统领域的事实标准。它不仅定义了现代流系统的架构,更以其独特的分布式日志抽象,…

如何在 Apache Kafka 中通过 KSQL 分析 Twitter 数据

介绍KSQL 是 Apache Kafka 中的开源的流式 SQL 引擎。它可以让你在 Kafka 主题 topic 上,使用一个简单的并且是交互式的 SQL 接口,很容易地做一些…

一条日志消息的现代生活

从一条日志消息的角度来巡览现代分布式系统。混沌系统往往是不可预测的。在构建像分布式系统这样复杂的东西时,这一点尤其明显。如果不加以控制,这种不可预测性会无止境的浪费时间。因此,分布…

OGG从Oracle备库同步数据至kafka

1 目的 测试物理standby 作为ogg 源端的可行性,效率及安全性。 2 环境及规划 以下数据库及OGG版本是实际目的的最低版本要求。 环境 服务器ip 作用 10.10.1…

Apache Kafka:为“无缝系统”提供异步消息支持

Apache Kafka 是最流行的开源消息代理之一。它已经成为了大数据操作的重要组成部分,你能够在几乎所有的微服务环境中找到它。本文对 Apache Kafka 进行了简要介绍,…

Kafka 如何基于 KRaft 实现集群最终一致性协调

一、架构概览   Zookeeper 提供了配置服务、分布式同步、命名服务、Leader 选举和集群管理等功能,在大数据时代的开始很多开源产品都依赖 Zookeeper 来构建,A…

大数据实时分析:Flink 连接 Kafka 和 Flink SQL

Flink 连接 Kafka 前的准备在使用 Apache Flink 连接 Apache Kafka 之前,需要完成以下准备工作。具体步骤如下:从 Maven 官方库获取相关的 …

MQ选型:一文详解Kafka与RocketMQ区别

引言在做MQ技术选型的时候,Kafka和RocketMQ是常用的两个消息队列中间件,今天就从架构设计、性能分析、使用场景来比较一下两者的区别,到底该使用哪个MQ?Kafka最初由L…

消息队列的六种经典使用场景和 Kafka 架构设计原理详细解析

我是码哥,可以叫我靓仔。今天来聊一聊 Kafka 消息队列的使用场景和核心架构实现原理,帮助你全面了解 Kafka 其内部工作原理和设计理念。。Apache Kafka 是一个高吞…

DataKit数据迁移3前置校验失败的处理

前置校验项目及不通过的处理1、Kafka服务可用性检查:使用jps在portal执行机上执行查看,保证以下三个服务进程存在[test@dev-openeuler-arm ~]$ j…

从零开始搭建 Kafka集群

一、搭建设计图片1.1. 机器分配kafka1(192.168.150.111)kafka2(192.168.150.112)kafka3(192.168.150.113)1.2.…

聊聊主流的Kafka监控框架

今天给大家来聊聊关于Kafka的具体监控工具或监控框架。令人有些遗憾的是,Kafka社区似乎一直没有在监控框架方面投入太多的精力。目前,Kafka的新功能提议已超过500个,但没有…

Kafka六大使用场景以及核心概念,你知道几个?

1. 为什么介绍Kafka1.高吞吐量:单机每秒处理十万级的消息量。即使存储了许多TB的消息,它也保持稳定的性能。2.高性能:单节点支持上千个客户端,并保证零停机和零数据丢失。利用…

Java Kafka:常见问题解答和最佳实践

kafka java 最佳实践和常见问题创建生产者时超时:检查连接、网络和生产者属性配置。消费时延迟或错误:优化批量大小和轮询间隔,检查消费者处理逻辑效率。保证消息顺序:创建单分区…

即时驰骋:探索实时数据库的世界

实时数据库是一种能够实时存储和处理数据的数据库系统。它的设计理念是为了满足对于高速数据处理和大规模数据存储的需求。在实时数据库中,数据可以立即读取和写入,并且可以在几毫秒的时间内进…

监控 Kafka,这十个指标请考虑!

大家好,我是君哥。使用消息队列可以帮助我们实现系统解耦、流量管控等功能。但使用过程中可能会遇到各种各样的问题,比如系统资源使用率高、集群节点宕机等,进而影响我们生产业务正常开展。为…

原理剖析| Kafka Exactly Once 语义实现原理:幂等性与事务消息

1、前言   在现代分布式系统中,确保数据处理的准确性和一致性是至关重要的。Apache Kafka,作为一个广泛使用的流处理平台,提供了强大的消息队列和流处理功能。随着业务需求的…

Kafka与Flume在Java大数据处理中的应用

答案:apache kafka和apache flume是java大数据处理中常用的数据收集和传输平台。详细描述:kafka:分布式流处理平台高吞吐量,容错性强flume:分布式数…

Kafka 迁移工具 MirrorMaker2 原理起底

注意:本文内容截止到 2024 年 2 月 26 日发布的 Kafka 3.7.0 版本。MirrorMaker2(后文简称 MM2)在 2019 年 12 月随 Kafka 2.…

云原生最佳实践系列 1:如何快速实现kafka性能压测

消息队列 Kafka 版实例类型的性能表现除了跟实例本身的规格相关外,与创建实例时选择的云盘类型也强相关,本实验通过相同规格的实例,不同的云盘类型来验证该因素的影响。 消息队列 K…

加载更多