본문 바로가기

KAFKA8

ELR(Eligible Leader Replicas) — ISR/HW 메커니즘의 구조적 한계와 해결 Kafka의 메시지 복제를 이해하는 세 가지 키워드 — LEO, HW, acksKafka의 메시지 복제를 이해하는 세 가지 키워드 — LEO, HW, acksKafka를 운영하다 보면 "메시지 유실", "복제 지연", "컨슈머 가시성" 같은 이슈를 마주하게 된다. 이 문제들을 제대로 이해하려면 LEO, Himachine-geon.tistory.comKafka 4.0의 ELR(Eligible Leader Replicas) — ISR/HW 메커니즘의 구조적 한계와 해결이전 글에서 Kafka의 LEO, High Watermark, acks의 관계를 정리했다. 이번 글에서는 기존 ISR/HW 메커니즘의 구조적 한계와, Kafka 4.0에서 도입된 ELR(KIP-966)이 이를 어떻게 해결하는지 다룬다.기존 IS.. 2026. 4. 16.
Kafka의 메시지 복제를 이해하는 세 가지 키워드 — LEO, HW, acks Kafka의 메시지 복제를 이해하는 세 가지 키워드 — LEO, HW, acksKafka를 운영하다 보면 "메시지 유실", "복제 지연", "컨슈머 가시성" 같은 이슈를 마주하게 된다. 이 문제들을 제대로 이해하려면 LEO, High Watermark, 그리고 acks의 관계를 알아야 한다.LEO (Log End Offset)LEO는 각 레플리카에서 다음에 쓸 오프셋 위치다. 즉, 마지막으로 기록된 메시지의 오프셋 + 1이다.파티션에 오프셋 0, 1, 2까지 메시지가 있다면 → LEO = 3LEO는 레플리카마다 다를 수 있다. 리더는 프로듀서로부터 직접 메시지를 받으니 LEO가 가장 앞서고, 팔로워는 리더를 fetch해서 따라가므로 약간 뒤처지는 게 정상이다.ISR (In-Sync Replicas)과 L.. 2026. 4. 15.
[Version] Apache Kafka 3.5 https://www.confluent.io/blog/introducing-apache-kafka-3-5/ Introducing Apache Kafka 3.5.0 This release includes rack-aware partition assignment for Kafka consumers, full support for distributed mode in dedicated MirrorMaker 2.0 clusters, and more! Read more highlights from Mickael Maison. www.confluent.io Kafka Broker, Controller, Producer, Consumer and Admin Client KIP-881: Rack-aware Partitio.. 2023. 7. 10.
[Version] Apache Kafka 3.4 https://www.confluent.io/blog/apache-kafka-3-4-0-new-features-and-updates/ Apache Kafka 3.4: New Features and Updates Migrate Kafka clusters from ZooKeeper to KRaft with no downtime (early access), get improvements for Kafka Streams and Kafka Connect, and more. www.confluent.io Kafka Broker, Controller, Producer, Consumer and Admin Client KIP-866: ZooKeeper to KRaft Migration (Early Access) KIP-.. 2023. 7. 10.
[Version] Apache Kafka 3.3 confluent의 Apache Kafka 3.3(구글 번역기) https://www.confluent.io/ko-kr/blog/apache-kafka-3-3-0-new-features-and-updates/ What’s New in Apache Kafka 3.3 - New Features, Updates, and More | KR Apache Kafka 3.3 includes KRaft mode, improves partition scalability and resiliency while simplifying Kafka deployment, as well as updates to Kafka Streams, Connect, and more. www.confluent.io Kafka Broker, Cont.. 2023. 1. 6.
[KAFKA] APACHE KAFKA 기초 책 '실전 아파치 카프카'를 보며 정리한 내용 2.1 구성 내용 메시지 송수신 기본 시스템 구성 분산 메시징을 위한 구조 데이터 견고함을 담보하는 복제의 구조 2.2 메시지 송수신 기본 카프카의 주요 구성 요소 브로커 데이터를 수신, 전달하는 서비스 메시지 카프카에서 다루는 데이터 최소 단위. 프로듀서 데이터의 생산자, 브로커에 메시지를 보내는 애플리케이션 컨슈머 브로커에서 메시지를 취득하는 애플리케이션 토픽 메시지를 (토픽)별로 관리하는 스토리지. 브로커에 배치되어 관리된다. 2.3 시스템 구성 브로커 브로커 하나의 서버(또는 인스턴스) 당 하나의 데몬 프로세스로 동작. 여러대의 클러스터로 구성 가능. 브로커를 추가함으로 처리량 향상(스케일 아웃)이 가능. 브로커에서 받은 데이터는 모두 디스크로 내보내.. 2021. 4. 13.