Kafka యొక్క ప్రధాన భావనలు ఏమిటి (topics, partitions, brokers)?

Question

Accepted Answer

Kafka యొక్క ప్రధాన భావనలు **topics** (ఈవెంట్‌ల వర్గాలు), **partitions** (topics లో సమాంతరత యొక్క యూనిట్‌లు), **brokers** (సర్వర్‌లు), **producers** (రాయండి), మరియు **consumers** (చదవండి) లను కలిగి ఉన్నాయి. Kafkaతో పనిచేయడానికి ఇవి సమझడం ప్రాథమికమైనది.

## ప్రధాన భావనలు

```text
TOPIC → a named category/stream of events (like a "channel" — e.g. "orders", "clicks")
  → producers write to topics; consumers read from them
PARTITION → a topic is split into PARTITIONS (ordered, append-only logs):
  → the unit of PARALLELISM and scaling; events distributed across partitions
  → order is guaranteed WITHIN a partition (not across partitions)
BROKER → a Kafka SERVER (stores data, serves clients); a CLUSTER = multiple brokers
PRODUCER → writes (publishes) events to topics
CONSUMER → reads (subscribes to) events from topics
```

## Partitions మరియు offsets

```text
→ each partition is an ordered, immutable sequence of events
→ each event has an OFFSET (its position in the partition)
→ consumers track their offset (where they've read to) → can resume, replay
→ events stay in the partition (retained); consumers read at their own pace
→ a partition KEY determines which partition an event goes to (same key → same partition
  → ordering for that key)
```

## ఇది ఎలా సరిపోతుంది

```text
Producer → writes to a TOPIC (→ a PARTITION based on key) → stored on a BROKER (replicated)
  → Consumer reads from the partition (tracking its offset)
→ topics organize events; partitions enable parallelism/scale; brokers store/serve;
  offsets track position
```

## ఇది ఎందుకు ముఖ్యమైనది

Kafka యొక్క ప్రధాన భావనలను అర్థం చేసుకోవడం ప్రాథమికమైనది ఎందుకంటే **topics, partitions, brokers, producers, మరియు consumers లు Kafka యొక్క బిల్డింగ్ బ్లాక్‌లు**, కాబట్టి వాటిని గ్రహించడం ఏదైనా Kafka పనికి అవసరం.

ఈ భావనలు Kafka ఎలా పనిచేస్తుందో యొక్క ఆధారం.

**topics** (నాముకరణ చేయబడిన ఈవెంట్‌ల విభాగాలు/స్ట్రీమ్‌లు, producers రాయడానికి మరియు consumers చదవడానికి) ను అర్థం చేసుకోవడం ప్రాథమిక సంస్థ సంకల్పన.

**partitions** ను అర్థం చేసుకోవడం ప్రత్యేకముగా ముఖ్యమైనది: topics లను partitions (క్రమబద్ధమైన, append-only లాగ్‌లు)గా విభజించారు, ఇవి **సమాంతరత మరియు స్కేలింగ్ యొక్క యూనిట్**, **partition లో ఆర్డర్ హామీ ఇవ్వబడుతుంది కానీ partitions అంతటా కాదు** అనే విషయం — Kafka ఎలా స్కేల్ చేస్తుంది మరియు ఈవెంట్‌లను ఆర్డర్ చేస్తుందో దానిని ప్రభావితం చేసే ముఖ్య సంకల్పన.

**brokers** (Kafka సర్వర్‌లు, క్లస్టర్ ఏర్పర్చుతుంది), **producers** (ఈవెంట్‌లను రాయడం), మరియు **consumers** (ఈవెంట్‌లను చదవడం) ను అర్థం చేసుకోవడం ప్రాథమిక ఆర్కిటెక్చర్ సంపూర్ణం చేస్తుంది.

**partitions మరియు offsets** ను అర్థం చేసుకోవడం — ప్రతి partition ఒక క్రమబద్ధమైన మార్పులేని శ్రేణి ఇక్కడ ఈవెంట్‌లకు **offsets** (స్థానాలు) ఉన్నాయి, consumers వారి offset ను ట్రాక్ చేస్తూ పునరారంభించటానికి మరియు పునరుద్ధరించటానికి, ఈవెంట్‌లను ఉంచారు కాబట్టి consumers వారి సొంత చొప్పున చదవవచ్చు, మరియు **partition key** ఈవెంట్ ఏ partition కు వెళ్లిందో నిర్ణయిస్తుంది (అదే key → అదే partition → ఆ key కు ఆర్డర్) — Kafka యొక్క డేటా మోడల్ మరియు ఆర్డర్ హామీలను అర్థం చేసుకోవడానికి అవసరం.

**ఇది ఎలా సరిపోతుందో** అర్థం చేసుకోవడం (producers topics/partitions కు రెప్లికేట్ చేయబడిన brokers పై నిల్వ చేయడానికి రాయటం, consumers చదవటం offsets ను ట్రాక్ చేస్తూ) సంపూర్ణ చిత్రాన్ని అందిస్తుంది.

ఈ భావనలు Kafka యొక్క పదజాలం మరియు మెకానిక్‌లు, ఇక్కడ ఆ అన్నింటిపై నిర్మితమవుతుంది.

Topics, partitions, brokers, producers, consumers, మరియు offsets లు Kafka యొక్క ప్రాథమిక బిల్డింగ్ బ్లాక్‌లు (partitions మరియు ఆర్డర్ ప్రత్యేకముగా ముఖ్య భావనలు), మరియు వాటిని అర్థం చేసుకోవడం ఏదైనా Kafka పనికి అవసరమైనందున, Kafka యొక్క ప్రధాన భావనలను అర్థం చేసుకోవడం అవసరం, ప్రాథమిక జ్ఞానం — Kafka తో పనిచేయడానికి అవసరమైన బిల్డింగ్ బ్లాక్‌లు, Kafka ఎలా ఈవెంట్‌లను సంస్థాపించుకుంటుంది, స్కేల్ చేస్తుంది, ఆర్డర్ చేస్తుంది, మరియు నిల్వ చేస్తుందో అర్థం చేసుకోవడానికి ముఖ్యమైనది, మరియు అన్ని Kafka విషయాల ఆధారం.