Kafka की मूल संकल्पनाएं क्या हैं (विषय, विभाजन, ब्रोकर)?

Question

IT Interview Practice · Accepted Answer

Kafka की मूल संकल्पनाओं में **विषय** (इवेंट की श्रेणियां), **विभाजन** (विषयों के भीतर समानता की इकाइयां), **ब्रोकर** (सर्वर), **निर्माता** (लिखते हैं), और **उपभोक्ता** (पढ़ते हैं) शामिल हैं। इन्हें समझना Kafka के साथ काम करने के लिए मौलिक है।

## मूल संकल्पनाएं

```text
TOPIC → a named category/stream of events (like a "channel" — e.g. "orders", "clicks")
  → producers write to topics; consumers read from them
PARTITION → a topic is split into PARTITIONS (ordered, append-only logs):
  → the unit of PARALLELISM and scaling; events distributed across partitions
  → order is guaranteed WITHIN a partition (not across partitions)
BROKER → a Kafka SERVER (stores data, serves clients); a CLUSTER = multiple brokers
PRODUCER → writes (publishes) events to topics
CONSUMER → reads (subscribes to) events from topics
```

## विभाजन और ऑफसेट

```text
→ each partition is an ordered, immutable sequence of events
→ each event has an OFFSET (its position in the partition)
→ consumers track their offset (where they've read to) → can resume, replay
→ events stay in the partition (retained); consumers read at their own pace
→ a partition KEY determines which partition an event goes to (same key → same partition
  → ordering for that key)
```

## यह कैसे एक साथ फिट होता है

```text
Producer → writes to a TOPIC (→ a PARTITION based on key) → stored on a BROKER (replicated)
  → Consumer reads from the partition (tracking its offset)
→ topics organize events; partitions enable parallelism/scale; brokers store/serve;
  offsets track position
```

## यह महत्वपूर्ण क्यों है

Kafka की मूल संकल्पनाओं को समझना मौलिक है क्योंकि **विषय, विभाजन, ब्रोकर, निर्माता, और उपभोक्ता Kafka के निर्माण खंड हैं**, इसलिए किसी भी Kafka कार्य के लिए उन्हें समझना आवश्यक है।

ये संकल्पनाएं Kafka कैसे काम करता है इसकी नींव बनाती हैं।

**विषयों** को समझना (नाम की गई श्रेणियां/इवेंट के प्रवाह जो निर्माता लिखते हैं और उपभोक्ता पढ़ते हैं) बुनियादी संगठन संकल्पना है।

**विभाजन** को समझना विशेष रूप से महत्वपूर्ण है: विषयों को विभाजन में विभाजित किया जाता है (क्रमबद्ध, केवल-अपेंड लॉग) जो **समानता और स्केलिंग की इकाई** हैं, महत्वपूर्ण गुण के साथ कि **विभाजन के भीतर क्रम की गारंटी है लेकिन विभाजन में नहीं** — एक मुख्य संकल्पना जो प्रभावित करती है कि Kafka कैसे स्केल होता है और इवेंट का आदेश देता है।

**ब्रोकर** (Kafka सर्वर, एक क्लस्टर बनाते हुए), **निर्माता** (इवेंट लिखते हैं), और **उपभोक्ता** (इवेंट पढ़ते हैं) को समझना बुनियादी आर्किटेक्चर को पूरा करता है।

**विभाजन और ऑफसेट** को समझना — प्रत्येक विभाजन एक क्रमबद्ध अपरिवर्तनीय अनुक्रम होना जहां इवेंट के **ऑफसेट** (स्थिति) होते हैं, उपभोक्ता फिर से शुरू करने और पुनः चलाने के लिए अपना ऑफसेट ट्रैक करते हैं, इवेंट बनाए रखा जाता है ताकि उपभोक्ता अपनी गति से पढ़ें, और **विभाजन कुंजी** यह निर्धारित करते हुए कि कौन सा विभाजन एक इवेंट किसमें जाता है (समान कुंजी → समान विभाजन → उस कुंजी के लिए क्रम) — Kafka के डेटा मॉडल और क्रम गारंटी को समझने के लिए आवश्यक है।

**यह कैसे एक साथ फिट होता है** को समझना (निर्माता विषय/विभाजन में लिखते हैं प्रतिकृत ब्रोकर पर संग्रहीत, उपभोक्ता ऑफसेट ट्रैक करते हुए पढ़ते हैं) पूरी तस्वीर प्रदान करता है।

ये संकल्पनाएं Kafka की शब्दावली और यांत्रिकी हैं जिस पर सब कुछ निर्मित होता है।

चूंकि विषय, विभाजन, ब्रोकर, निर्माता, उपभोक्ता, और ऑफसेट Kafka के मौलिक निर्माण खंड हैं (विभाजन और क्रम विशेष रूप से महत्वपूर्ण संकल्पनाएं होने के साथ), और चूंकि किसी भी Kafka कार्य के लिए उन्हें समझना आवश्यक है, Kafka की मूल संकल्पनाओं को समझना आवश्यक, मौलिक ज्ञान है — Kafka के साथ काम करने के लिए आवश्यक निर्माण खंड, Kafka कैसे संगठित, स्केल, क्रम, और इवेंट को संग्रहीत करता है इसे समझने के लिए केंद्रीय, और सभी Kafka विषयों की नींव।

मूल संकल्पनाएं

विभाजन और ऑफसेट

यह कैसे एक साथ फिट होता है

यह महत्वपूर्ण क्यों है

संबंधित प्रश्न