COPY वापरून डेटा कार्यक्षमतेने बल्क-लोड कसे करायचे?

Question

Accepted Answer

**`COPY`** हा PostgreSQL चा उच्च-कार्यक्षमता असलेला आदेश आहे **बल्क लोडिंग आणि एक्सपोर्टिंग** साठी — फाइल (किंवा स्ट्रीम) आणि टेबल यांच्यामध्ये मोठ्या प्रमाणात डेटा हलवणे हे वैयक्तिक `INSERT` स्टेटमेंट्सपेक्षा बरेच वेगवान आहे. मोठ्या डेटासेट्स आयात/निर्यात करण्यासाठी हे मानक साधन आहे.

## COPY वेगवान बल्क लोडिंगसाठी

```sql
-- load data from a CSV file into a table (server-side; needs file access + privileges)
COPY users (name, email, age) FROM '/path/data.csv' WITH (FORMAT csv, HEADER true);

-- export a table to a CSV file
COPY users TO '/path/export.csv' WITH (FORMAT csv, HEADER true);

-- from psql (client-side — works without server file access): use \copy
\copy users FROM 'data.csv' WITH (FORMAT csv, HEADER true)
```

`COPY` संपूर्ण फाइल एका ऑपरेशनमध्ये वाचते/लिहिते — हजारो वैयक्तिक INSERTs चालवण्यापेक्षा नाटकीयदृष्ट्या वेगवान.

## COPY INSERT पेक्षा खूप वेगवान का आहे

```text
❌ thousands of individual INSERTs:
   each is a separate statement → per-statement overhead, possibly per-row transactions,
   network round-trips → SLOW for large data (can be 10-100x slower)

✅ COPY:
   one bulk operation, minimal overhead, optimized data path → FAST
→ For loading large datasets, COPY is the go-to; INSERTs are for small/individual rows.
```

## COPY vs \copy (सर्व्हर-साइड vs क्लायंट-साइड)

```text
COPY (SQL command) → reads/writes files on the SERVER, needs superuser/file privileges
\copy (psql command) → reads/writes files on the CLIENT, no special privileges
→ Use \copy when running from your machine against a remote database.
```

## मोठ्या डेटासेट्स बल्क लोड करण्यासाठी सुझाव

```text
✓ Use COPY (not INSERTs) for large data
✓ Consider dropping/disabling indexes and constraints during a huge load, then
  recreating them after (building an index once is faster than maintaining it per-row)
✓ Load within a single transaction; increase maintenance_work_mem for index rebuilds
✓ For programmatic bulk inserts, use multi-row INSERT or the driver's COPY support
```

## हे का महत्वाचे आहे

`COPY` हे **कार्यक्षम बल्क डेटा लोडिंग आणि एक्सपोर्टिंग** साठी अत्यावश्यक PostgreSQL साधन आहे, आणि मोठ्या डेटासेट्स समाविष्ट असलेल्या कोणत्याही परिस्थितीत हे समजून घेणे मूल्यवान आहे — डेटा माइग्रेशन, ETL, आयात/निर्यात, सीडिंग आणि विश्लेषण, ज्या सामान्य वास्तविक-जगतातील गरजा आहेत.

मुख्य मूल्य **कार्यक्षमता** आहे: वैयक्तिक `INSERT` स्टेटमेंट्ससह मोठ्या प्रमाणात डेटा लोड करणे नाटकीयदृष्ट्या हळू आहे (प्रति-स्टेटमेंट ओव्हरहेड, राउंड-ट्रिप्स — संभाव्यत: 10-100x हळू), तर `COPY` लोड एक ऑप्टिमाइজ केलेल्या बल्क ऑपरेशन म्हणून करते, ज्यामुळे हे मोठ्या डेटासेट्स आयात किंवा एक्सपोर्ट करण्यासाठी गो-टू साधन आहे (हजार ते लाखो पंक्तीं).

COPY का इतका वेगवान आहे हे समजून घेणे (बल्क ऑपरेशन vs प्रति-पंक्ती ओव्हरहेड) हे स्पष्ट करते की त्याकडे कधी वळायचे (मोठा डेटा) बनाम INSERTs (लहान/वैयक्तिक पंक्तीं).

**`COPY`** (सर्व्हर-साइड SQL आदेश, फाइल अ‍ॅक्सेस/अनुमतीचा आवश्यकता) आणि **`\copy`** (psql क्लायंट-साइड आदेश, विशेष अनुमतीचा आवश्यकता नाही — आपल्या मशीनमधून दूरस्थ डेटाबेसविरुद्ध कार्य करते) यांच्यातील व्यावहारिक भेद जाणून घेणे वेगवेगळ्या संदर्भांमध्ये ते वास्तविकपणे वापरण्यासाठी महत्वाचे आहे.

**बल्क-लोडिंग सुझाव** (INSERTs पेक्षा COPY वापरणे, मोठ्या लोड्स सभोवतालच्या अनुक्रमणिका ड्रॉप/पुनर्निर्माण करणे कारण एक अनुक्रमणिका तयार करणे प्रति-पंक्ती ते टिकवून ठेवणे अधिक चांगले आहे, ट्रान्জॅक्शनमध्ये लोड करणे) हे मोठ्या आयातीसाठी मूल्यवान ऑप्टिमाइজेशन ज्ञान आहे.

बल्क डेटा ऑपरेशन्स (माइग्रेशन, आयात, निर्यात, ETL) सामान्य असल्यामुळे, आणि COPY हा PostgreSQL मध्ये त्यांना हाताळण्याचा मानक, उच्च-कार्यक्षमता मार्ग असल्यामुळे (मोठ्या डेटासाठी INSERTs पेक्षा मोठ्या प्रमाणात अधिक कार्यक्षम), COPY समजून घेणे — त्याचे कार्यक्षमता लाभ, COPY vs \copy भेद, आणि बल्क-लोडिंग सर्वोत्तम प्रथा — मोठ्या डेटासेट्स Postgres मध्ये आणि बाहेर कार्यक्षमतेने हलवण्यासाठी मूल्यवान, व्यावहारिकदृष्ट्या प्रासंगिक ज्ञान आहे, एक वारंवार ऑपरेशनल आवश्यकता जिथे योग्य साधन (COPY) वापरल्याने मोठा फरक पडतो.