COPY ఉపయోగించి డేటాను సమర్థవంతంగా బల్క్-లోడ్ చేయడం ఎలా?

Question

Accepted Answer

**`COPY`** PostgreSQL యొక్క **బల్క్ లోడింగ్ మరియు ఎక్స్‌పోర్టింగ్** కోసం అధిక-పనితీరు కమాండ్ — ఫైల్ (లేదా స్ట్రీమ్) మరియు టేబుల్ మధ్య భారీ మొత్తంలో డేటాను తరలించడానికి వ్యక్తిగత `INSERT` స్టేట్‌మెంట్‌ల కంటే చాలా వేగంగా. ఇది పెద్ద డేటాసెట్‌లను導入/ఎక్స్‌పోర్ట్ చేయడానికి ప్రామాణిక సాధనం.

## వేగవంతమైన బల్క్ లోడింగ్ కోసం COPY

```sql
-- load data from a CSV file into a table (server-side; needs file access + privileges)
COPY users (name, email, age) FROM '/path/data.csv' WITH (FORMAT csv, HEADER true);

-- export a table to a CSV file
COPY users TO '/path/export.csv' WITH (FORMAT csv, HEADER true);

-- from psql (client-side — works without server file access): use \copy
\copy users FROM 'data.csv' WITH (FORMAT csv, HEADER true)
```

`COPY` స온్న ఆపరేషన్‌లో సম్పూర్ణ ఫైల్‌ను చదువుతుంది/వ్రాస్తుంది — వేలాది వ్యక్తిగత INSERTs నిర్వహించడం కంటే నాటకీయంగా వేగవంతమైనది.

## INSERT కంటే COPY ఎందుకు చాలా వేగవంతమైనది

```text
❌ thousands of individual INSERTs:
   each is a separate statement → per-statement overhead, possibly per-row transactions,
   network round-trips → SLOW for large data (can be 10-100x slower)

✅ COPY:
   one bulk operation, minimal overhead, optimized data path → FAST
→ For loading large datasets, COPY is the go-to; INSERTs are for small/individual rows.
```

## COPY vs \copy (సర్వర్-సైడ్ vs క్లায়েంట్-సైడ్)

```text
COPY (SQL command) → reads/writes files on the SERVER, needs superuser/file privileges
\copy (psql command) → reads/writes files on the CLIENT, no special privileges
→ Use \copy when running from your machine against a remote database.
```

## పెద్ద డేటాసెట్‌ల బల్క్ లోడింగ్ కోసం చిట్కాలు

```text
✓ Use COPY (not INSERTs) for large data
✓ Consider dropping/disabling indexes and constraints during a huge load, then
  recreating them after (building an index once is faster than maintaining it per-row)
✓ Load within a single transaction; increase maintenance_work_mem for index rebuilds
✓ For programmatic bulk inserts, use multi-row INSERT or the driver's COPY support
```

## ఇది ఎందుకు ముఖ్యమైనది

`COPY` **సమర్థవంతమైన బల్క్ డేటా లోడింగ్ మరియు ఎక్స్‌పోర్టింగ్** కోసం అవసరమైన PostgreSQL సాధనం, మరియు పెద్ద డేటాసెట్‌లతో కూడిన ఏదైనా పరిస్థితిలో దీన్ని అర్థం చేసుకోవడం విలువైనది — డేటా మైగ్రేషన్‌లు, ETL, లోపలికరణలు/ఎక్స్‌పోర్ట్‌లు, సీడింగ్ మరియు విశ్లేషణలు, ఇవి సాధారణ వాస్తవ-ప్రపంచ అవసరాలు.

మూల విలువ **పనితీరు**: వ్యక్తిగత `INSERT` స్టేట్‌మెంట్‌లతో భారీ మొత్తంలో డేటాను లోడ్ చేయడం నిరాశాజనకంగా నెమ్మదిగా ఉంటుంది (ప్రతి-స్టేట్‌మెంట్ ఓవర్‌హెడ్, రౌండ్-ట్రిప్‌లు — సంభావ్యంగా 10-100x నెమ్మదిగా), అయితే `COPY` లోడ్‌ను ఒక оптимైజ్డ్ బల్క్ ఆపరేషన్‌గా నిర్వహిస్తుంది, పెద్ద డేటాసెట్‌లను (వేలు నుండి మిలియన్ల సంఖ్య వరకు) ఇంపోర్ట్ లేదా ఎక్స్‌పోర్ట్ చేయడానికి దీనిని ఉత్తమ ఎంపికగా చేస్తుంది.

COPY ఎందుకు చాలా వేగవంతమైనది అని అర్థం చేసుకోవడం (బల్క్ ఆపరేషన్ vs ప్రతి-వరుస ఓవర్‌హెడ్) ఎప్పుడు దీనిని ఉపయోగించాలో (పెద్ద డేటా) విపరీతమైన INSERTs (చిన్న/వ్యక్తిగత వరుసలు) తో స్పష్టం చేస్తుంది.

**`COPY`** (సర్వర్-సైడ్ SQL కమాండ్, ఫైల్ యాక్సెస్/సూచనలు అవసరం) మరియు **`\ copy`** (psql క్లయింట్-సైడ్ కమాండ్, ఉత్తమ సూచనలు లేవు — మీ యంత్రం నుండి రిమోట్ డేటాబేస్‌కు వ్యతిరేకంగా పనిచేస్తుంది) మధ్య ఆచరణాత్మక వ్యత్యాసాన్ని తెలుసుకోవడం విభిన్న సందర్భాలలో దీనిని ఉపయోగించడానికి ముఖ్యమైనది.

**బల్క్-లోడింగ్ చిట్కాలు** (INSERTs కంటే COPY ఉపయోగించడం, భారీ లోడ్‌ల చుట్టూ సూచికలను డ్రాప్ చేయడం/పున:సృష్టించడం ఎందుకంటే ఒకసారి సూచికను నిర్మించడం ప్రతి-వరుస దానిని నిర్వహించడం కంటే ఉత్తమం, లావాదేవీలో లోడ్ చేయడం) పెద్ద ఇంపోర్ట్‌ల కోసం విలువైన అనుకూలీకరణ జ్ఞానం.

బల్క్ డేటా ఆపరేషన్‌లు (మైగ్రేషన్‌లు, ఇంపోర్ట్‌లు, ఎక్స్‌పోర్ట్‌లు, ETL) సాధారణమైనవి, మరియు COPY PostgreSQL లో బల్క్ డేటాను నిర్వహించడానికి ప్రామాణిక, అధిక-పనితీరు మార్గం (పెద్ద డేటా కోసం INSERTs కంటే విస్తృతంగా పెరిగిందని), COPY ను అర్థం చేసుకోవడం — దాని పనితీరు ప్రయోజనం, COPY vs \copy వ్యత్యాసం, మరియు బల్క్-లోడింగ్ ఉత్తమ అభ్యాసాలు — Postgres లోకి మరియు బయటకు పెద్ద డేటాసెట్‌లను సమర్థవంతంగా తరలించడానికి విలువైన, ఆచరణాత్మకంగా సంబంధితమైన జ్ఞానం, ఇక్కడ సరైన సాధనం (COPY) ఉపయోగించడం ఒక ప్రధాన తేడా చేస్తుంది.