COPY ஐப் பயன்படுத்தி தரவை திறமையாக பல அளவில் ஏற்றுவது எப்படி?

Question

IT Interview Practice · Accepted Answer

**`COPY`** என்பது PostgreSQL இன் **தரவை பல அளவில் ஏற்றுதல் மற்றும் ஏற்றுமதி** செய்வதற்கான உচ்च-செயல்திறன் கட்டளை — கோப்பு (அல்லது stream) மற்றும் அட்டவணை இடையே பெரும் அளவிலான தரவை நகர்த்துவது, தனிப்பட்ட `INSERT` அறிக்கைகளை விட மிகவும் வேகமாக. இது பெரிய தரவுசெட்டுக்களை இறக்குமதி/ஏற்றுமதி செய்வதற்கான நிலையான கருவி.

## COPY வெளியேற்றுவதற்கான வேகமான பல அளவு ஏற்றுதல்

```sql
-- load data from a CSV file into a table (server-side; needs file access + privileges)
COPY users (name, email, age) FROM '/path/data.csv' WITH (FORMAT csv, HEADER true);

-- export a table to a CSV file
COPY users TO '/path/export.csv' WITH (FORMAT csv, HEADER true);

-- from psql (client-side — works without server file access): use \copy
\copy users FROM 'data.csv' WITH (FORMAT csv, HEADER true)
```

`COPY` முழு கோப்பை ஒரு செயல்பாட்டில் படிக்கிறது/எழுதுகிறது — ஆயிரமாயிரம் தனிப்பட்ட INSERTs ஐ இயக்குவதை விட நாটகীয়ভাবে வேகமாக.

## COPY INSERT விட மிகவும் வேகமாக இருப்பது ஏன்

```text
❌ thousands of individual INSERTs:
   each is a separate statement → per-statement overhead, possibly per-row transactions,
   network round-trips → SLOW for large data (can be 10-100x slower)

✅ COPY:
   one bulk operation, minimal overhead, optimized data path → FAST
→ For loading large datasets, COPY is the go-to; INSERTs are for small/individual rows.
```

## COPY vs \copy (சேவையகத்தை-பக்கம் vs க்ளையன்ட்-பக்கம்)

```text
COPY (SQL command) → reads/writes files on the SERVER, needs superuser/file privileges
\copy (psql command) → reads/writes files on the CLIENT, no special privileges
→ Use \copy when running from your machine against a remote database.
```

## பெரிய தரவுசெட்டுக்களை ஏற்றுவதற்கான குறிப்புக்கள்

```text
✓ Use COPY (not INSERTs) for large data
✓ Consider dropping/disabling indexes and constraints during a huge load, then
  recreating them after (building an index once is faster than maintaining it per-row)
✓ Load within a single transaction; increase maintenance_work_mem for index rebuilds
✓ For programmatic bulk inserts, use multi-row INSERT or the driver's COPY support
```

## இது ஏன் முக்கியம்

`COPY` என்பது **திறமையான பல அளவு தரவு ஏற்றுதல் மற்றும் ஏற்றுமதியின்** அপরिहार்য PostgreSQL கருவி, மற்றும் இது புரிந்துகொள்வது பெரிய தரவுசெட்டுக்கள் জடிந்துள்ள எந்தவொரு சூழ்நிலையிலும் மதிப்புள்ளது — தரவு மாற்றங்கள், ETL, இறக்குமதி/ஏற்றுமதிகள், விதை விதைக்கும் மற்றும் பிளாட்ஃபார்ம், இவை பொதுவான நிஜ-உலக தேவைகள்.

சாவியான மதிப்பு **செயல்திறன்**: தனிப்பட்ட `INSERT` அறிக்கைகளுடன் பெரும் அளவிலான தரவை ஏற்றுவது நாடகীயமாக மெதுவாக உள்ளது (per-statement overhead, round-trips — சாத்தியமாக 10-100x மெதுவாக), `COPY` ஒரு பெரிய பல অپטிமைஸ் செயல்பாடு செயல்படுத்துகிறது, இது பெரிய தரவுசெட்டுக்களை (ஆயிரம் முதல் மில்லியன் வரிசைகள்) இறக்குமதி அல்லது ஏற்றுமதி செய்வதற்கான go-to ஆக்குகிறது.

COPY ஏன் மிகவும் வேகமாக உள்ளது என்பதைப் புரிந்துகொள்ளுதல் (பல செயல்பாடு vs per-row overhead) அதை எப்போது பெற வேண்டும் என்பதை தெளிவுபடுத்துகிறது (பெரிய தரவு) vs INSERT கள் (சிறிய/தனிப்பட்ட வரிசைகள்).

**`COPY`** (சேவையக-பக்கம் SQL கட்டளை, கோப்பு அணுகல்/சலுகைகள் தேவை) மற்றும் **`\copy`** (psql க்ளையன்ட்-பக்கம் கட்டளை, சிறப்பு சலுகைகள் தேவையில்லை — உங்கள் இயந்திரத்திலிருந்து தொலைதூர தரவுசெட்டுக்களுக்கு எதிராக வேலை செய்கிறது) ஆகியவற்றுக்கு இடையே உள்ள நடைமுறை வேறுபாட்டை அறிந்துகொள்வது வெவ்வேறு சூழ்நிலைகளில் அதைப் பயன்படுத்துவதற்கு முக்கியமாக உள்ளது.

**பல அளவு-ஏற்றுதல் குறிப்புக்கள்** (INSERT க்களுக்கு மேல் COPY ஐ பயன்படுத்துதல், பிগ் லோடுகளைச் சுற்றி குறியீডுகளை பதிவு நீக்கம்/மீறுருவாக்கம் என்பதால் একবার ஒரு குறியீடு கட்டுதல் per-row அதை பராமரிக்க முன் வைக்கிறது, ஒரு பரிவர்த்தনையில் ஏற்றுதல்) பெரிய இறக்குமதிகளுக்கான மதிப்புள்ள மேலுபצרி அறிவாக உள்ளது.

பல அளவு தரவு செயல்பாடுகள் (மாற்றங்கள், இறக்குமதிகள், ஏற்றுமதிகள், ETL) பொதுவாக உள்ளன, மற்றும் COPY என்பது PostgreSQL இல் அவற்றைக் கையாள்ள நிலையான, உচ்च-செயல்திறன் வழி (INSERT கள் விட பெரிய தரவுக்கு பெரிதும் இருந்து மிஞ்சிய) ஆக இருப்பதால், COPY ஐ புரிந்துகொள்ளுதல் — அதன் செயல்திறன் நன்மை, COPY vs \copy வேறுபாடு, மற்றும் பல-ஏற்றுதல் சிறந்த நடைமுறைகள் — மதிப்புள்ள, நடைமுறை-பொருந்தக்கூடிய அறிவாக உள்ளது Postgres இல் பெரிய தரவுசெட்டுக்களை உள்ளே மற்றும் வெளிதொட்டு திறமையாக நகர்த்துவதற்கு, அடிக்கடி செயல்பாட்ட தேவை இதில் சரியான கருவியைப் பயன்படுத்துதல் (COPY) முக்கிய வேறுபாடு ஏற்படுத்துகிறது.

COPY வெளியேற்றுவதற்கான வேகமான பல அளவு ஏற்றுதல்

COPY INSERT விட மிகவும் வேகமாக இருப்பது ஏன்

COPY vs \copy (சேவையகத்தை-பக்கம் vs க்ளையன்ட்-பக்கம்)

பெரிய தரவுசெட்டுக்களை ஏற்றுவதற்கான குறிப்புக்கள்

இது ஏன் முக்கியம்

தொடர்புடைய கேள்விகள்