Czym są streams w Node.js i kiedy ich używać?

Question

Accepted Answer

**Streams** przetwarzają dane **przyrostowo, w kawałkach**, zamiast ładować wszystko do pamięci na raz. To czyni je niezbędnymi w przypadku dużych danych (duże pliki, transfery sieciowe), gdzie buforowanie wszystkiego wyczerpałoby pamięć.

## Problem, który rozwiązują streams

```js
// ❌ loads the ENTIRE file into memory — crashes on a 10GB file
const data = await fs.promises.readFile("huge.csv");
process(data);

// ✅ stream it — constant memory, processes chunk by chunk
fs.createReadStream("huge.csv")
  .pipe(transform)
  .pipe(fs.createWriteStream("out.csv"));
```

Ze streamami użycie pamięci pozostaje stałe niezależnie od rozmiaru pliku — obsługujesz jeden kawałek na raz.

## Cztery typy streams

```text
Readable  → source you read FROM (fs.createReadStream, http request)
Writable  → destination you write TO (fs.createWriteStream, http response)
Duplex    → both readable & writable (TCP socket)
Transform → modify data as it passes through (zlib gzip, encryption)
```

## pipe — łączenie streams

```js
import { createReadStream, createWriteStream } from "fs";
import { createGzip } from "zlib";

// read → compress → write, all streaming, low memory
createReadStream("file.txt")
  .pipe(createGzip())            // Transform: compress on the fly
  .pipe(createWriteStream("file.txt.gz"));
```

`pipe` łączy readable ze writable (z transformami pośrodku), automatycznie zarządzając przepływem — idiomatyczny sposób komponowania streams.

## pipeline — pipe z prawidłową obsługą błędów

```js
import { pipeline } from "stream/promises";

await pipeline(
  createReadStream("in.txt"),
  createGzip(),
  createWriteStream("out.gz")
); // ✅ cleans up all streams on error/completion (pipe alone leaks on errors)
```

`pipeline` jest preferowany nad łańcuchowym `.pipe()`, ponieważ propaguje błędy i prawidłowo czyści każdy stream.

## Gdzie pojawiają się streams

```text
✓ HTTP request/response bodies (req and res ARE streams)
✓ File reading/writing, file uploads/downloads
✓ Compression (zlib), encryption (crypto)
✓ Database cursors, large query results
✓ Real-time data processing, video streaming
```

## Kiedy ich nie używać

```text
Small data that fits comfortably in memory → readFile/simple buffering is simpler.
Streams add complexity; use them for LARGE or continuous data.
```

## Dlaczego to ważne

Streams są definiującą cechą Node.js dla **pamięciowo-efektywnego** przetwarzania dużych lub ciągłych danych — różnica między aplikacją, która pada na dużym uplocie, a tą, która obsługuje dowolny rozmiar ze stałym użyciem pamięci.

Zrozumienie czterech typów, kompozycji `pipe`/`pipeline` (i dlaczego `pipeline` jest bezpieczniejszy) oraz że żądania/odpowiedzi HTTP są same w sobie streamami, jest niezbędne do budowania skalowalnych usług obsługi plików, przetwarzania danych i proxy w Node.