Wat zijn streams in Node.js en wanneer moet je ze gebruiken?

Question

Accepted Answer

**Streams** verwerken gegevens **incrementeel, in chunks**, in plaats van alles tegelijk in het geheugen te laden. Dit maakt ze essentieel voor grote gegevens (grote bestanden, netwerkoverdrachtingen) waar het bufferen van alles het geheugen zou uitputten.

## Het probleem dat streams oplossen

```js
// ❌ loads the ENTIRE file into memory — crashes on a 10GB file
const data = await fs.promises.readFile("huge.csv");
process(data);

// ✅ stream it — constant memory, processes chunk by chunk
fs.createReadStream("huge.csv")
  .pipe(transform)
  .pipe(fs.createWriteStream("out.csv"));
```

Met streams blijft het geheugengebruik vlak ongeacht de bestandsgrootte — je verwerkt één chunk tegelijk.

## De vier stream-types

```text
Readable  → source you read FROM (fs.createReadStream, http request)
Writable  → destination you write TO (fs.createWriteStream, http response)
Duplex    → both readable & writable (TCP socket)
Transform → modify data as it passes through (zlib gzip, encryption)
```

## pipe — streams verbinden

```js
import { createReadStream, createWriteStream } from "fs";
import { createGzip } from "zlib";

// read → compress → write, all streaming, low memory
createReadStream("file.txt")
  .pipe(createGzip())            // Transform: compress on the fly
  .pipe(createWriteStream("file.txt.gz"));
```

`pipe` verbindt een readable met een writable (met transforms ertussen), beheert automatisch de flow — de idiomatische manier om streams samen te stellen.

## pipeline — pipe met goed foutafhandeling

```js
import { pipeline } from "stream/promises";

await pipeline(
  createReadStream("in.txt"),
  createGzip(),
  createWriteStream("out.gz")
); // ✅ cleans up all streams on error/completion (pipe alone leaks on errors)
```

`pipeline` heeft de voorkeur boven gekoppelde `.pipe()` omdat het fouten verspreidt en elke stream goed schoonmaakt.

## Waar streams verschijnen

```text
✓ HTTP request/response bodies (req and res ARE streams)
✓ File reading/writing, file uploads/downloads
✓ Compression (zlib), encryption (crypto)
✓ Database cursors, large query results
✓ Real-time data processing, video streaming
```

## Wanneer je er niet mee bezig hoeft te zijn

```text
Small data that fits comfortably in memory → readFile/simple buffering is simpler.
Streams add complexity; use them for LARGE or continuous data.
```

## Waarom het belangrijk is

Streams zijn een definiërend Node-kenmerk voor **geheugenefficiënte** verwerking van grote of continue gegevens — het verschil tussen een app die crasht bij een groot upload en één die elke grootte verwerkt met vlak geheugengebruik.

Inzicht in de vier types, `pipe`/`pipeline`-samenstelling (en waarom `pipeline` veiliger is) en het feit dat HTTP-requests/-responses zelf streams zijn, is essentieel voor het bouwen van schaalbare bestandsafhandeling, gegevensverwerking en proxydiensten in Node.