Was sind Streams in Node.js und wann solltest du sie verwenden?

Question

Accepted Answer

**Streams** verarbeiten Daten **inkrementell, in Chunks**, anstatt sie vollständig in den Speicher zu laden. Dies macht sie unverzichtbar für große Datenmengen (große Dateien, Netzwerkübertragungen), bei denen alles zu puffern den Speicher erschöpfen würde.

## Das Problem, das Streams lösen

```js
// ❌ loads the ENTIRE file into memory — crashes on a 10GB file
const data = await fs.promises.readFile("huge.csv");
process(data);

// ✅ stream it — constant memory, processes chunk by chunk
fs.createReadStream("huge.csv")
  .pipe(transform)
  .pipe(fs.createWriteStream("out.csv"));
```

Mit Streams bleibt die Speichernutzung unabhängig von der Dateigröße konstant — du verarbeitest jeweils einen Chunk.

## Die vier Stream-Typen

```text
Readable  → source you read FROM (fs.createReadStream, http request)
Writable  → destination you write TO (fs.createWriteStream, http response)
Duplex    → both readable & writable (TCP socket)
Transform → modify data as it passes through (zlib gzip, encryption)
```

## pipe — Streams verbinden

```js
import { createReadStream, createWriteStream } from "fs";
import { createGzip } from "zlib";

// read → compress → write, all streaming, low memory
createReadStream("file.txt")
  .pipe(createGzip())            // Transform: compress on the fly
  .pipe(createWriteStream("file.txt.gz"));
```

`pipe` verbindet ein readable mit einem writable (mit Transforms dazwischen) und verwaltet den Datenfluss automatisch — die idiomatische Art, Streams zu komponieren.

## pipeline — pipe mit ordnungsgemäßer Fehlerbehandlung

```js
import { pipeline } from "stream/promises";

await pipeline(
  createReadStream("in.txt"),
  createGzip(),
  createWriteStream("out.gz")
); // ✅ cleans up all streams on error/completion (pipe alone leaks on errors)
```

`pipeline` wird verketteten `.pipe()`-Aufrufen vorgezogen, da es Fehler weitergeleitet und jeden Stream ordnungsgemäß bereinigt.

## Wo Streams vorkommen

```text
✓ HTTP request/response bodies (req and res ARE streams)
✓ File reading/writing, file uploads/downloads
✓ Compression (zlib), encryption (crypto)
✓ Database cursors, large query results
✓ Real-time data processing, video streaming
```

## Wann du dir keine Mühe geben solltest

```text
Small data that fits comfortably in memory → readFile/simple buffering is simpler.
Streams add complexity; use them for LARGE or continuous data.
```

## Warum es wichtig ist

Streams sind ein charakteristisches Node-Feature für die **speichereffiziente** Verarbeitung großer oder kontinuierlicher Daten — der Unterschied zwischen einer App, die bei einem großen Upload abstürzt, und einer, die jede Größe mit konstanter Speichernutzung bewältigt.

Das Verständnis der vier Typen, der `pipe`/`pipeline`-Komposition (und warum `pipeline` sicherer ist), und dass HTTP-Requests/Responses selbst Streams sind, ist notwendig für die Erstellung skalierbarer Dateiverarbeitungs-, Datenverarbeitungs- und Proxy-Services in Node.