Что такое потоки в Node.js и когда их использовать?

Question

Accepted Answer

**Потоки** обрабатывают данные **постепенно, порциями**, а не загружают всё в память сразу. Это делает их необходимыми для больших данных (большие файлы, сетевые передачи), где буферизация всего исчерпала бы память.

## Проблема, которую решают потоки

```js
// ❌ loads the ENTIRE file into memory — crashes on a 10GB file
const data = await fs.promises.readFile("huge.csv");
process(data);

// ✅ stream it — constant memory, processes chunk by chunk
fs.createReadStream("huge.csv")
  .pipe(transform)
  .pipe(fs.createWriteStream("out.csv"));
```

С потоками использование памяти остаётся постоянным независимо от размера файла — вы обрабатываете одну порцию за раз.

## Четыре типа потоков

```text
Readable  → source you read FROM (fs.createReadStream, http request)
Writable  → destination you write TO (fs.createWriteStream, http response)
Duplex    → both readable & writable (TCP socket)
Transform → modify data as it passes through (zlib gzip, encryption)
```

## pipe — подключение потоков

```js
import { createReadStream, createWriteStream } from "fs";
import { createGzip } from "zlib";

// read → compress → write, all streaming, low memory
createReadStream("file.txt")
  .pipe(createGzip())            // Transform: compress on the fly
  .pipe(createWriteStream("file.txt.gz"));
```

`pipe` подключает readable к writable (с преобразованиями посередине), автоматически управляя потоком — идиоматичный способ компоноват потоки.

## pipeline — pipe с правильной обработкой ошибок

```js
import { pipeline } from "stream/promises";

await pipeline(
  createReadStream("in.txt"),
  createGzip(),
  createWriteStream("out.gz")
); // ✅ cleans up all streams on error/completion (pipe alone leaks on errors)
```

`pipeline` предпочтительнее цепочки `.pipe()`, потому что распространяет ошибки и правильно очищает каждый поток.

## Где появляются потоки

```text
✓ HTTP request/response bodies (req and res ARE streams)
✓ File reading/writing, file uploads/downloads
✓ Compression (zlib), encryption (crypto)
✓ Database cursors, large query results
✓ Real-time data processing, video streaming
```

## Когда НЕ стоит заморачиваться

```text
Small data that fits comfortably in memory → readFile/simple buffering is simpler.
Streams add complexity; use them for LARGE or continuous data.
```

## Почему это важно

Потоки — определяющая особенность Node.js для **эффективной по памяти** обработки больших или непрерывных данных — разница между приложением, которое падает при большой загрузке, и тем, которое обрабатывает любой размер с постоянным использованием памяти.

Понимание четырёх типов, композиции `pipe`/`pipeline` (и почему `pipeline` безопаснее) и того, что HTTP-запросы и ответы сами по себе являются потоками, необходимо для построения масштабируемых сервисов обработки файлов, обработки данных и прокси в Node.