Làm thế nào để deploy một app FastAPI lên production?

Question

Accepted Answer

FastAPI là một ứng dụng **ASGI**, nên deployment production dùng một ASGI server — thường là **Uvicorn** (thường được quản lý bởi **Gunicorn** cho nhiều worker), phía sau một reverse proxy như nginx. Container hóa (Docker) là cách tiếp cận hiện đại phổ biến.

## Stack server production

```bash
# ❌ server dev (với --reload) KHÔNG dành cho production
uvicorn main:app --reload

# ✅ production: Gunicorn quản lý nhiều Uvicorn worker (dùng tất cả nhân CPU)
gunicorn main:app -w 4 -k uvicorn.workers.UvicornWorker --bind 0.0.0.0:8000
# -w 4 → 4 tiến trình worker (quy tắc kinh nghiệm: ~2 × nhân CPU)
```

```text
Client → NGINX (reverse proxy: TLS, file tĩnh, cân bằng tải)
           → GUNICORN (quản lý tiến trình) → UVICORN worker (chạy ứng dụng ASGI)
Nhiều worker cho phép FastAPI dùng nhiều nhân CPU (mỗi worker = một tiến trình).
```

## Container hóa app (phổ biến)

```dockerfile
FROM python:3.12-slim
WORKDIR /app
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY . .
CMD ["gunicorn", "main:app", "-w", "4", "-k", "uvicorn.workers.UvicornWorker", "--bind", "0.0.0.0:8000"]
```

Một container đóng gói app và các dependency của nó để deployment nhất quán trên các môi trường (rồi chạy trên Kubernetes, ECS, hoặc một PaaS như Railway/Render/Fly).

## Danh sách kiểm tra production

```text
1. Cấu hình & secret qua biến môi trường (không trong code); validate tại khởi động
2. Nhiều worker (Gunicorn + Uvicorn worker) để tận dụng CPU
3. HTTPS/TLS (tại nginx hoặc nền tảng/load balancer)
4. Một database thực (PostgreSQL) + connection pooling; chạy migration (Alembic)
5. CORS cấu hình thành một allowlist (không phải "*") cho browser client
6. Logging + giám sát lỗi (Sentry) + một endpoint health-check
7. Một dịch vụ worker riêng (Celery/ARQ) + broker (Redis) cho background job
8. Mở rộng theo chiều ngang: nhiều instance sau một load balancer — giữ app STATELESS
   (session/trạng thái trong Redis, không trong bộ nhớ tiến trình)
```

## Async và tính stateless

```text
✓ Mỗi worker chạy event loop riêng → worker cho song song, async cho đồng thời
✓ Giữ app STATELESS để bạn có thể chạy nhiều instance sau một load balancer
```

## Tại sao điều này quan trọng

Deploy FastAPI đúng đắn thiết yếu để đưa ứng dụng lên production, và nó liên quan các cân nhắc quan trọng đặc thù cho bản chất **ASGI** của nó vốn khác với thiết lập phát triển.

Hiểu stack server production là nền tảng: server phát triển (`uvicorn --reload`) không dành cho production, nên bạn chạy app qua một ASGI server — **Uvicorn worker được quản lý bởi Gunicorn** cho nhiều tiến trình (tận dụng tất cả nhân CPU, vì mỗi worker chạy event loop riêng), thường phía sau nginx cho TLS và cân bằng tải. **Container hóa (Docker)** là cách tiếp cận hiện đại phổ biến cho deployment nhất quán, di động.

Ngoài thiết lập server, danh sách kiểm tra production bao quát các mối quan tâm then chốt về bảo mật và độ tin cậy: cấu hình và secret qua biến môi trường (không bao giờ trong code), HTTPS, một database thực với migration và pooling, CORS đúng đắn, logging và giám sát, dịch vụ worker riêng cho background job, và — để mở rộng — chạy **nhiều instance stateless** sau một load balancer (giữ trạng thái trong Redis, không trong bộ nhớ tiến trình).

Biết cách deploy FastAPI với đúng stack ASGI server, container hóa, nhiều worker, và hardening production là kiến thức cấp senior quan trọng, vì mọi ứng dụng FastAPI thực phải được deploy đúng đắn để hiệu năng, an toàn và mở rộng được — biến đây thành một chủ đề thường liên quan, thiết yếu về mặt chuyên môn để ship API production.