Khi app FastAPI của bạn cần gọi sang một API khác — lấy tỉ giá, gửi webhook, tra cứu dữ liệu — bạn cần một HTTP client. Cách gọn nhất là tạo một httpx.AsyncClient duy nhất lúc app khởi động, cất vào app.state, rồi mọi endpoint dùng chung client đó qua request.app.state. Client dùng chung tái sử dụng connection pool, không mở kết nối mới mỗi request, và được đóng gọn gàng khi app tắt.

Vấn đề

Mẫu code nhiều người viết đầu tiên là tạo client ngay trong endpoint:

from fastapi import FastAPI
import httpx
app = FastAPI()
@app.get("/weather")
async def weather():
async with httpx.AsyncClient(timeout=10.0) as client:
resp = await client.get("https://api.example.com/weather")
return resp.json()

Mỗi request tạo một client mới, mở kết nối TCP mới, bắt tay TLS mới rồi đóng ngay khi xong. Với vài request thì không sao, nhưng khi traffic tăng, app vừa chậm vừa tốn tài nguyên: mỗi lần gọi API ngoài lại trả thêm chi phí kết nối, và gọi dồn dập có thể cạn cổng kết nối. Biến global ở cấp module cũng không khá hơn: client được tạo lúc import, khi chưa có event loop chạy, dễ bám nhầm loop, và test khó thay thế bằng client giả.

Giải pháp

lifespan là nơi duy nhất app được khởi tạo tài nguyên đúng vòng đời của nó. Tạo client trong lifespan, gán vào app.state.client, đóng trong khối finally:

from contextlib import asynccontextmanager
from fastapi import Depends, FastAPI, Request
import httpx
@asynccontextmanager
async def lifespan(app: FastAPI):
app.state.client = httpx.AsyncClient(timeout=10.0)
yield
await app.state.client.aclose()
app = FastAPI(lifespan=lifespan)
def get_client(request: Request) -> httpx.AsyncClient:
return request.app.state.client
@app.get("/weather")
async def weather(client: httpx.AsyncClient = Depends(get_client)):
resp = await client.get("https://api.example.com/weather")
return resp.json()

Endpoint lấy client qua dependency get_client, vừa gọn vừa dễ test: trong test chỉ cần override dependency này là chèn được client giả, không phải chạm vào code thật. Bạn cũng có thể đọc trực tiếp request.app.state.client trong endpoint nếu không muốn thêm dependency.

Lưu ý ranh giới quan trọng: app.state chỉ chứa thứ dùng chung cả đời app — client HTTP, pool database, cấu hình bất biến. Đừng cất dữ liệu theo request như user đang đăng nhập hay request id vào đó; những thứ đó thuộc về request.state, sống đúng một request rồi biến mất. Một chi tiết nữa khi viết test: TestClient chỉ chạy lifespan khi dùng dạng with, nên test phải viết with TestClient(app) as client: thì app.state.client mới tồn tại.

Áp dụng vào dự án của bạn

Kiểm tra lại app của bạn: chỗ nào đang tạo httpx.AsyncClient hay aiohttp.ClientSession trong endpoint thì chuyển hết về một client duy nhất trong lifespan. Nếu app gọi nhiều API ngoài khác nhau, tạo một client cho mỗi base URL — ví dụ một client cho API thanh toán, một cho API thời tiết — và đặt tên rõ ràng trong app.state. Đo lại thời gian gọi API ngoài trước và sau khi đổi, bạn sẽ thấy phần overhead kết nối biến mất.

Bài viết liên quan

Câu hỏi thường gặp

app.state khác request.state ở điểm nào?

app.state sống suốt đời app, dùng cho tài nguyên dùng chung như HTTP client hay pool database. request.state sống đúng một request, dùng cho dữ liệu theo request như request id hay user đã xác thực.

Có cần tạo client riêng cho mỗi endpoint không?

Không. Một client duy nhất cho mỗi base URL là đủ, vì httpx.AsyncClient an toàn khi dùng đồng thời từ nhiều request. Tạo riêng từng endpoint chỉ làm mất tác dụng của connection pool.

Dùng @app.on_event(“startup”) để tạo client có được không?

Được về mặt kỹ thuật nhưng không nên nữa: on_event đã deprecated trong cả FastAPI và Starlette, và nếu app vừa có lifespan vừa có on_event thì chỉ lifespan chạy, handler on_event bị bỏ qua âm thầm.

Test thì lấy client ở đâu khi lifespan chưa chạy?

Dùng TestClient dạng with để lifespan chạy thật, hoặc override dependency get_client để trả về một client giả. Cách override gọn hơn khi test chỉ cần kiểm tra logic endpoint, không cần gọi API thật.

💬 Bạn đã thử cách này trong dự án của mình chưa? Nếu gặp lỗi hoặc có cách làm gọn hơn, để lại bình luận bên dưới — mình đọc hết và sẽ bổ sung những ý hay vào bài.

Nguồn tham khảo