System Design: Thiết kế hệ thống lớn

Khi performance bắt đầu giảm, mọi người thường chạy vào caching — Redis, Memcached, application-level cache. Và nó thực sự hoạt động... cho đến khi nó không.

Cache invalidation được xưng là "two hardest problems in computer science" cùng với naming và off-by-one errors. Khi bạn cache dữ liệu, bạn đang làm tradeoff: tốc độ vs tính chính xác.

Một e-commerce startup Việt cache tất cả sản phẩm vào Redis với TTL 1 giờ. Thực tế là: quản lý hàng kho thay đổi liên tục, và người ta nhìn thấy sản phẩm đã hết hàng vẫn có thể mua. Khách hàng phàn nàn, họ lo sốt vó, rồi nhận ra vấn đề. Giải pháp cuối cùng? Cache với TTL 30 giây — nhưng lúc đó Redis usage tăng lên 3x, cost tăng, nhưng ít nhất vấn đề hết.

Database: nó là bottleneck thực sự

Mọi người hay focus vào code optimization, API gateway, load balancing. Nhưng ở tỉ lệ lớn, database là nơi mà query một trăm triệu rows với JOIN phức tạp sẽ đốt cháy hết CPU.

Có ba hướng đi: 1. Vertical scaling: Mua server mạnh hơn (đắt, có giới hạn) 2. Read replicas: Tách read và write, replicate dữ liệu để query từ replicas 3. Sharding: Chia dữ liệu thành nhiều instance nhỏ

Nhưng sharding? Nó là quỷ. Bây giờ query của bạn cần hit 10 shards, aggregate kết quả, handle sai sót. Nếu bạn không thực sự cần, hãy tránh.

Số liệu thực tế

Theo report từ AWS (2024), trung bình 35% downtime của startups được đặt lên là do database overload. Điều đó có thể tránh được 80% nếu được thiết kế tốt từ đầu. Optimize sau khi sự cố xảy ra sẽ tốn gấp 5-10x chi phí so với thiết kế tốt từ lúc bắt đầu.

Điều duy nhất chắc chắn

Lập kế hoạch cho asynchronous processing. Việc gì không cần trả lời lập tức, hãy bỏ vào message queue — RabbitMQ, Kafka, AWS SQS. Nó giải quyết đủ 60% performance problems.

Đừng block user waiting cho email, notification, log processing, hay heavy computation. Fire and forget với queue, xử lý ở background. PostgreSQL + Bull queue (Node.js) hoặc Celery (Python) sẽ cover 95% use case của bạn.

---

System design tốt không phải là về có nhiều công nghệ hoe nhất hoặc kiến trúc phức tạp nhất. Nó là về lựa chọn phù hợp cho bài toán của bạn, hiểu được tradeoff, và biết khi nào nên scale.

Nếu project của bạn đang phát triển, có một team hiểu rõ codebase và hệ thống của bạn, đó là khi Idflow Technology có thể giúp đẩy nhanh quá trình này qua automation và best practices.