Latency (Độ trễ)

Khoảng thời gian chờ từ lúc gửi yêu cầu đến khi nhận được phản hồi. Đo bằng mili-giây (ms) - con số càng nhỏ càng nhanh.

Ví dụ đời thường: gửi bưu phẩm Hà Nội → TP.HCM, thời gian từ lúc gửi đến khi người nhận nhận được chính là “độ trễ” của việc vận chuyển.

Ảnh hưởng và cách giảm

Latency ảnh hưởng trực tiếp tới trải nghiệm người dùng - web phản hồi chậm làm người dùng rời đi. Cách giảm:

• Tối ưu đường truyền
• Đặt máy chủ gần người dùng (CDN)
• Cải thiện tốc độ xử lý (Cache)

Quan hệ với Throughput

Latency (tốc độ một yêu cầu) và Throughput (khối lượng yêu cầu/giây) không phải lúc nào cũng tỷ lệ thuận: hệ thống có thể latency thấp nhưng throughput thấp (ít người dùng đồng thời), hoặc throughput cao nhưng latency cao (khi quá tải). Thiết kế tốt cân bằng cả hai.

Liên quan

• Throughput - chỉ số đo song hành
• CDN - đặt nội dung gần người dùng để giảm latency
• Cache - truy xuất nhanh hơn nguồn gốc