Cloudflare ra mắt Spend Management: giới hạn chi tiêu và cảnh báo cho nền tảng đám mây

Cloudflare vừa giới thiệu Spend Management ở dạng Beta, dành cho mọi khách hàng trả theo mức sử dụng (PayGo), bắt đầu với hai sản phẩm Workers và Durable Objects. Đây là tính năng được các nhà phát triển trên nền tảng này yêu cầu nhiều nhất từ lâu, trong bối cảnh Cloudflare đã có hơn 10 triệu nhà phát triển xây dựng ứng dụng. Trước đây nền tảng chỉ có thông báo sử dụng và cảnh báo ngân sách cho gói trả phí, nhưng thông báo không đồng nghĩa với kiểm soát.

Cách hoạt động

Người dùng có thể bật Spend Management qua dashboard, CLI (cf) hoặc REST API. Trong dashboard, vào Manage Account > Billing > Spend limits rồi bật sản phẩm muốn kiểm soát. Khi bật, có thể đặt hạn mức chi tiêu, chỉ định email nhận thông báo và thiết lập một hoặc nhiều ngưỡng cảnh báo. Khi chi tiêu đạt ngưỡng hoặc hạn mức, Cloudflare gửi thông báo; khi chạm hạn mức, chính sách chặn được áp dụng và sản phẩm tự động bị tạm dừng.

Dashboard hiển thị chi phí chu kỳ thanh toán hiện tại gần thời gian thực (dưới 10 phút) và có nhật ký kiểm tra để biết ai đã thay đổi hạn mức, khi nào, hoặc thời điểm chạm giới hạn. Lưu ý chu kỳ thanh toán tính từ khi bắt đầu gói trả phí, không phải theo tháng dương lịch.

Ví dụ gọi API tạo chính sách chi tiêu:

• Gửi POST tới endpoint /accounts/{ACCOUNT_ID}/billing/spend-policies
• Khai báo tên, product_id, trạng thái bật, threshold_cents, hành động usage_block và email nhận thông báo

Có thể dùng lệnh cf như billing spend-policies create, list, get, update, delete, audit list, activity list.

Khi chạm hạn mức

Khi giới hạn được áp dụng, các lần gọi mới của sản phẩm bị từ chối. Cloudflare chỉ tạm dừng các lần gọi mã khách hàng có phát sinh chi phí; với Workers, Cron Triggers và Queue consumer bị tạm dừng nhưng tài nguyên tĩnh vẫn được phục vụ. Để khôi phục dịch vụ, có thể nâng hạn mức cao hơn mức chi tiêu tích lũy hiện tại, tắt hoặc xóa chính sách chặn, hoặc chờ chu kỳ thanh toán tiếp theo khi lệnh chặn hết hiệu lực.

Kiến trúc phía sau

Việc xây dựng hệ thống này ở quy mô Cloudflare là bài toán phức tạp, đòi hỏi phối hợp nhiều nhóm và tạo hệ thống mới. Dữ liệu đo lường được thu thập và tổng hợp gần nguồn qua pipeline hai giai đoạn: giai đoạn đầu gộp sự kiện thô theo cửa sổ khoảng một phút, giai đoạn sau hợp nhất các tổng hợp một phần theo cửa sổ khoảng năm phút trước khi chuyển tiếp, đồng thời lưu trữ để phân tích và đối soát sau này.

Usage Engine chuyển số đo tổng hợp thành bản ghi sử dụng chuẩn hóa, xử lý phân vùng theo tài khoản để thông tin sử dụng và gói đăng ký gặp nhau tại một chỗ, duy trì trạng thái cục bộ và nhật ký ghi trước (WAL) trên đĩa. Cách này giảm phối hợp giữa các phân vùng, đảm bảo tính nhất quán về giá, cho phép xử lý song song và có thể phục hồi sau sự cố.

Rating Engine là khối quan trọng nhất: kết hợp bản ghi sử dụng, thông tin gói đăng ký và quy tắc giá để tính số tiền đã chi. Dữ liệu sử dụng và gói đăng ký đến theo luồng độc lập nên có thể không đúng thứ tự; nếu dữ liệu sử dụng đến trước thông tin cần để tính giá, hệ thống giữ ở trạng thái chờ và xử lý lại khi có đủ thông tin. Engine áp dụng hạn mức miễn phí đi kèm trước, sau đó mới tính giá phần vượt, và tính trên mức sử dụng tích lũy thay vì làm tròn từng yêu cầu riêng lẻ.

Thực thi bất đồng bộ

Rating Engine không nằm trên đường đi của yêu cầu và không trực tiếp từ chối. Dịch vụ chính sách gửi giới hạn tới dịch vụ cấu hình runtime và Quicksilver, kho lưu trữ khóa-giá trị nội bộ giúp sao chép toàn cầu nhanh, rồi lan truyền bất đồng bộ tới các node. Runtime nhận giới hạn trong lần làm mới định kỳ và bắt đầu từ chối các lần gọi bị chặn, nhờ đó yêu cầu không phải chờ Rating Engine.

Kế hoạch tiếp theo

Cloudflare cho biết sẽ mở rộng đo lường và đặt giới hạn cho nhiều sản phẩm khác, rút ngắn độ trễ từ mức dưới 10 phút xuống có thể dưới một phút, và hướng tới ngân sách theo ứng dụng hoặc theo AI agent. Với AI agent, mục tiêu là kiểm soát chi phí khi agent rơi vào vòng lặp suy luận đệ quy gây tốn kém hoặc gây quá tải dịch vụ; AI Gateway đã hỗ trợ ngân sách cho yêu cầu AI đi qua nó, và Cloudflare muốn mở rộng cho cả tài nguyên tính toán, cơ sở dữ liệu và lưu trữ.

Nguồn: Cloudflare Blog