Cloudflare Agents

Cloudflare Agents là một nền tảng tích hợp, mạnh mẽ được thiết kế để các nhà phát triển xây dựng và vận hành AI có tính tác tử (agentic AI). Không giống như AI tạo sinh truyền thống chỉ đơn giản là phản hồi các lời nhắc, AI có tính tác tử giới thiệu sự tự chủ, lý luận hướng đến mục tiêu và ra quyết định thích ứng. Các tác tử này có thể chủ động lập kế hoạch, lặp lại và tương tác với môi trường và các công cụ bên ngoài để hoàn thành các mục tiêu phức tạp, nhiều bước. Toàn bộ nền tảng được xây dựng trên mạng lưới toàn cầu mạnh mẽ của Cloudflare, cung cấp một giải pháp thống nhất cho toàn bộ vòng đời của tác tử.

Triết lý cốt lõi của Cloudflare Agents là cung cấp một môi trường liền mạch, có thể mở rộng và tiết kiệm chi phí. Nó chia nhỏ quy trình xây dựng một tác tử thành bốn bước logic: nhận đầu vào của người dùng (qua email, trò chuyện hoặc giọng nói), lý luận với một mô hình AI (được lưu trữ trên Workers AI của Cloudflare hoặc thông qua một nhà cung cấp bên ngoài qua AI Gateway), đảm bảo thực thi với trạng thái và tính toán (sử dụng Durable Objects và Workflows), và hành động bằng cách tương tác với các API và công cụ (như Browser Rendering, Vectorize và cơ sở dữ liệu D1).

Cách sử dụng Cloudflare Agents

Phát triển với Cloudflare Agents tuân theo một quy trình làm việc có cấu trúc gồm bốn phần, tất cả được quản lý trong hệ sinh thái Cloudflare:

1. Nhận đầu vào của người dùng: Bắt đầu bằng cách thu thập yêu cầu hoặc dữ liệu của người dùng. Nền tảng hỗ trợ các kênh đầu vào khác nhau, bao gồm email với Email Workers, trò chuyện thời gian thực với WebSockets và Pages, hoặc thậm chí là lệnh thoại qua Cloudflare Calls.
2. Yêu cầu AI lý luận: Tác tử xử lý đầu vào và xác định các bước tiếp theo bằng cách truy vấn một Mô hình Ngôn ngữ Lớn (LLM). Các nhà phát triển có thể chọn chạy các LLM được tối ưu hóa trực tiếp trên GPU không máy chủ của Cloudflare với Workers AI hoặc kết nối an toàn với các mô hình của bên thứ ba như của OpenAI hoặc Anthropic bằng AI Gateway.
3. Đảm bảo thực thi: Để đảm bảo các tác vụ được hoàn thành một cách đáng tin cậy, ngay cả khi chúng chạy trong thời gian dài, Cloudflare Agents kết hợp quản lý trạng thái với tính toán. Durable Objects cung cấp trạng thái bền vững cho tác tử, trong khi Workflows điều phối chuỗi các tác vụ, cho phép thử lại, logic phân nhánh và đánh giá lại dựa trên thông tin mới.
4. Hành động bằng công cụ: Cuối cùng, tác tử thực hiện các hành động để đạt được mục tiêu của mình. Điều này liên quan đến việc sử dụng 'công cụ', là những cách có cấu trúc để gọi API, thao tác dữ liệu hoặc tương tác với các hệ thống. Điều này có thể bao gồm việc kết xuất các trang web để trích xuất dữ liệu, truy vấn cơ sở dữ liệu vector với Vectorize, hoặc đọc/ghi vào cơ sở dữ liệu SQL D1.

Các nhà phát triển sử dụng SDK Cloudflare Agents (được minh họa bằng JavaScript/TypeScript) để xác định hành vi của tác tử, lên lịch tác vụ và quản lý trạng thái một cách có lập trình.

Tính năng chính của Cloudflare Agents

• Nền tảng AI có tính tác tử thống nhất: Tất cả các thành phần cần thiết—từ xử lý đầu vào và suy luận LLM đến quản lý trạng thái và thực thi hành động—đều được tích hợp vào một nền tảng duy nhất.
• Suy luận LLM không máy chủ: Chạy các LLM mã nguồn mở phổ biến trên GPU không máy chủ của Cloudflare với Workers AI, chỉ trả tiền cho những gì bạn sử dụng.
• Trạng thái & Thực thi bền vững: Tận dụng Durable Objects để có trạng thái bền vững và Workflows để điều phối tác vụ đáng tin cậy, chạy trong thời gian dài.
• Mô hình định giá tiết kiệm chi phí: Chỉ trả tiền cho thời gian CPU (tính toán thực tế), không phải thời gian đồng hồ (thời gian chờ/nhàn rỗi), giúp giảm đáng kể chi phí cho các tác vụ tác tử nặng về I/O.
• Chế độ ngủ đông WebSocket: Duy trì các kết nối WebSocket chạy dài để giao tiếp thời gian thực mà không tốn chi phí cho một máy chủ hoạt động liên tục, vì Durable Objects sẽ ngủ đông khi không hoạt động.
• Hệ sinh thái công cụ tích hợp: Kết nối liền mạch các tác tử với các sản phẩm khác của Cloudflare như Vectorize để tìm kiếm ngữ nghĩa, D1 cho dữ liệu SQL và Browser Rendering để thu thập dữ liệu web.
• AI Gateway: Cung cấp một cổng kết nối an toàn, đáng tin cậy và có thể quan sát được để kết nối với các nhà cung cấp LLM của bên thứ ba, cung cấp bộ nhớ đệm, giới hạn tốc độ và phân tích.

Các trường hợp sử dụng Cloudflare Agents

Khả năng của nền tảng cho phép một loạt các ứng dụng phức tạp:

• DevOps tự động & Trợ lý mã: Tạo các tác tử có thể đọc các vấn đề trên GitHub, viết mã để sửa chúng và tự động mở các yêu cầu kéo, như được hiển thị trong các ví dụ của chính nền tảng.
• Tự động hóa hỗ trợ khách hàng thông minh: Xây dựng các chatbot không chỉ trả lời câu hỏi mà còn thực hiện các hành động như xử lý hoàn tiền, cập nhật tài khoản người dùng hoặc leo thang các vấn đề phức tạp với đầy đủ ngữ cảnh.
• Nghiên cứu & Báo cáo tự trị: Triển khai các tác tử có thể duyệt web, thu thập thông tin từ nhiều nguồn, tổng hợp các phát hiện và tạo ra một báo cáo có cấu trúc.
• Tự động hóa quy trình công việc kinh doanh phức tạp: Tự động hóa các quy trình nội bộ như giới thiệu nhân viên mới, xử lý báo cáo chi phí hoặc đánh giá khách hàng tiềm năng bằng cách tích hợp với các API và cơ sở dữ liệu nội bộ khác nhau.

Ưu điểm của Cloudflare Agents

Cloudflare Agents mang lại những lợi thế đáng kể cho các nhà phát triển xây dựng thế hệ ứng dụng AI tiếp theo. Lợi ích chính của nó là hiệu quả kinh tế; mô hình trả tiền theo thời gian CPU hoàn toàn phù hợp với bản chất đột biến, không thể đoán trước của suy luận AI và các quy trình làm việc của tác tử, thường liên quan đến việc chờ đợi các API bên ngoài. Điều này, kết hợp với chế độ ngủ đông WebSocket, dẫn đến tiết kiệm chi phí đáng kể so với các nhà cung cấp đám mây siêu quy mô truyền thống. Hơn nữa, nền tảng thống nhất giúp đơn giản hóa trải nghiệm của nhà phát triển, loại bỏ nhu cầu ghép nối các dịch vụ khác nhau cho trạng thái, tính toán và AI. Điều này giúp tăng tốc độ phát triển và giảm độ phức tạp về kiến trúc, tất cả đều được hưởng lợi từ hiệu suất và bảo mật của mạng lưới toàn cầu của Cloudflare.

Giá cả và gói dịch vụ

Cloudflare Agents hoạt động theo mô hình định giá trả theo mức sử dụng, được tích hợp sâu với giá của các thành phần cơ bản của nó như Cloudflare Workers, Workers AI, Durable Objects và Vectorize. Không có một gói duy nhất cho 'Agents'; thay vào đó, bạn trả tiền cho các tài nguyên bạn tiêu thụ. Nguyên tắc chính là hiệu quả chi phí, nơi người dùng chỉ trả tiền cho các tài nguyên họ chủ động sử dụng. Mô hình này bao gồm:

• Tính toán: Được tính phí dựa trên thời gian CPU, không phải thời gian đồng hồ, điều này rất có lợi cho các tác vụ liên quan đến chờ đợi I/O.
• Suy luận AI: Được tính phí cho mỗi 1.000 nơ-ron khi sử dụng Workers AI.
• Trạng thái & Lưu trữ: Chi phí liên quan đến lưu trữ Durable Objects, sử dụng cơ sở dữ liệu D1 và các chỉ mục Vectorize.

Cách tiếp cận dựa trên mức sử dụng này có nghĩa là không có cam kết trả trước hoặc phần cứng để quản lý. Hệ sinh thái của Cloudflare thường bao gồm một bậc miễn phí hào phóng cho các thành phần của nó, giúp bạn có thể bắt đầu xây dựng và thử nghiệm mà không tốn chi phí. Chi phí sẽ tăng một cách có thể dự đoán được khi mức sử dụng ứng dụng tăng lên.