Cloudflare Agents

Cloudflare Agents는 개발자가 에이전틱 AI를 구축하고 운영할 수 있도록 설계된 강력하고 통합된 플랫폼입니다. 단순히 프롬프트에 응답하는 기존의 생성형 AI와 달리, 에이전틱 AI는 자율성, 목표 지향적 추론 및 적응형 의사 결정을 도입합니다. 이러한 에이전트는 복잡한 다단계 목표를 달성하기 위해 적극적으로 계획하고, 반복하며, 환경 및 외부 도구와 상호 작용할 수 있습니다. 전체 플랫폼은 Cloudflare의 견고한 글로벌 네트워크 위에 구축되어 완전한 에이전트 라이프사이클을 위한 통합 솔루션을 제공합니다.

Cloudflare Agents의 핵심 철학은 원활하고 확장 가능하며 비용 효율적인 환경을 제공하는 것입니다. 에이전트 구축 프로세스를 네 가지 논리적 단계로 나눕니다: 사용자 입력 받기(이메일, 채팅 또는 음성), AI 모델로 추론하기(Cloudflare의 Workers AI에서 호스팅하거나 AI Gateway를 통해 외부 제공업체 이용), 상태와 컴퓨팅으로 실행 보장하기(Durable Objects 및 Workflows 사용), API 및 도구(Browser Rendering, Vectorize, D1 데이터베이스 등)와 상호 작용하여 조치 취하기.

Cloudflare Agents 사용 방법

Cloudflare Agents를 사용한 개발은 Cloudflare 생태계 내에서 모두 관리되는 구조화된 4단계 워크플로우를 따릅니다:

1. 사용자 입력 받기: 사용자 요청이나 데이터를 캡처하는 것으로 시작합니다. 플랫폼은 Email Workers를 사용한 이메일, WebSockets 및 Pages를 사용한 실시간 채팅, Cloudflare Calls를 통한 음성 명령 등 다양한 입력 채널을 지원합니다.
2. AI에 추론 요청하기: 에이전트는 입력을 처리하고 대규모 언어 모델(LLM)에 쿼리하여 다음 단계를 결정합니다. 개발자는 Workers AI를 사용하여 Cloudflare의 서버리스 GPU에서 직접 최적화된 LLM을 실행하거나 AI Gateway를 사용하여 OpenAI 또는 Anthropic과 같은 타사 모델에 안전하게 연결할 수 있습니다.
3. 실행 보장하기: 장기 실행 작업이라도 안정적으로 완료되도록 Cloudflare Agents는 상태 관리와 컴퓨팅을 결합합니다. Durable Objects는 에이전트에 대한 영속적인 상태를 제공하고, Workflows는 작업 순서를 조율하여 재시도, 분기 로직 및 새로운 정보에 기반한 재평가를 가능하게 합니다.
4. 도구로 조치 취하기: 마지막으로 에이전트는 목표를 달성하기 위해 조치를 수행합니다. 이는 API 호출, 데이터 조작 또는 시스템과 상호 작용하는 구조화된 방법인 '도구'를 사용하는 것을 포함합니다. 여기에는 데이터 추출을 위한 웹 페이지 렌더링, Vectorize를 사용한 벡터 데이터베이스 쿼리 또는 D1 SQL 데이터베이스 읽기/쓰기가 포함될 수 있습니다.

개발자는 Cloudflare Agents SDK(JavaScript/TypeScript로 시연)를 사용하여 프로그래밍 방식으로 에이전트 동작을 정의하고, 작업을 예약하며, 상태를 관리합니다.

Cloudflare Agents의 핵심 기능

• 통합 에이전틱 AI 플랫폼: 입력 처리 및 LLM 추론에서 상태 관리 및 조치 실행에 이르기까지 모든 필수 구성 요소가 단일 플랫폼에 통합되어 있습니다.
• 서버리스 LLM 추론: Workers AI를 사용하여 Cloudflare의 서버리스 GPU에서 인기 있는 오픈 소스 LLM을 실행하고 사용한 만큼만 비용을 지불합니다.
• 영속적인 상태 및 실행: 영속적인 상태를 위해 Durable Objects를 활용하고 안정적인 장기 실행 작업 조율을 위해 Workflows를 사용합니다.
• 비용 효율적인 가격 모델: 월 클럭 시간(유휴/대기 시간)이 아닌 CPU 시간(실제 계산)에 대해서만 비용을 지불하여 I/O 집약적인 에이전트 작업 비용을 대폭 절감합니다.
• WebSocket 최대 절전 모드: 유휴 상태일 때 Durable Objects가 최대 절전 모드로 전환되므로 지속적으로 활성 상태인 서버 비용 없이 실시간 통신을 위한 장기 실행 WebSocket 연결을 유지합니다.
• 통합 도구 생태계: 에이전트를 Vectorize(시맨틱 검색용), D1(SQL 데이터용), Browser Rendering(웹 스크래핑용)과 같은 다른 Cloudflare 제품과 원활하게 연결합니다.
• AI 게이트웨이: 타사 LLM 제공업체에 연결하기 위한 안전하고 신뢰할 수 있으며 관찰 가능한 게이트웨이를 제공하여 캐싱, 속도 제한 및 분석을 제공합니다.

Cloudflare Agents의 사용 사례

플랫폼의 기능은 다양한 정교한 애플리케이션을 가능하게 합니다:

• 자동화된 DevOps 및 코드 어시스턴트: 플랫폼 자체 예제에서 보여주듯이 GitHub 이슈를 읽고, 문제를 해결하는 코드를 작성하고, 자동으로 풀 리퀘스트를 여는 에이전트를 만듭니다.
• 지능형 고객 지원 자동화: 질문에 답하는 것을 넘어 환불 처리, 사용자 계정 업데이트 또는 전체 컨텍스트와 함께 복잡한 문제 에스컬레이션과 같은 조치를 수행하는 챗봇을 구축합니다.
• 자율 연구 및 보고: 웹을 탐색하고, 여러 소스에서 정보를 수집하고, 결과를 종합하여 구조화된 보고서를 생성하는 에이전트를 배포합니다.
• 복잡한 비즈니스 워크플로우 자동화: 다양한 내부 API 및 데이터베이스와 통합하여 직원 온보딩, 경비 보고서 처리 또는 리드 자격 부여와 같은 내부 프로세스를 자동화합니다.

Cloudflare Agents의 장점

Cloudflare Agents는 차세대 AI 애플리케이션을 구축하는 개발자에게 상당한 이점을 제공합니다. 주요 이점은 경제적 효율성입니다. CPU 시간당 지불 모델은 종종 외부 API를 기다리는 것을 포함하는 AI 추론 및 에이전트 워크플로우의 급증하고 예측 불가능한 특성에 완벽하게 적합합니다. 이는 WebSocket 최대 절전 모드와 결합하여 기존 하이퍼스케일러에 비해 상당한 비용 절감으로 이어집니다. 또한 통합 플랫폼은 개발자 경험을 단순화하여 상태, 컴퓨팅 및 AI를 위해 이질적인 서비스를 꿰맬 필요를 없애줍니다. 이는 개발을 가속화하고 아키텍처 복잡성을 줄이며, 이 모든 것이 Cloudflare의 글로벌 네트워크의 성능과 보안의 이점을 누리면서 이루어집니다.

가격 및 플랜

Cloudflare Agents는 Cloudflare Workers, Workers AI, Durable Objects 및 Vectorize와 같은 기본 구성 요소의 가격과 깊이 통합된 종량제 가격 모델로 운영됩니다. 'Agents'에 대한 단일 플랜은 없으며, 대신 소비하는 리소스에 대해 비용을 지불합니다. 핵심 원칙은 비용 효율성이며, 사용자는 적극적으로 사용하는 리소스에 대해서만 비용을 지불합니다. 이 모델에는 다음이 포함됩니다:

• 컴퓨팅: 월 클럭 시간이 아닌 CPU 시간을 기준으로 청구되어 I/O 대기가 포함된 작업에 매우 유리합니다.
• AI 추론: Workers AI 사용 시 1,000개 뉴런당 요금이 부과됩니다.
• 상태 및 저장소: Durable Objects 저장소, D1 데이터베이스 사용 및 Vectorize 인덱스와 관련된 비용.

이러한 사용량 기반 접근 방식은 선불 약정이나 관리할 하드웨어가 없음을 의미합니다. Cloudflare의 생태계는 일반적으로 구성 요소에 대한 관대한 무료 등급을 포함하므로 비용 없이 구축 및 실험을 시작할 수 있습니다. 비용은 애플리케이션 사용량이 증가함에 따라 예측 가능하게 확장됩니다.