Cloudflare Agents

Cloudflare Agents ist eine leistungsstarke, integrierte Plattform, die für Entwickler konzipiert wurde, um agentenbasierte KI zu erstellen und zu betreiben. Im Gegensatz zur herkömmlichen generativen KI, die lediglich auf Anfragen reagiert, führt die agentenbasierte KI Autonomie, zielorientiertes Denken und adaptive Entscheidungsfindung ein. Diese Agenten können aktiv planen, iterieren und mit ihrer Umgebung und externen Werkzeugen interagieren, um komplexe, mehrstufige Ziele zu erreichen. Die gesamte Plattform basiert auf dem robusten globalen Netzwerk von Cloudflare und bietet eine einheitliche Lösung für den gesamten Lebenszyklus eines Agenten.

Die Kernphilosophie von Cloudflare Agents besteht darin, eine nahtlose, skalierbare und kostengünstige Umgebung bereitzustellen. Der Prozess der Erstellung eines Agenten wird in vier logische Schritte unterteilt: Empfangen von Benutzereingaben (per E-Mail, Chat oder Sprache), Schlussfolgern mit einem KI-Modell (entweder auf Cloudflare's Workers AI gehostet oder über einen externen Anbieter via AI Gateway), Gewährleistung der Ausführung mit Zustand und Berechnung (mithilfe von Durable Objects und Workflows) und Ergreifen von Maßnahmen durch Interaktion mit APIs und Werkzeugen (wie Browser Rendering, Vectorize und D1-Datenbanken).

Wie man Cloudflare Agents verwendet

Die Entwicklung mit Cloudflare Agents folgt einem strukturierten, vierteiligen Arbeitsablauf, der vollständig innerhalb des Cloudflare-Ökosystems verwaltet wird:

1. Benutzereingaben erhalten: Beginnen Sie mit der Erfassung von Benutzeranfragen oder Daten. Die Plattform unterstützt verschiedene Eingangskanäle, einschließlich E-Mail mit Email Workers, Echtzeit-Chat mit WebSockets und Pages oder sogar Sprachbefehle über Cloudflare Calls.
2. KI um Schlussfolgerung bitten: Der Agent verarbeitet die Eingabe und bestimmt die nächsten Schritte durch Abfrage eines Large Language Model (LLM). Entwickler können wählen, ob sie optimierte LLMs direkt auf den serverlosen GPUs von Cloudflare mit Workers AI ausführen oder sich sicher mit Drittanbieter-Modellen wie denen von OpenAI oder Anthropic über das AI Gateway verbinden.
3. Ausführung garantieren: Um sicherzustellen, dass Aufgaben zuverlässig abgeschlossen werden, auch wenn sie lange dauern, kombiniert Cloudflare Agents Zustandsverwaltung mit Berechnung. Durable Objects bieten einen persistenten Zustand für den Agenten, während Workflows die Abfolge der Aufgaben orchestrieren und Wiederholungsversuche, Verzweigungslogik und eine Neubewertung auf der Grundlage neuer Informationen ermöglichen.
4. Maßnahmen mit Werkzeugen ergreifen: Schließlich führt der Agent Aktionen aus, um sein Ziel zu erreichen. Dies beinhaltet die Verwendung von „Werkzeugen“, die strukturierte Wege sind, um APIs aufzurufen, Daten zu manipulieren oder mit Systemen zu interagieren. Dies kann das Rendern von Webseiten zur Datenextraktion, das Abfragen einer Vektordatenbank mit Vectorize oder das Lesen/Schreiben in eine D1-SQL-Datenbank umfassen.

Entwickler verwenden das Cloudflare Agents SDK (demonstriert mit JavaScript/TypeScript), um das Verhalten von Agenten programmatisch zu definieren, Aufgaben zu planen und den Zustand zu verwalten.

Kernfunktionen von Cloudflare Agents

• Einheitliche agentenbasierte KI-Plattform: Alle notwendigen Komponenten – von der Eingabeverarbeitung und LLM-Inferenz bis zur Zustandsverwaltung und Aktionsausführung – sind in einer einzigen Plattform integriert.
• Serverlose LLM-Inferenz: Führen Sie beliebte Open-Source-LLMs auf den serverlosen GPUs von Cloudflare mit Workers AI aus und zahlen Sie nur für das, was Sie nutzen.
• Dauerhafter Zustand & Ausführung: Nutzen Sie Durable Objects für persistenten Zustand und Workflows für eine zuverlässige, langlebige Aufgabenorchestrierung.
• Kosteneffizientes Preismodell: Zahlen Sie nur für die CPU-Zeit (tatsächliche Berechnung), nicht für die Wanduhrzeit (Leerlauf-/Wartezeit), was die Kosten für I/O-intensive agentenbasierte Aufgaben drastisch reduziert.
• WebSocket-Ruhezustand: Halten Sie langlebige WebSocket-Verbindungen für die Echtzeitkommunikation aufrecht, ohne die Kosten eines ständig aktiven Servers, da Durable Objects im Leerlauf in den Ruhezustand versetzt werden.
• Integriertes Werkzeug-Ökosystem: Verbinden Sie Agenten nahtlos mit anderen Cloudflare-Produkten wie Vectorize für semantische Suche, D1 für SQL-Daten und Browser Rendering für Web-Scraping.
• AI Gateway: Bietet ein sicheres, zuverlässiges und beobachtbares Gateway zur Verbindung mit Drittanbieter-LLM-Anbietern und bietet Caching, Ratenbegrenzung und Analysen.

Anwendungsfälle für Cloudflare Agents

Die Fähigkeiten der Plattform ermöglichen eine breite Palette anspruchsvoller Anwendungen:

• Automatisierte DevOps & Code-Assistenten: Erstellen Sie Agenten, die GitHub-Issues lesen, Code zur Behebung schreiben und automatisch Pull-Requests öffnen können, wie in den eigenen Beispielen der Plattform gezeigt.
• Intelligente Kundensupport-Automatisierung: Erstellen Sie Chatbots, die über das Beantworten von Fragen hinausgehen und Aktionen wie die Bearbeitung von Rückerstattungen, die Aktualisierung von Benutzerkonten oder die Eskalation komplexer Probleme mit vollständigem Kontext durchführen.
• Autonome Recherche & Berichterstattung: Setzen Sie Agenten ein, die das Web durchsuchen, Informationen aus mehreren Quellen sammeln, Ergebnisse zusammenfassen und einen strukturierten Bericht erstellen können.
• Automatisierung komplexer Geschäftsworkflows: Automatisieren Sie interne Prozesse wie das Onboarding von Mitarbeitern, die Bearbeitung von Spesenabrechnungen oder die Qualifizierung von Leads durch die Integration mit verschiedenen internen APIs und Datenbanken.

Vorteile von Cloudflare Agents

Cloudflare Agents bietet Entwicklern, die die nächste Generation von KI-Anwendungen erstellen, erhebliche Vorteile. Der Hauptvorteil ist die wirtschaftliche Effizienz; das Pay-per-CPU-Time-Modell ist perfekt für die sprunghafte, unvorhersehbare Natur der KI-Inferenz und agentenbasierten Workflows geeignet, die oft das Warten auf externe APIs beinhalten. Dies, kombiniert mit dem WebSocket-Ruhezustand, führt zu erheblichen Kosteneinsparungen im Vergleich zu traditionellen Hyperscalern. Darüber hinaus vereinfacht die einheitliche Plattform die Entwicklererfahrung, da die Notwendigkeit entfällt, unterschiedliche Dienste für Zustand, Berechnung und KI zusammenzufügen. Dies beschleunigt die Entwicklung und reduziert die architektonische Komplexität, während man gleichzeitig von der Leistung und Sicherheit des globalen Netzwerks von Cloudflare profitiert.

Preise und Pläne

Cloudflare Agents arbeitet mit einem Pay-as-you-go-Preismodell, das tief in die Preisgestaltung seiner zugrunde liegenden Komponenten wie Cloudflare Workers, Workers AI, Durable Objects und Vectorize integriert ist. Es gibt keinen einzelnen Plan für „Agents“; stattdessen zahlen Sie für die Ressourcen, die Sie verbrauchen. Das Schlüsselprinzip ist die Kosteneffizienz, bei der Benutzer nur für die Ressourcen zahlen, die sie aktiv nutzen. Dieses Modell umfasst:

• Berechnung: Wird auf der Grundlage der CPU-Zeit und nicht der Wanduhrzeit abgerechnet, was für Aufgaben mit I/O-Wartezeiten sehr vorteilhaft ist.
• KI-Inferenz: Wird bei Verwendung von Workers AI pro 1.000 Neuronen berechnet.
• Zustand & Speicher: Kosten im Zusammenhang mit dem Speicher von Durable Objects, der Nutzung der D1-Datenbank und den Vectorize-Indizes.

Dieser nutzungsbasierte Ansatz bedeutet, dass es keine Vorabverpflichtungen oder zu verwaltende Hardware gibt. Das Ökosystem von Cloudflare umfasst in der Regel eine großzügige kostenlose Stufe für seine Komponenten, sodass es möglich ist, ohne Kosten mit dem Erstellen und Experimentieren zu beginnen. Die Kosten skalieren vorhersehbar mit zunehmender Anwendungsnutzung.