Start-ups im Rampenlicht: KI-Agenten entwickeln und Innovation beschleunigen mit Kohorte Nr. 5

Durch den schnellen Zugriff auf eine flexible Infrastruktur und innovative KI-Tools können Start-ups produktionsreife Anwendungen schnell und effizient bereitstellen. Cloudflare spielt für unzählige Applikationen eine zentrale Rolle und erlaubt es Gründern und Entwicklerteams, ihre Innovationen mühelos zu entwickeln, zu skalieren und zu beschleunigen – und zwar ohne belastenden technischen Aufwand. Und wenn es relevant ist, stellen Initiativen wie unser Startup-Programm und Workers Launchpad die Werkzeuge und Ressourcen zur Verfügung, mit denen diese ehrgeizigen Projekte weiter vorangetrieben werden können.

Cloudflare hat vor Kurzem KI-Agenten vorgestellt, mit denen Entwickler Agenten zur autonomen Erledigung von Aufgaben einsetzen können. Es gibt bereits einige großartige Beispiele für Start-ups, die sich für bei der Investition in den Aufbau ihrer Agenten-Infrastruktur für Cloudflare als Plattform entschieden haben. Im Folgenden erfahren Sie, wie ein paar aufstrebende Start-ups ihre KI-Agenten-Plattformen mit Unterstützung von Cloudflare aufbauen.

Das 2023 gegründete Unternehmen Lastatic.ai ermöglicht SaaS-Start-ups eine nahtlose Integration smarter KI-Agenten in ihre Produkte. Lastatic.ai vereinfacht den Einsatz von KI-Agenten durch das Angebot eines vollständig verwalteten Lebenszyklus, bei dem Skalierbarkeit und Sicherheit berücksichtigt werden. SaaS-Provider nutzen Lastatic, um ihre KI-Workflows mittels eines visuellen Builders ohne Programmieraufwand auf eine neue Plattform zu verlagern, wodurch technische Schulden reduziert werden und sich Produkte schneller bereitstellen lassen. Die Architektur von Lamatic ist auf hohe Verfügbarkeit und Skalierbarkeit sowie geringe Latenz ausgelegt und ermöglicht es Entwicklern, KI-gesteuerte Anwendungen zu schaffen, die auch bei hoher Belastung leistungsfähig sind. Nachdem Lamatic auf Product Hunt in kurzer Zeit eine große Zahl von Nutzern gewonnen hatte, stellte man fest, dass echtes Interesse daran bestand, komplexe Probleme mit KI-Agenten zu lösen. Das Team wusste, dass es bei der Entwicklung seiner Lösung Skalierbarkeit und Performance im Blick behalten musste.

Cloudflare spielt eine Schlüsselrolle bei der Unterstützung des Wachstums von Lamatic. Lamatic sorgt mit Unterstützung von Cloudflare Workers dafür, dass Anfragen in größerer Nähe zu den Endnutzern bearbeitet werden, was die Latenz auf ein Mindestmaß reduziert und gleichzeitig die Rechenbelastung zentraler Server verringert. In nur wenigen Monaten hat Lastatic.ai auf effiziente Weise eine Skalierung auf über drei Millionen Serverless-Anfragen im Monat vorgenommen und damit über 1.000 Kunden unterstützt, die alle von einem kleinen dreiköpfigen Team betreut werden. 

Kunden entwerfen ihre Agent Flows mit einem visuellen Builder ohne Quellcode, der eine interoperable IAML-Konfiguration erzeugt. Sensible Zugangsdaten wie API-Schlüssel und Modell-Zugriffs-Token werden sicher verschlüsselt und in Workers KV gespeichert, sodass sie erst während der Laufzeit entschlüsselt werden, um die Sicherheit zu erhöhen. Alle EAML-Konfigurationen werden dann in ein Workers-kompatibles JavaScript-Paket kompiliert. Wenn ein Projekt implementiert wird, stimmt Lamatic kritische Komponenten wie Synchronisierungsaufträge für geplante Daten-ETL-Vorgänge und eingehende Webhooks zur Abwicklung ereignisgesteuerter Workflows sorgfältig über Cloudflare Queues aufeinander ab. Nach der Implementierung ist das Projekt als Cloudflare Worker mit einem offenliegenden API-Endpunkt voll einsatzbereit, sodass Kunden KI-gestützte Automatisierung mit minimalem Aufwand direkt in ihre Anwendungen integrieren können.

Um die Plattform skalieren zu können, hat Lastatic.ai eine Architektur aufgebaut, die Serverless- und KI-Logik auf Kundenbasis isoliert. Anstatt Anfragen in einem zentralen Cluster zu bündeln, verteilt Lastatic.ai die Workloads über das globale Netzwerk von Cloudflare. So wird sichergestellt, dass jeder Kunde und Endpunkt von einem eigenen Worker versorgt wird, der eine eigens dafür vorgesehene Logik anwendet. Aufgrund dieses Bereitstellungsmodells pro Kunde, das durch Workers for Platforms ermöglicht wird, kann Lastatic.ai kundenspezifische Serverless-Funktionen maßstabsgerecht bereitstellen und den technischen Aufwand reduzieren, wenn weitere Kunden in das System eingebunden werden. Jedem Kunden wird ein eigener Worker zugewiesen, dessen Anfrage- und Durchsatzbegrenzungen auf Grundlage seiner Abonnementstufe aktiviert werden. 

Über die Anfrageverarbeitung hinaus nutzt Lamatic Cloudflare Workers KV als dezentralen Konfigurationsspeicher, um hohe Verfügbarkeit und Sicherheit zu gewährleisten. Alle Werte werden im Ruhezustand mit AES-256-GCM verschlüsselt und erst zur Laufzeit entschlüsselt, wodurch ein sowohl sicherer als auch latenzarmer Betrieb gewährleistet werden kann. Token und Anmeldedaten werden verschlüsselt und in der Datenbank und KV gespeichert. 

Um die Performance weiter zu verbessern, spielt Cloudflare Queues eine Schlüsselrolle bei der Orchestrierung der Aufgabenerledigung. Lastatic nutzt Queues, um die durch Workers-Anfragen anfallende Arbeitslast auszulagern und Aufgaben wie Webhooks und die Koordinierung dezentraler Prozesse zu übernehmen, die beide zur maßstabsgerechten Gewährleistung der Systemkonsistenz und -zuverlässigkeit unerlässlich sind. Worker bearbeiten Synchronisierungsanfragen am Ausführungsort, länger laufende Aufgaben werden über Queues verarbeitet. Zum Beispiel werden während einer geplanten ETL-Synchronisierung neu generierte Datensätze als Message Queue auf Cloudflare Pub/Sub gespeichert. Ein Verbraucher-Worker erfasst diese Nachrichten und stellt mithilfe von Workers Queue eine API-Anfrage an den Pod. Er verbraucht mehr Nachrichten, wenn die Verarbeitung der jeweiligen Warteschlange abgeschlossen ist.

Ein weiteres Beispiel dafür, wo sich dies als optimal erwiesen hat, ist die Verwaltung von KI-Workflows. Viele davon beinhalten gleichzeitige Anfragen an mehrere Datenquellen. Queues optimiert die Datenverarbeitung und speist Informationen auf effiziente Weise in die Retrieval Augmented Generation (RAG)-Workflows der Kunden ein. Dieser Ansatz ebnet Workload-Ausschläge nach oben ein, öffnet Nadelöhre und stellt sicher, dass KI-Agenten Daten ohne Verzögerung zuverlässig bündeln und verarbeiten können.

Darüber hinaus stellt Lastatic.ai Workers AI als einen der Anbieter von Support-Inferenz zur Verfügung, die Kunden auf ihrer gesamten Plattform nutzen können. Kunden können je nach Anwendungsfall (Chatbot, Bilderzeugung, Sprache usw.) eines der vielen auf Workers AI gehosteten quelloffenen Modelle nutzen. Auf diesen verschiedenen Ebenen werden die Herausforderungen bei der Skalierung von KI-Agenten durch die Verarbeitung großer Datenmengen, die Gewährleistung von Antworten mit geringer Latenz und die Sicherstellung eines soliden Schutzes gemeistert. Mit der Infrastruktur von Cloudflare als Rückgrat hat Lastatic.ai eine belastbare und hochleistungsfähige Plattform aufgebaut, die den hohen Anforderungen moderner KI-Applikationen gerecht wird. Das macht sie zur perfekten Wahl für Start-ups, die KI-gesteuerte Funktionen in ihre Produkte einbinden möchten.

Skyward nutzt die Serverless-Computing-Kapazitäten von Cloudflare zur Erstellung KI-gesteuerter Compliance-Agenten, die wichtige Aufgaben wie die Sammlung von Beweisen, die Risikoanalyse in Echtzeit und die Aktualisierung von Richtlinien optimieren, wodurch die Compliance völlig neu aufgestellt wird. Compliance-Teams in den Bereichen Fintech, Supply Chain und anderen stark regulierten Branchen nutzen diese KI-Agenten, um Beweise zu extrahieren und zu sortieren, Echtzeit-Empfehlungen abzugeben und Richtlinien- und Verfahrensaktualisierungen automatisch aufeinander abzustimmen. Indem sie das Analysieren und Interpretieren von Dokumenten, die Risikoüberwachung und die Durchsetzung von Richtlinien übernehmen, reduzieren diese KI-Agenten das Risiko menschlicher Fehler. Dadurch ermöglichen sie es Compliance-Experten, sich auf wertschöpfendere Aufgaben zu konzentrieren.

Skyward hat eine KI-Agentenplattform aufgebaut, die mit einem Serverless-First-Ansatz entwickelt wurde und so die Einschränkungen des zentralisierten Cloud-Computing umgeht. Das Unternehmen nutzt die Entwicklerplattform von Cloudflare, um eine hochgradig reaktionsschnelle und skalierbare Infrastruktur zu erstellen und zu pflegen. Worker bearbeiten eingehende Anfragen im Zusammenhang mit Eingaben bei Chats, Compliance-Prüfungen oder Authentifizierungen und leiten sie effizient durch verschiedene Regionen. Skyward hat die eigene Infrastruktur für KI-Agenten zunächst mit Durable Objects, Workflows und JavaScript-nativem RPC (Remote Procedure Call) zur KI-Koordination aufgebaut, hat aber vor Kurzem auf das neue KI-Agenten-Framework von Cloudflare umgestellt. Da Agenten einen Rahmen für die Erstellung und Orchestrierung von KI-Agenten bieten, hat die Migration Skyward geholfen, die Notwendigkeit der manuellen Verwaltung von Durable Objects zu abstrahieren und so den Zeitaufwand für die Verwaltung dieser Tools erheblich zu verringern. Diese Version ist zwar noch relativ neu, aber die Umstellung hat dazu beigetragen, die Kommunikation der Agenten zu vereinfachen. Gleichzeitig wurden aber die Vorteile des ursprünglichen Designs – wie Datenschutz, Isolierung und Parallelitätskontrolle – beibehalten. Dadurch ist es auch einfacher geworden, den Endnutzern in Echtzeit Feedback und Antworten zu übermitteln.

Skyward optimiert die Compliance-Automatisierung in Echtzeit, da Reaktionszeiten von weniger als 100 ms für Abfragen von KI-Agenten erreicht werden. Workloads sind so strukturiert, dass unnötige Netzwerk-Roundtrips auf ein Mindestmaß reduziert werden. Ein Sync-Engine-Ansatz sorgt dafür, dass die Daten proaktiv vorgeladen und an die Clients geschickt werden, um hochgradige Reaktionsschnelle für Nutzer zu gewährleisten. Als Proxy für KI-Inferenz verwendet Skyward AI Gateway, um Nutzung, Performance und Kosten für verschiedene Anbieter zu beobachten und so die betriebliche Effizienz der KI zu verbessern. Durch den Einsatz der Serverless-Entwicklerplattform von Cloudflare konnte Skyward die eigene Architektur vereinfachen und gleichzeitig die globale Verfügbarkeit unterstützen, wodurch auf Kubernetes-Cluster oder komplizierte Sperrmechanismen verzichtet werden kann. Das Team muss sich auch nicht mehr mit der Verwaltung regionaler Implementierungen herumschlagen, denn die Unterstützung mehrerer Regionen durch Cloudflare gewährleistet weltweit eine einheitliche Performance ohne zusätzliche betriebliche Komplexität.

Die Statusverwaltung ist eine maßgebliche Komponente bei der Ausführung von Agenten-Workflows. Jede Compliance-Sitzung läuft in einem eigens dafür vorgesehenen Durable Object, das relevante Daten in der Nähe der Ausführungsschicht speichert. Dadurch wird die Zahl der Datenbank-Roundtrips minimiert und für die effiziente Abwicklung von Aufgaben wie Geldwäsche-Prüfungen, Know Your Business (KYB)-Validierung und Dokumentenverarbeitung gesorgt. Nach Abschluss einer Compliance-Sitzung fasst das System die relevanten Informationen zusammen und speichert sie in Postgres und R2, um die Speichernutzung zu optimieren, ohne dass dafür eine dauerhafte Cloud-Infrastruktur erforderlich ist.

Um ein Gleichgewicht zwischen niedriger Latenz und langfristiger Speicherung zu finden, folgt Skyward einer mehrschichtigen Datenverwaltungsstrategie. Mit Hyperdrive konnte das Skyward-Team die Latenz um fast 50 Prozent reduzieren, sodass die Compliance-Teams sofortiges Feedback erhalten. Skyward verfolgt das Kernziel, eine „für Compliance-Teams optimierte“ Plattform anzubieten. Nach Auffassung des Teams stellt eine kurze Feedbackschleife sicher, dass die Endkunden die Daten und Antworten erhalten, die sie zum Handeln brauchen. Unabhängig davon, ob ein Agent oder Hunderte Aufgaben parallel bearbeiten, sorgt Hyperdrive dafür, dass Datenbankanfragen an Assets wie umfangreiche Unternehmensdokumentation (z. B. Vorschriften, Richtlinien, Verfahren, interne Dokumente), komplexe regulatorische Wissensgraphen und On-Demand-Kontextinformationen für Gesprächs-Workflows so gut funktionieren wie möglich.

Durable Objects ermöglichen die Ermittlung des Sitzungsstatus in Echtzeit und stellen sicher, dass KI-Agenten reibungslos und ohne komplizierte Sperrmechanismen arbeiten. Für größere Dokumente mit Compliance-Bezug, z. B. PDFs und archivierte Daten mit rechtlichem Inhalt, bietet Cloudflare R2 Langzeitspeicherung. Außerdem gewährleistet die Lösung, dass nur Informationen, auf die häufig zugegriffen wird, leicht verfügbar sind. Durch diesen Ansatz verbessert sich die Performance. Zugleich ermöglicht er eine effiziente und kostengünstige Speicherverwaltung.

Bei Compliance-orientierten KI-Anwendungen haben Sicherheit und Skalierbarkeit nach wie vor Priorität. Skyward setzt strenge Zugriffskontrollen durch, damit nur autorisierte Nutzer auf Entwicklungs- und Produktivumgebungen zugreifen können. Für jede KI-Sitzung wird ein prüffähiges Protokoll der wichtigsten Ereignisse, Nutzeraktionen und Genehmigungen geführt, das die Möglichkeit unterstützt, diese Erkenntnisse zur Einhaltung von Vorschriften und gesetzlichen Anforderungen zu exportieren. Da jeder Agent in seiner eigenen Instanz ausgeführt wird und über eine eigene Datenbank verfügt, stellt Skyward sicher, dass es eine detaillierte Aufzeichnung aller erforderlichen Nutzer, Agenten-Interaktionen und Audit-Anforderungen gibt. Darüber hinaus hat die Fähigkeit, mit dem Cloudflare-Netzwerk weltweite Implementierungen und Skalierungen vorzunehmen, Skyward erlaubt, einen beständigen, leistungsstarken Betrieb in verschiedenen Regionen ohne große zusätzliche Infrastrukturkosten aufrechtzuerhalten.

Skyward will die Reaktionsfähigkeit von KI-Agenten noch weiter erhöhen, indem ausgewählte Modelle direkt auf Cloudflare Workers AI ausgeführt werden, was die Abhängigkeit von externen Inferenzanbietern verringern soll. Das Team plant die weitere Integration von Workers for Platforms, um Kundendaten und Arbeitsabläufe besser zu isolieren und den Endnutzern größere Kontrolle über ihre Compliance-Automatisierung zu geben. Während Cloudflare die eigenen KI-Funktionen weiterentwickelt, will Skyward die Grenzen dezentraler KI-Lösungen für Compliance verschieben, um bei der Einhaltung von Vorschriften eine stärkere Automatisierung, Skalierbarkeit und Absicherung zu ermöglichen.

Wir lassen uns von der Art und Weise inspirieren, in der Start-ups wie Lamatic AI und Skyward AI ihre KI-Agenten-Plattformen auf Cloudflare erstellen. Diese Art von Innovation macht uns stolz darauf, dass so viele Start-ups für eine skalierbare, zuverlässige und effizient funktionierende Basis ihr Vertrauen Cloudflare schenken. 

Wir freuen uns außerdem, mitteilen zu können, dass sowohl Lamatic AI als auch Skyward AI eingeladen wurden, Teil der nächsten Workers Launchpad-Kohorte – Nr. 5 – von Cloudflare zu sein. Apropos Workers Launchpad: Da unserer letztes Update schon ein paar Monate zurückliegt, wollen wir uns jetzt anschauen, was es in diesem Bereich Neues gibt.

Das Workers Launchpad-Team ist überwältigt von dem, was Kunden auf der Entwicklerplattform demonstrieren. Mitglieder der Kohorte Nr. 4 haben bei unserem halbjährlichen Demo Day ihre Projekte präsentiert. Kunden haben uns demonstriert, was sie in einer Vielzahl von Branchen erschaffen, darunter (natürlich) KI / ML, Entwicklertools, 3D-Design, Cloud Infrastruktur, Adtech, Medien und vieles mehr. Zu sehen, was all diese erstaunlichen Unternehmen auf dem Cloudflare-Netzwerk entwickeln, ist unglaublich ermutigend. Wir freuen uns darauf, diese Start-ups auch weiterhin auf ihrem Weg zu begleiten.

Nach dem Demo Day für die Kohorte Nr. 4 von Workers Launchpad haben wir die bislang größte Flut von Bewerbungen von Start-ups aus der ganzen Welt verzeichnet, die in Kohorte Nr. 5 aufgenommen werden möchten. Diese nächste Welle von Gründern verschiebt die Grenzen des Möglichen und entwickelt unter anderem KI-Agenten, Entwickler-Tools, MCP und Medien. Bei jeder neuen Kohorte lassen wir uns erneut von der Qualität der Gründerteams, den kühnen Ideen, die sie in die Praxis überführen, und den realen Problemen, die sie mit der Technologie angehen, inspirieren.

Helfen Sie uns, den Teilnehmern der Kohorte Nr. 5 ein herzliches Willkommen zu bereiten:

Wir können es kaum erwarten, mehr über die Erfolge von Kohorte Nr. 5 zu berichten. Folgen Sie unbedingt @CloudflareDev auf X und treten Sie unserem Developer Discord-Kanal bei, um aktuelle Informationen zu den Kohorten zu erhalten.

Wenn Sie Ihre Anwendung auf unserer Entwicklerplattform erstellen, würden wir gern erfahren, in welcher Weise Cloudflare Sie dabei unterstützt. Wenn Sie ausführlicher beschreiben, woran Sie arbeiten, prüft unser Team Ihre Bewerbung. Falls Sie ein Start-up sind und Interesse an der Teilnahme an Workers Launchpad haben, können Sie sich gern für die Aufnahme in Kohorte Nr. 6 bewerben: Bewerbungen werden jetzt angenommen.