Einführung von Cloudflare -Containern: Behälter nativ auf der Arbeiterplattform ausführen

Es ist fast das Ende der Entwicklerwoche und wir haben nicht über Container gesprochen: bis jetzt.

It is almost the end of Developer Week and we haven’t talked about containers: until now. As some of you may know, we’ve been working on a container platform behind the scenes for some time.

Es ist fast das Ende der Entwicklerwoche und wir haben nicht über Container gesprochen: bis jetzt. Wie einige von Ihnen vielleicht wissen, arbeiten wir seit einiger Zeit an einer Containerplattform hinter den Kulissen.

In late June, we plan to release Containers in open beta, and today we’ll give you a sneak peek at what makes it unique.

Ende Juni planen wir, Container in offener Beta zu veröffentlichen, und heute geben wir Ihnen einen kleinen Einblick in das, was es einzigartig macht.

Workers are the simplest way to ship software around the world with little overhead. But sometimes you need to do more. You might want to:

Arbeiter sind die einfachste Möglichkeit, Software auf der ganzen Welt mit wenig Overhead zu versenden. Aber manchmal muss man mehr tun. Sie möchten vielleicht:

Run user-generated code in any language

Führen Sie den benutzergenerierten Code in jeder Sprache aus

Execute a CLI tool that needs a full Linux environment

Führen Sie ein CLI -Tool aus, das eine vollständige Linux -Umgebung benötigt

Use several gigabytes of memory or multiple CPU cores

Verwenden Sie mehrere Gigabyte Speicher oder mehrere CPU -Kerne

Port an existing application from AWS, GCP, or Azure without a major rewrite

Port eine vorhandene Anwendung von AWS, GCP oder Azure ohne einen großen Umschreiben

Cloudflare Containers let you do all of that while being simple, scalable, and global.

Mit Cloudflare -Containern können Sie das alles tun, während Sie einfach, skalierbar und global sind.

Through a deep integration with Workers and an architecture built on Durable Objects, Workers can be your:

Durch eine tiefe Integration in die Arbeiter und eine Architektur, die auf dauerhaften Objekten basiert, können Arbeiter Ihr:

API Gateway: Letting you control routing, authentication, caching, and rate-limiting before requests reach a container

API-Gateway: Lassen

Service Mesh: Creating private connections between containers with a programmable routing layer

Service Mesh: Erstellen privater Verbindungen zwischen Containern mit einer programmierbaren Routing -Ebene

Orchestrator: Allowing you to write custom scheduling, scaling, and health checking logic for your containers

Orchestrator: Ermöglichen Sie, dass Sie benutzerdefinierte Planung, Skalierung und Gesundheitsprüfung für Ihre Container schreiben

Instead of having to deploy new services, write custom Kubernetes operators, or wade through control plane configuration to extend the platform, you just write code.

Anstatt neue Dienste bereitzustellen, benutzerdefinierte Kubernetes -Operatoren schreiben oder über die Konfiguration der Steuerebene waten, um die Plattform zu erweitern, schreiben Sie einfach Code.

Let’s see what it looks like.

Mal sehen, wie es aussieht.

Deploying different application types

Bereitstellung verschiedener Anwendungstypen

A stateful workload: executing AI-generated code

Eine staatliche Arbeitsbelastung: Code ausführen

First, let’s take a look at a stateful example.

Schauen wir uns zunächst ein staatliches Beispiel an.

Imagine you are building a platform where end-users can run code generated by an LLM. This code is untrusted, so each user needs their own secure sandbox. Additionally, you want users to be able to run multiple requests in sequence, potentially writing to local files or saving in-memory state.

Stellen Sie sich vor, Sie bauen eine Plattform auf, auf der Endbenutzer von einem LLM generierten Code ausführen können. Dieser Code ist nicht vertrauenswürdig, sodass jeder Benutzer seine eigene sichere Sandbox benötigt. Darüber hinaus möchten Sie, dass Benutzer mehrere Anfragen nacheinander ausführen, potenziell in lokale Dateien schreiben oder in einem Memory-Status speichern.

To do this, you need to create a container on-demand for each user session, then route subsequent requests to that container. Here’s how you can accomplish this:

Dazu müssen Sie für jede Benutzersitzung einen Container-On-Demand erstellen und dann nachfolgende Anforderungen an diesen Container weiterleiten. So können Sie dies erreichen:

First, you write some basic Wrangler config, then you route requests to containers via your Worker:

Erstens schreiben Sie eine grundlegende Wrangler -Konfiguration, dann übertragen Sie Anforderungen an Container über Ihren Arbeiter:

Then, deploy your code with a single command: wrangler deploy. This builds your container image, pushes it to Cloudflare’s registry, readies containers to boot quickly across the globe, and deploys your Worker.

Stellen Sie dann Ihren Code mit einem einzigen Befehl ein: Wrangler -Bereitstellung. Dadurch wird Ihr Containerbild aufgebaut, es in die Registrierung von Cloudflare übertroffen, Container bereitet, um schnell weltweit zu starten und Ihren Arbeiter bereitzustellen.

That’s it.

Das war's.

How does it work?

Wie funktioniert es?

Your Worker creates and starts up containers on-demand. Each time you call env.CODE_EXECUTOR.get(id) with a unique ID, it sends requests to a unique container instance. The container will automatically boot on the first fetch, then put itself to sleep after a configurable timeout, in this case 1 minute. You only pay for the time that the container is actively running.

Ihr Arbeiter schafft und startet Container on-Demand. Jedes Mal, wenn Sie env.code_executor.get (ID) mit einer eindeutigen ID anrufen, sendet es Anforderungen an eine eindeutige Containerinstanz. Der Container startet automatisch beim ersten Abruf und setzt sich in diesem Fall 1 Minute nach einer konfigurierbaren Auszeit in den Schlaf. Sie zahlen nur für die Zeit, in der der Container aktiv läuft.

When you request a new container, we boot one in a Cloudflare location near the incoming request. This means that low-latency workloads are well-served no matter the region. Cloudflare takes care of all the pre-warming and caching so you don’t have to think about it.

Wenn Sie einen neuen Container anfordern, starten wir einen an einem Cloudflare -Standort in der Nähe der eingehenden Anfrage. Dies bedeutet, dass Arbeitsbelastungen mit geringer Latenz unabhängig von der Region gut bedient sind. CloudFlare kümmert sich um alle Vorwärme und Ausschnitte, sodass Sie nicht darüber nachdenken müssen.

This allows each user to run code in their own secure environment.

Auf diese Weise kann jeder Benutzer Code in seiner eigenen sicheren Umgebung ausführen.

Stateless and global: FFmpeg everywhere

Staatellos und global: FFMPEG überall

Stateless and autoscaling applications work equally well on Cloudflare Containers.

Staatenlose und autoscaling -Anwendungen funktionieren bei Cloudflare -Containern gleich gut.

Imagine you want to run a container that takes a video file and turns it into an animated GIF using FFmpeg. Unlike the previous example, any container can serve any request, but you still don’t want to send bytes across an ocean and back unnecessarily. So, ideally the app can be deployed everywhere.

Stellen Sie sich vor, Sie möchten einen Container ausführen, der eine Videodatei aufnimmt und sie mit FFMPEG in ein animiertes GIF verwandelt. Im Gegensatz zum vorherigen Beispiel kann jeder Container eine Anfrage stellen, aber Sie möchten immer noch nicht unnötig Bytes über einen Ozean und einen Rücken senden. Im Idealfall kann die App überall bereitgestellt werden.

To do this, you declare a container in Wrangler config and turn on autoscaling. This specific configuration ensures that one instance is always running and if CPU usage increases beyond 75% of capacity, additional instances are added:

Dazu deklarieren Sie einen Container in Wrangler -Konfiguration und aktivieren das Autoscaling. Diese spezifische Konfiguration stellt sicher, dass eine Instanz immer ausgeführt wird und wenn die CPU -Verwendung über 75% der Kapazität hinaus ansteigt, werden zusätzliche Instanzen hinzugefügt:

To route requests, you just call env.GIF_MAKER.fetch and requests are automatically sent to the closest container:

Um Anfragen weiterzuleiten, rufen Sie einfach env.gif_maker.fetch an und Anfragen werden automatisch an den nächsten Container gesendet:

Going beyond the basics

Über die Grundlagen hinausgehen

From the examples above, you can see that getting a basic container service running on Workers just takes a few lines of config and a little Workers code. There’s no need to worry about capacity, artifact registries, regions, or scaling.

Aus den obigen Beispielen können Sie feststellen, dass das Erhalten eines grundlegenden Containerdienstes, der auf Arbeitern ausgeführt wird, nur einige Konfigurationszeilen und einen kleinen Arbeitercode benötigt. Sie müssen sich keine Sorgen um Kapazitäten, Artefaktregister, Regionen oder Skalierung machen.

For more advanced use, we’ve designed Cloudflare Containers to run on top of Durable Objects and work in tandem with Workers. Let’s take a look at the underlying architecture and see some of the advanced use cases it enables.

Für den fortschrittlicheren Gebrauch haben wir Cloudflare -Container so gestaltet, dass sie auf dauerhaften Objekten ausgeführt werden und mit den Arbeitern zusammenarbeiten. Schauen wir uns die zugrunde liegende Architektur an und sehen uns einige der fortgeschrittenen Anwendungsfälle an.

Durable Objects as programmable sidecars

Langlebige Objekte als programmierbare Betrachter

Routing to containers is enabled using Durable Objects under the hood. In the examples above, the Container class from cloudflare:workers just wraps a container-enabled Durable Object and provides helper methods for common patterns. In the rest of this post, we’ll look at examples using Durable Objects directly, as this should shed light on the platform’s underlying design.

Das Routing zu Containern wird mithilfe langlebiger Objekte unter der Haube aktiviert. In den obigen Beispielen wickelt die Containerklasse von CloudFlare: Arbeiter nur ein dauerhaftes Container-fähiger Objekt und bietet Helfermethoden für gemeinsame Muster. Im Rest dieses Beitrags werden wir uns Beispiele ansehen, die dauerhafte Objekte direkt verwenden, da dies das zugrunde liegende Design der Plattform beleuchtet.

Each Durable Object acts as a programmable sidecar that can proxy requests to the container and manages its lifecycle. This allows you to control and extend your containers in ways that are hard on other

Jedes dauerhafte Objekt fungiert als programmierbares Seitenwagen, der Anforderungen an den Container anfordern und seinen Lebenszyklus verwaltet. Auf diese Weise können Sie Ihre Container auf eine Weise kontrollieren und erweitern, die für andere schwierig ist