Ein Praxisleitfaden zum Hosting von KI für Finanzdaten von Kunden im Vereinigten Königreich. Er nimmt eine typische reale Arbeitslast, die Klassifizierung von Banktransaktionen sowie das Auslesen von Belegen und das Beantworten von Chatfragen, und arbeitet durch, wie AWS Bedrock und Microsoft Azure abrechnen, wo beide Daten tatsächlich verarbeiten, was jeder Weg bei drei Volumina kostet, wie Sie die Rechnung mit Regeln, Gedächtnis, Prompt-Caching und Batch senken, wie Sie die Qualität vor dem Preis testen, wann sich eine dedizierte GPU rechnet und welche Governance-Prüfungen das Ganze begleiten sollten. Workflows und Code sind durchgehend enthalten.
Diese Technote ist die Ergänzung zu unserem Blogbeitrag Private KI im Vereinigten Königreich hosten: Bedrock, Azure oder eigene GPUs?. Die Preise sind ungefähre Listenpreise mit Stand November 2026, in US-Dollar, sofern nicht anders angegeben, mit £1 = $1,30 und €1 = $1,15. Einige stammen von Preis-Trackern Dritter, weil die Preisseiten der Anbieter ihre Tabellen nicht immer für automatisierte Werkzeuge darstellen. Prüfen Sie jede Zahl im Rechner des Anbieters nach, bevor Sie sich festlegen.
1. Die Arbeitslast und die Datenregel
Das durchgerechnete Beispiel ist eine britische Finanzanwendung: ein Buchhaltungs- oder Steuerprodukt, das Banktransaktionen und Belege von Kunden importiert. Der größte Teil der KI-Ausgaben entfällt auf die Klassifizierung: ein Aufruf pro Transaktion mit etwa 3.600 Eingabe-Tokens (die Kategorieliste, die Regeln des Kunden und einige Beispiele sowie die Transaktion) und etwa 250 Ausgabe-Tokens. Messen Sie Ihre eigenen Zahlen mit einem LLM-Tracing-Werkzeug wie Langfuse, bevor Sie irgendeiner Schätzung trauen, auch unserer.
| Aufgabe | Wie oft sie die KI aufruft | Anforderungen |
|---|---|---|
| Banktransaktionen klassifizieren | Einmal pro Transaktion | Etwa 3.600 Tokens rein, 250 raus; der Großteil des Volumens |
| Gescannte PDFs und Belege auslesen | Einmal pro Seite oder Bild | Ein Modell, das Bilder lesen kann |
| Chat-Assistent für Kunden | Einmal pro Nachricht | Ein starkes Dialogmodell; die Latenz ist wichtig |
| Import-Fallback für unlesbare Dateien | Nur wenn Regeln versagen | Derselbe Weg wie bei der Klassifizierung |
Die Datenregel, die alles bestimmt: Finanzdaten von Kunden dürfen nicht an öffentliche KI-Dienste für Verbraucher gehen. Sie müssen im Vereinigten Königreich oder mindestens in der EU verarbeitet werden, ohne Training darauf und ohne lange Aufbewahrung. Schreiben Sie diese Regel auf, machen Sie Ihre Datenschutzverantwortliche oder Ihren Datenschutzverantwortlichen zur Eigentümerin bzw. zum Eigentümer, und lassen Sie den Code sie durchsetzen (Abschnitt 8).
2. Leerlaufkosten: was tatsächlich abgerechnet wird, wenn nichts passiert
Ein verbreiteter Reflex ist, KI-Dienste nachts abzuschalten, um Geld zu sparen. Das funktioniert nur bei Diensten, die nach Stunden abgerechnet werden. So rechnet jedes Modell ab:
| Abrechnungsmodell | Name bei Bedrock | Name bei Azure | Kosten im Leerlauf | Einsetzen, wenn |
|---|---|---|---|---|
| Bezahlung pro Token | On-Demand | Standard / Global Standard / Data Zone Standard | Keine | Fast immer, bei KMU-Volumina |
| Reservierte Kapazität | Provisioned Throughput (über den AWS-Vertrieb) | Provisioned Throughput Units (PTU) | Voller Stundensatz, ob genutzt oder nicht | Sehr hohes, gleichmäßiges Volumen oder garantierte Latenz |
| Batch | Batch-Inferenz (etwa 50 % günstiger) | Batch-Deployments (rabattiert) | Keine | Arbeit, auf die niemand wartet, etwa Nachverarbeitungen |
| Prompt-Caching | Cache-Lesezugriff zu etwa dem 0,1-Fachen des Eingabepreises (Claude) | Abhängig vom Modell | Keine | Jeder Prompt mit einem langen wiederholten Präfix |
| Gemietete GPU | Ihr eigener Modellserver auf einer Cloud- oder Colocation-GPU | Voller Monatssatz | Sehr hohes Volumen oder Daten, die Ihre Kontrolle nie verlassen dürfen | |
Auf jedem Weg mit Bezahlung pro Token entscheidet der Ein/Aus-Schalter also, wohin Daten gehen, nicht, was Sie zahlen. Auch die unterstützende Infrastruktur ist günstig: Bei AWS kosten IAM-Rollen, Konfiguration und eine leere Log-Gruppe nichts, und ein einzelner CloudWatch-Alarm kostet etwa $0,10 im Monat.
3. Das Kostenmodell
Jeder Weg mit Abrechnung pro Token lässt sich auf eine Formel zurückführen:
cost per call = input_tokens × input_price + output_tokens × output_price
# Claude Haiku on Bedrock EU, ~$0.11 in / $0.55 out per million tokens
= 3,600 × 0.11 / 1,000,000 + 250 × 0.55 / 1,000,000
= $0.000396 + $0.000138
≈ $0.00053 per call → ~$53 per 100,000 calls
| Weg | Verarbeitet in | Preis pro 1 Mio. Tokens (Ein- / Ausgabe) | 10k / Monat | 100k / Monat | 1 Mio. / Monat |
|---|---|---|---|---|---|
| Amazon Nova Micro, Bedrock London | Vereinigtes Königreich | ~$0,049 / $0,196 | ~$2 | ~$23 | ~$225 |
| Amazon Nova Lite, Bedrock London | Vereinigtes Königreich | ~$0,084 / $0,336 | ~$4 | ~$39 | ~$386 |
| Claude Haiku 5.5, Bedrock-EU-Profil | EU | ~$0,11 / $0,55 | ~$5 | ~$53 | ~$534 |
| Claude Haiku 5.5, Microsoft Foundry | Nicht festgelegt | ~$0,10 / $0,50 | ~$5 | ~$49 | ~$485 |
| GPT-5 mini, Azure OpenAI UK South | Vereinigtes Königreich (nach Freigabe) | ~$0,28 / $2,20 | ~$16 | ~$156+ | ~$1.558+ |
| Civo relaxAI | Vereinigtes Königreich | ab £0,10 / £0,60 | ~$7 | ~$66 | ~$663 |
| Qwen3-32B, Nebius | EU oder USA (nur bei einem dedizierten Endpunkt fest) | ~$0,10 / $0,30 | ~$4 | ~$44 | ~$435 |
| Mistral Small 3.2, Scaleway | Frankreich | €0,15 / €0,35 | ~$7 | ~$72 | ~$722 |
| Gemietete L40S GPU, London | Vereinigtes Königreich (Ihr Modell) | pauschal | $942 | $942 | $942 |
| Ihr eigener GPU-Server | Ihre Räumlichkeiten | keine Kosten pro Aufruf | Nur Hardware, Strom und Wartung | ||
Zwei Vorbehalte. GPT-5 mini ist ein Reasoning-Modell: Versteckte Reasoning-Tokens werden als Ausgabe abgerechnet, die tatsächliche Zahl liegt also über der angegebenen. Und der günstigste Weg ist nur dann günstig, wenn er korrekt klassifiziert; ein Modell, das jede zehnte Transaktion falsch einordnet, erzeugt Support- und Korrekturaufwand, der die Token-Rechnung weit übersteigt. Abschnitt 9 zeigt, wie Sie das testen.
4. AWS Bedrock im Detail
4.1 Wo Bedrock Daten verarbeitet
Bedrock bietet drei Arten, ein Modell aufzurufen, und sie entscheiden über die Residency:
- In-Region: Die Anfrage wird in der Region verarbeitet, die Sie aufrufen. Amazon Nova Micro und Nova Lite sind in-region in Europa (London),
eu-west-2, verfügbar. Das ist der Weg, der ausschließlich im Vereinigten Königreich bleibt. - Geografische regionsübergreifende Inferenzprofile (IDs mit dem Präfix
eu.): Die Anfrage kann in jeder Region innerhalb dieses geografischen Raums verarbeitet werden. Claude Haiku über das EU-Profil bleibt in EU-Regionen, ist aber nicht auf das Vereinigte Königreich festgelegt. - Globale Profile: Verarbeitung dort, wo Kapazität frei ist. Für diese Datenregel nicht geeignet.
Ein häufiger Fehler ist die Annahme, dass „eine EU-Region“ „das Vereinigte Königreich“ bedeutet. Stockholm (eu-north-1) oder Frankfurt ist ein EU-Standort, kein britischer Standort; beschreiben Sie das in Ihrer Dokumentation und Ihrer Datenschutzerklärung zutreffend. AWS gibt an, dass Bedrock Prompts und Antworten weder zum Training von AWS-Modellen verwendet noch mit Modellanbietern teilt; das Logging von Modellaufrufen ist deaktiviert, sofern Sie es nicht aktivieren.
4.2 Nova in London mit einem gecachten Präfix aufrufen
Die Bedrock Converse API bietet eine einheitliche Anfrageform für Nova und Claude. Ein cachePoint nach dem System-Prompt markiert bei Modellen, die das unterstützen, das wiederholte Präfix für das Prompt-Caching:
import json, boto3
brt = boto3.client("bedrock-runtime", region_name="eu-west-2") # London
SYSTEM_PROMPT = open("classify_system_prompt.txt").read() # categories, rules, examples
def classify(txn: dict, model_id="amazon.nova-micro-v1:0") -> dict:
resp = brt.converse(
modelId=model_id, # in-region model: UK only
system=[{"text": SYSTEM_PROMPT}, {"cachePoint": {"type": "default"}}],
messages=[{"role": "user", "content": [{"text": json.dumps(txn)}]}],
inferenceConfig={"maxTokens": 300, "temperature": 0},
)
usage = resp["usage"] # inputTokens, outputTokens, cacheReadInputTokens, cacheWriteInputTokens
answer = json.loads(resp["output"]["message"]["content"][0]["text"])
return {"answer": answer, "usage": usage}
Für Claude über das EU-Profil ist der Aufruf derselbe, mit der EU-Inferenzprofil-ID des Modells als modelId, ausgeführt aus einer der EU-Quellregionen des Profils. Prüfen Sie die aktuellen Quell- und Zielregionen des Profils in der Bedrock-Konsole, bevor Sie sie in eine Datenschutzerklärung schreiben.
4.3 Die Region in IAM durchsetzen
Verlassen Sie sich nicht allein auf Code, um Anfragen in der Region zu halten. Gewähren Sie der Anwendungsrolle nur die Modelle und Regionen, die die Datenregel erlaubt. Für einen Dienst, der ausschließlich im Vereinigten Königreich arbeitet:
{
"Version": "2012-10-17",
"Statement": [
{
"Sid": "InvokeUkOnlyModels",
"Effect": "Allow",
"Action": ["bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream"],
"Resource": [
"arn:aws:bedrock:eu-west-2::foundation-model/amazon.nova-micro-v1:0",
"arn:aws:bedrock:eu-west-2::foundation-model/amazon.nova-lite-v1:0"
]
}
]
}
Ein Dienst, für den die EU zulässig ist, ergänzt die ARN des Inferenzprofils und die Foundation-Model-ARNs in jeder Zielregion des Profils, also genau die Liste, die Ihre Datenschutzerklärung nennen sollte.
4.4 Was Geld kostet, ohne etwas zu bringen
- Private Netzwerk-Endpunkte (AWS PrivateLink Interface Endpoints) kosten etwa $7 bis $8 pro Endpunkt und Availability Zone im Monat. Sie helfen nur, wenn Ihre Anwendungsserver innerhalb von AWS laufen. Laufen sie anderswo, durchquert der Datenverkehr trotzdem das Internet, um die VPC zu erreichen; lassen Sie sie also weg und verwenden Sie TLS mit IAM-Authentifizierung.
- Provisioned Throughput wird jede Stunde abgerechnet, ob genutzt oder nicht. Bei KMU-Volumina ist On-Demand günstiger.
Richten Sie unbedingt einen AWS-Budgets-Alarm ein, zum Beispiel bei $20 im Monat, damit eine Retry-Schleife oder eine außer Kontrolle geratene Nachverarbeitung jemanden alarmiert, bevor es die Rechnung tut.
5. Microsoft Azure im Detail
5.1 Deployment-Typen und Residency
Die Pro-Token-Deployments von Azure gibt es in drei Residency-Bereichen: Global Standard (Verarbeitung in jeder Azure-Region), Data Zone Standard (Verarbeitung innerhalb einer Datenzone wie den USA oder der EU) und regionales Standard (Verarbeitung in der Region des Deployments). Reservierte Kapazität heißt PTU und wird stündlich abgerechnet.
- Claude auf Microsoft Foundry ist als Global Standard oder in einer US-Datenzone verfügbar. Zum Zeitpunkt der Erstellung gibt es keine EU-Datenzone für Claude, und die Dokumentation von Microsoft weist darauf hin, dass Daten außerhalb der gewählten Region verarbeitet werden können. Das schließt es unter einer EU-oder-UK-Regel aus, unabhängig vom Preis.
- Azure OpenAI in UK South ist auf beiden Clouds der einzige Weg zu OpenAI-Modellen mit Verarbeitung im Vereinigten Königreich. Kunden berichten, dass dafür eine Freigabe durch Microsoft nötig ist, dass man mit null Kontingent starten kann und dass ältere Modelle nach Zeitplan abgekündigt werden; planen Sie also Migrationen ein. GPT-5 mini kommt mit etwa $0,28 Eingabe und $2,20 Ausgabe pro Million Tokens auf etwa die dreifachen Kosten pro Transaktion im Vergleich zu Claude Haiku, noch vor Reasoning-Tokens.
5.2 Azure OpenAI aufrufen
Die v1-API von Azure OpenAI akzeptiert den Standard-OpenAI-Client mit einer anderen Basis-URL; eine Anwendung, die bereits das OpenAI-Format spricht, braucht also nur Konfiguration und den Deployment-Namen anstelle eines Modellnamens:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://<your-resource>.openai.azure.com/openai/v1/",
api_key=os.environ["AZURE_OPENAI_API_KEY"],
)
resp = client.chat.completions.create(
model="<your-uk-south-deployment>",
messages=[{"role": "system", "content": SYSTEM_PROMPT},
{"role": "user", "content": txn_json}],
)
Wo es passt: Organisationen, die bereits fest an Microsoft-Verträge gebunden sind, oder Kunden, die ausdrücklich OpenAI-Modelle mit Verarbeitung im Vereinigten Königreich verlangen. Für diese Arbeitslast und diese Regel kostet es mehr und bietet weniger Zugangssicherheit als Bedrock.
6. Alternativen im Vereinigten Königreich und in der EU
| Option | Verarbeitet in | Hinweise |
|---|---|---|
| Civo relaxAI | Rechenzentren im Vereinigten Königreich | Britisches Unternehmen; OpenAI-kompatible API ab £0,10 / £0,60 pro Million Tokens; offene Modelle, also Qualität testen |
| Scaleway Generative APIs | Frankreich | OpenAI-kompatibel; Mistral und andere offene Modelle; kostenloses Startkontingent; Batch-Rabatt |
| Nebius Token Factory | EU oder USA | Geteilte Endpunkte wählen ihre Region selbst; nutzen Sie einen dedizierten Endpunkt, um sie festzulegen, und aktivieren Sie Zero Data Retention |
| Ihr eigener GPU-Server | Ihre Räumlichkeiten oder Colocation | Offene Modelle über Ollama oder vLLM; keine Gebühr pro Aufruf; Kapazität, Patches und Verfügbarkeit liegen bei Ihnen |
| Gemietete GPU im Vereinigten Königreich | Vereinigtes Königreich | Etwa $942 im Monat für eine L40S in London; Sie betreiben den Modellserver |
Die meisten davon sprechen das Anfrageformat von OpenAI, sodass ein Adapter sie alle abdeckt. Eine minimale Anbieter-Registry, die die Residency jedes Wegs mitführt (zur Veranschaulichung; Basis-URLs und Modellnamen sind Platzhalter):
from dataclasses import dataclass
from openai import OpenAI
@dataclass(frozen=True)
class Route:
name: str
residency: str # "UK", "EU" or "GLOBAL"
base_url: str
model: str
key_env: str
ROUTES = [
Route("own-gpu", "UK", "http://llm.internal:11434/v1", "<open-model>", "LOCAL_LLM_KEY"),
Route("relaxai", "UK", "<relaxai-base-url>", "<model>", "RELAXAI_API_KEY"),
Route("scaleway", "EU", "<scaleway-base-url>", "<model>", "SCW_SECRET_KEY"),
]
ALLOWED = {"UK": {"UK"}, "EU": {"UK", "EU"}}
def routes_for(rule: str) -> list[Route]:
"""Only routes the customer's data rule permits, in preference order."""
return [r for r in ROUTES if r.residency in ALLOWED[rule]]
Der Sinn dieses Designs ist, dass ein Weg ohne deklarierte Residency nicht ausgewählt werden kann und ein falsch konfigurierter Fallback nicht stillschweigend Daten, die im Vereinigten Königreich bleiben müssen, an einen EU- oder globalen Endpunkt senden kann.
7. Weniger und kleinere Aufrufe
Der günstigste KI-Aufruf ist der, den Sie gar nicht machen. Nach Wirkung geordnet:
- Regeln zuerst. Empfängernamen, Händlerkategoriecodes und einfache Muster klassifizieren einen großen Teil der Transaktionen ganz ohne Modell. Protokollieren Sie, wie viele bei jedem Lauf zutreffen, damit Sie sehen, wie der Anteil wächst.
- Gedächtnis pro Kunde. Derselbe Supermarkt, derselbe Vermieter oder dasselbe Software-Abonnement taucht jede Woche oder jeden Monat auf. Speichern Sie die bestätigten Antworten jedes Kunden und verwenden Sie sie für wiederkehrende Empfänger erneut; rufen Sie das Modell nur auf, wenn der Empfänger neu ist oder sich das Betragsmuster ändert.
- Prompt-Caching. Jede Klassifizierung sendet dieselbe Kategorieliste, dieselben Regeln und Beispiele erneut. Wenn etwa 3.000 der 3.600 Eingabe-Tokens ein stabiles Präfix sind, senkt das Lesen aus dem Cache zum 0,1-Fachen des Eingabepreises die Kosten für Claude Haiku auf Bedrock EU von etwa $53 auf etwa $24 pro 100.000 Aufrufe. Zwei Bedingungen: Das Präfix muss zwischen den Aufrufen byte-identisch sein (alles Variable gehört dahinter), und es muss die minimale cachefähige Länge des Modells überschreiten, die bei kleineren Modellen mehrere tausend Tokens betragen kann. Messen Sie zuerst den wiederholten Anteil.
- Kürzere Prompts. Die Kosten skalieren mit der Länge. Entfernen Sie Beispiele, die die Genauigkeit auf Ihrem Golden Set nicht verändern.
- Nächtliche Arbeit als Batch. Die Neuklassifizierung der Historie nach einer Kategorieänderung ist perfekte Batch-Arbeit zum etwa halben Preis.
| Schritt | Aufrufe pro 100k Transaktionen (Beispiel) | Monatliche Kosten, Haiku EU (Beispiel) |
|---|---|---|
| Jede Transaktion an das Modell | 100.000 | ~$53 |
| Regeln treffen bei 40 % zu | 60.000 | ~$32 |
| Gedächtnis verwendet die Hälfte des Rests erneut | 30.000 | ~$16 |
| Prompt-Caching für den Rest | 30.000 | ~$7 |
Die Prozentsätze dienen der Veranschaulichung; Ihre Logs liefern die echten Werte. Entscheidend ist das Muster: Jede Ebene entfernt Arbeit, bevor die teurere Ebene läuft.
8. Residency durchsetzen, nicht nur dokumentieren
- Datenregel pro Kunde, gespeichert beim Konto (Vereinigtes Königreich oder EU) und vom Router bei jedem Aufruf gelesen.
- Allow-List von Wegen mit deklarierter Residency (Abschnitt 6); unbekannte Wege werden abgelehnt.
- Durchsetzung auf Cloud-Seite: IAM beschränkt auf die erlaubten Modell-ARNs und Regionen (Abschnitt 4.3); bei Azure nur regionale Deployments oder Deployments in der EU-Datenzone im Abonnement.
- Kein Training und minimale Aufbewahrung: Prüfen Sie die Bedingungen jedes Anbieters; aktivieren Sie Zero Data Retention, wo es diese Option gibt; halten Sie Ihre eigenen Prompt-Logs aus allgemeinen Log-Speichern heraus oder schwärzen Sie sie.
- Notschalter pro Weg: eine Admin-Einstellung, die einen Weg sofort und ohne Deployment aus der Kette entfernt.
- Jeden Aufruf tracen: Weg, Modell, Region, Eingabe-, gecachte und Ausgabe-Tokens, Kosten und Latenz, damit Finanzabteilung und Datenschutzverantwortliche dieselben Zahlen sehen.
- Budgetalarme für jedes Cloud-Konto und jeden API-Schlüssel.
- Zutreffend dokumentieren in Ihrer Datenschutzerklärung und im Verzeichnis von Verarbeitungstätigkeiten: Nennen Sie die Regionen, nicht nur „Europa“.
9. Qualität vor Preis testen
Bauen Sie ein Golden Set aus etwa 200 echten Transaktionen mit bekannten richtigen Antworten auf, gewichtet auf die schwierigen Fälle: Rückerstattungen, Überweisungen zwischen eigenen Konten eines Kunden, aufgeteilte Zahlungen und mehrdeutige Empfänger. Führen Sie jeden Weg aus, den Ihre Residency-Regel erlaubt, einschließlich Ihres eigenen GPU-Modells als Vergleichsbasis, mit demselben Prompt und Temperatur 0. Ein minimales Test-Harness (zur Veranschaulichung):
import csv, time, statistics
def evaluate(route, golden_csv, classify, price_in, price_out):
rows = list(csv.DictReader(open(golden_csv)))
right, costs, latencies, schema_fail = 0, [], [], 0
for row in rows:
t0 = time.perf_counter()
try:
out = classify(row, route) # returns {"answer": {...}, "usage": {...}}
except ValueError: # unparseable or off-schema answer
schema_fail += 1
continue
latencies.append(time.perf_counter() - t0)
right += out["answer"]["category"] == row["expected_category"]
u = out["usage"]
costs.append(u["inputTokens"] * price_in / 1e6 + u["outputTokens"] * price_out / 1e6)
n = len(rows)
return {
"route": route,
"accuracy": right / n,
"schema_failures": schema_fail,
"cost_per_1k": 1000 * statistics.mean(costs) if costs else None,
"p95_latency_s": statistics.quantiles(latencies, n=20)[18] if len(latencies) >= 20 else None,
}
Wählen Sie den günstigsten Weg, der Ihre Genauigkeitsmesslatte insgesamt und bei den schwierigen Kategorien erreicht, und leiten Sie Antworten mit niedriger Konfidenz an ein stärkeres Modell oder einen Menschen weiter. Rollen Sie ihn zuerst im Schattenbetrieb neben dem aktuellen Weg aus und stellen Sie dann um, wobei der alte Weg als Fallback erhalten bleibt. Behalten Sie das Golden Set: Es wird zum Regressionstest, den Sie jedes Mal erneut ausführen, wenn ein Anbieter ein Modell abkündigt oder Sie den Prompt ändern.
10. Wann sich eine dedizierte GPU rechnet
Eine gemietete GPU im Vereinigten Königreich für etwa $942 im Monat erreicht Claude Haiku auf Bedrock EU erst bei etwa 1,8 Millionen Klassifizierungen im Monat und erreicht Nova Micro innerhalb von zwei Millionen nicht. Darunter ist die Bezahlung pro Token günstiger und kostet im Leerlauf nichts. Die Rechnung ändert sich in drei Fällen:
- Sie besitzen die Hardware bereits. Dann zählen nur Strom und Wartung, und ein leistungsfähiges offenes Modell auf einer GPU der Workstation-Klasse kann die Klassifizierung zu Grenzkosten nahe null bedienen.
- Daten dürfen Ihre Kontrolle nie verlassen, aus vertraglichen oder regulatorischen Gründen, unabhängig von den Kosten.
- Die GPU bedient mehrere Arbeitslasten: Klassifizierung, Dokumentenauslesen, Embeddings und interne Assistenten zusammen können einen dedizierten Server schon weit unter 1,8 Millionen Aufrufen rechtfertigen.
Einen eigenen Modellserver zu betreiben bedeutet, für Kapazitätsplanung, Modellaktualisierungen, Monitoring und Failover selbst verantwortlich zu sein. Behalten Sie einen Pro-Token-Weg als Fallback in der Kette, damit ein GPU-Fehler den Dienst verschlechtert, statt ihn zu stoppen.
11. Checkliste für die Entscheidung
- Die oder der Datenschutzverantwortliche legt die Regel fest: nur Vereinigtes Königreich oder EU erlaubt.
- Messen Sie mit Tracing die echten Token-Zahlen und den Anteil des wiederholten Präfixes.
- Führen Sie das Golden Set über jeden erlaubten Weg aus; wählen Sie zuerst nach Genauigkeit, dann nach Kosten.
- Ergänzen Sie Regeln, Gedächtnis pro Kunde und Prompt-Caching, bevor Sie das Volumen skalieren.
- Deployen Sie mit Regionsdurchsetzung auf IAM- oder Abonnementebene, einem Notschalter pro Weg und Budgetalarmen; lassen Sie private Endpunkte und reservierte Kapazität weg, es sei denn, Ihre Server laufen in derselben Cloud und Ihr Volumen rechtfertigt sie.
- Dokumentieren Sie die Regionen in der Datenschutzerklärung und im Verzeichnis von Verarbeitungstätigkeiten.
- Prüfen Sie jeden Preis in den Rechnern der Anbieter nach, und führen Sie das Golden Set erneut aus, wenn ein Anbieter ein Modell ändert oder abkündigt.
12. Wie Workstation helfen kann
Wir helfen Organisationen im Vereinigten Königreich, KI auf sensiblen Daten zu betreiben: Auswahl und Anbindung residency-bewusster Wege auf Bedrock, Azure und bei britischen Anbietern, Aufbau des Evaluierungs-Harness und der Golden Sets, Ergänzung von Caching und Regeln zur Kostensenkung sowie Lieferung oder Hosting von GPU-Servern, wenn sich ein eigenes Modell lohnt. Für die Hardwareseite lesen Sie unseren Leitfaden GPU Private Cloud und nutzen Sie den VRAM-Rechner, vergleichen Sie Leasing und Kauf auf gpuleasing.co.uk, oder sprechen Sie mit uns.
Annahmen und Quellen
- Arbeitslast: etwa 3.600 Eingabe- und 250 Ausgabe-Tokens pro Klassifizierung; messen Sie Ihre eigenen Werte.
- Preise: ungefähre Listenpreise vom November 2026 von Anbieterseiten und Preis-Trackern Dritter; Wechselkurse £1 = $1,30, €1 = $1,15. Gemietete GPU: etwa $942 im Monat für eine NVIDIA L40S in London.
- AWS: Preise für Amazon Bedrock (On-Demand, Batch, Provisioned Throughput), Modellkarten und regionale Verfügbarkeit von Amazon Nova (Nova Micro und Nova Lite in-region in London), Dokumentation zur regionsübergreifenden Inferenz in Bedrock, Preise für AWS PrivateLink.
- Anthropic: Preise für Claude, einschließlich der Basis-, Cache-Lese- und Batch-Tarife für Claude Haiku 5.5.
- Microsoft: Deployment-Typen in Foundry (Global Standard, Data Zone Standard, PTU, Batch) und Dokumentation zu Claude in Foundry; InfoQ, „Claude Reaches GA on Microsoft Foundry: European Enterprises Cannot Deploy It“ (Juli 2026); Microsoft-Q&A-Threads zum Zugang zu UK South und zur Abkündigung von Modellen.
- Civo: Ankündigung des Starts der relaxAI-API (Deployments im Vereinigten Königreich ab £0,10 / £0,60 pro Million Tokens). Preise für Scaleway Generative APIs. Dokumentation von Nebius Token Factory zu Regionen und Zero Data Retention.
- Sämtlicher Code dient der Veranschaulichung und muss vor der Verwendung angepasst, geprüft und getestet werden.
Hinweis zu Schutzrechten: Amazon Web Services, AWS, Amazon Bedrock und Amazon Nova sind Marken von Amazon.com, Inc. oder seinen verbundenen Unternehmen. Microsoft, Azure und Microsoft Foundry sind Marken der Microsoft-Unternehmensgruppe. Claude ist eine Marke von Anthropic, PBC. OpenAI und GPT sind Marken von OpenAI. NVIDIA und L40S sind Marken der NVIDIA Corporation. Andere Produkt- und Firmennamen sind Eigentum ihrer jeweiligen Inhaber.