De shop is live

Wij bouwen Workstation AI-machines voor websites, AI-agents en LLM-training — configureer en koop online.

Bekijk handelsprijzen
AI-producten
AI LabsOpenAI-agentsClaude-agentsGrok-botWorkstation AI native CRMMarketingAlle producten
AI-oplossingen
Toegepaste AIAI-agentsGeneratieve AIAI-automatiseringAI-bijscholingAI-pakketten voor het mkbEnterprise AI LabAI-werkstationsNVIDIA-hardware en -softwareNVIDIA Accelerated ComputingPrivate AIGPU private cloudGPU-clustersEdge AIAI per sector
AI-diensten
PlatformmoderniseringDigitale engineeringDatafundamenten en AIAutonome operatiesAI-adviesDevOps-automatiseringCybersecuritySoftwareontwikkelingAgentontwikkelingMLOps-opzetGPU-leasingGPU private cloud
Over ons
BedrijfOns verhaalPartnersKlantverhalen
AI-datacenters
AI-datacentersGPU private cloudGPU-clustersGPU-leasing
AI-inzichtenJev-reeksBenchmarklabModelkeuze
Technische notities
Documentatie
Linux-OSUbuntuRed Hat Enterprise LinuxSUSE LinuxAlpine LinuxDebian, Rocky & AlmaLinux
AI-cloudplatformsAWS & Amazon BedrockGoogle Cloud & Vertex AIMicrosoft Azure & AI FoundryGPU-clouds en -marktplaatsen
Private AI-datacentersVoor advocatenkantorenVoor accountantskantorenOn-premises platformsVolledig beveiligde cloud
ToolsRing PromoterJobshout
Nieuws
Blog
Neem contact opInloggen

AI-werkstations, AI multi-agent software, GPU-infrastructuur en intelligente agentoplossingen voor moderne bedrijven.

Neem contact op

AI-oplossingen

Toegepaste AIAI-agentsGeneratieve AIAI-automatiseringAI-bijscholingAI-pakketten voor het mkbEnterprise AI LabAI per sector

Producten

Alle productenWorkstation AI-native CRM & ERPMarketingOpenAI-agentsRing PromoterJobshout

Bedrijf

Over onsBedrijfAI-datacentersWaarom WorkstationPartnersKlantverhalenPrijzenContactTenthMatrix

Bronnen

AI-inzichtenTechnische notitiesDocumentatieLinux-OSAI-cloudplatformsPrivate AI-datacentersBlogZoekenSitemap
Kantoor België
Workstation SRL, Rue Vanderkindere 34, 1180 Uccle, BrusselsBE 0751.518.683Ma - Vr: 9:00 - 18:00 CET
+32 492 45 67 46
Hoofdkantoor VK
77-79 Marlowes, Hemel Hempstead HP1 1LFRoute: neem afrit 20 van de M25, Outer LondonBedrijfsnummer: 11641870Ma - Vr: 9:00 - 18:00 GMT
+44 7515 356 146
Kantoor India
#159 Sector 9, Pocket 1, DDA Flats, 110077 Dwarka, New Delhi
+91 98881 98841
Kantoor Taiwan
3F, No. 2-4, Aisi Rd., Ren'ai Dist., Keelung City 200, Taiwan基隆市仁愛區愛四路2之4號3樓Ma - Vr: 9:00 - 18:00 Taiwanese tijd (GMT+8)
+886 926 892 701+32 492 45 67 46
Kantoor Estland
Aleksander Puškini tn 30-25, 20306 Narva, EstoniaMa - vr: 9:00 - 18:00 uur Estse tijd (EET)
+32 492 45 67 46

© 2026 Workstation AI. Alle rechten voorbehouden.

PrivacyGegevensverwijderingCookiesServicevoorwaardenWebsite-sitemap

NVIDIA, het NVIDIA-logo, RTX, RTX PRO, Blackwell, CUDA, NVLink, MGX, Omniverse, Spectrum-X, Quantum, BlueField, DGX en HGX zijn handelsmerken en/of gedeponeerde handelsmerken van NVIDIA Corporation in de VS en andere landen. AMD, het AMD Arrow-logo, EPYC, Instinct, Ryzen en Threadripper zijn handelsmerken van Advanced Micro Devices, Inc. Dell en PowerEdge zijn handelsmerken van Dell Inc. of haar dochterondernemingen. Intel en Xeon zijn handelsmerken van Intel Corporation of haar dochterondernemingen. AMAX, AceleMax en LiquidMax zijn handelsmerken van AMAX Engineering Corporation. Alle andere productnamen, logo's en merken zijn eigendom van hun respectieve eigenaren. Wij gebruiken ze uitsluitend om de producten aan te duiden die wij beschrijven, leveren of ondersteunen; het gebruik ervan betekent niet dat de eigenaren ons onderschrijven.

Home / Technische notities / Technology
AILLMSecurityArchitecture

Private AI voor financiële data: residency, routing en kosten op AWS Bedrock, Microsoft Azure en uw eigen GPU's

Factureringsmodellen en kosten bij stilstand, kosten per aanroep bij drie volumes, Bedrock in-region versus EU-profielen, Converse API met prompt caching en regio-afdwinging in IAM, Azure-deploymenttypen en Claude op Foundry, providers in het VK en de EU, een residency-bewust provider-register, een workflow om kosten te verlagen, een evaluatieharness met golden set en het break-evenpunt van een GPU

14 november 2026Technology17 min read

Een praktijkgids voor het hosten van AI voor financiële klantgegevens in het Verenigd Koninkrijk. De gids neemt één realistische workload als uitgangspunt, het classificeren van banktransacties plus het lezen van bonnetjes en het beantwoorden van chatvragen, en werkt uit hoe AWS Bedrock en Microsoft Azure factureren, waar elk de data daadwerkelijk verwerkt, wat elke route kost bij drie volumes, hoe u de rekening verlaagt met regels, geheugen, prompt caching en batch, hoe u kwaliteit test vóór prijs, wanneer een dedicated GPU zich terugverdient en welke governancecontroles om dit alles heen horen. Workflows en code staan door de hele tekst heen.

Een verzoek loopt van een rule engine en klantgeheugen via een gecachte prompt naar een residency-router en validatie, naast de kostenformule per aanroep, uitgewerkt voor Claude Haiku op Bedrock EU.

Samenvatting. Standaardimplementaties van Bedrock en Azure factureren per token, dus ze kosten niets als ze stilstaan; uitschakelen bespaart geen geld en verandert alleen waar data naartoe kan. Bepaal eerst de residency-regel. Is het Verenigd Koninkrijk vereist, gebruik dan Amazon Nova in de Londense regio van Bedrock, een Britse provider zoals Civo relaxAI of uw eigen GPU's. Is de EU acceptabel, dan is Claude Haiku via het EU-inferentieprofiel van Bedrock de sterkste goedkope optie. Claude op Microsoft Foundry heeft nog geen verwerkingsoptie in de EU of het VK, en in het VK gehoste GPT-5 mini op Azure kost per aanroep ongeveer drie keer zoveel en vereist goedkeuring van Microsoft. Verlaag daarna eerst het volume en dan pas de prijs: regels en geheugen per klant schrappen aanroepen, prompt caching brengt het herhaalde deel van elke prompt terug tot ongeveer een tiende van de prijs, en batchwerk 's nachts kost de helft. Test de kwaliteit op een golden set voordat u iets omzet.

Deze technote hoort bij onze blogpost Private AI hosting in the UK: Bedrock, Azure or your own GPUs?. Prijzen zijn indicatieve catalogusprijzen per november 2026, in Amerikaanse dollars tenzij anders vermeld, met £1 = $1,30 en €1 = $1,15. Sommige komen van prijstrackers van derden, omdat de prijspagina's van de providers zelf hun tabellen niet altijd weergeven voor geautomatiseerde tools. Controleer elk bedrag opnieuw in de calculator van de provider voordat u zich vastlegt.

1. De workload en de dataregel

Het uitgewerkte voorbeeld is een Britse financiële applicatie: een boekhoud- of belastingproduct dat banktransacties en bonnetjes van klanten importeert. Het grootste deel van de AI-uitgaven gaat naar classificatie: één aanroep per transactie, met ongeveer 3.600 inputtokens (de categorielijst, de regels van de klant en een paar voorbeelden, plus de transactie) en ongeveer 250 outputtokens. Meet uw eigen cijfers met een LLM-tracingtool zoals Langfuse voordat u op een schatting vertrouwt, ook de onze.

TaakHoe vaak de AI wordt aangeroepenVereist
Banktransacties classificerenEén keer per transactieOngeveer 3.600 tokens in, 250 uit; het grootste deel van het volume
Gescande pdf's en bonnetjes lezenEén keer per pagina of afbeeldingEen model dat afbeeldingen kan lezen
Chatassistent voor klantenEén keer per berichtEen sterk conversatiemodel; latency is belangrijk
Importfallback voor onleesbare bestandenAlleen als regels falenZelfde route als classificatie

De dataregel die alles bepaalt: financiële klantgegevens mogen niet naar publieke consumenten-AI-diensten. Ze moeten in het Verenigd Koninkrijk, of in ieder geval in de EU, worden verwerkt, zonder dat erop wordt getraind en zonder langdurige bewaring. Leg die regel vast, maak uw verantwoordelijke voor gegevensbescherming eigenaar ervan en laat de code hem afdwingen (sectie 8).

2. Kosten bij stilstand: wat er gefactureerd wordt als er niets gebeurt

Een veelvoorkomende reflex is AI-diensten 's nachts uit te zetten om geld te besparen. Dat werkt alleen voor diensten die per uur worden gefactureerd. Zo factureert elk model:

FactureringsmodelNaam bij BedrockNaam bij AzureKosten bij stilstandGebruik het wanneer
Betalen per tokenOn-demandStandard / Global Standard / Data Zone StandardNietsBijna altijd, bij mkb-volumes
Gereserveerde capaciteitProvisioned Throughput (via AWS-sales)Provisioned Throughput Units (PTU)Volledig uurtarief, gebruikt of nietZeer hoog, constant volume of gegarandeerde latency
BatchBatch inference (ongeveer 50% korting)Batch deployments (met korting)NietsWerk waar niemand op wacht, zoals backfills
Prompt cachingCache read tegen ongeveer 0,1x de inputprijs (Claude)Afhankelijk van het modelNietsElke prompt met een lang herhaald prefix
Gehuurde GPUUw eigen modelserver op een cloud- of gecoloceerde GPUVolledig maandtariefZeer hoog volume, of data die nooit uit uw beheer mag

Op elke route met betaling per token bepaalt de aan/uit-schakelaar dus waar data naartoe gaat, niet wat u betaalt. De ondersteunende infrastructuur is ook goedkoop: op AWS kosten IAM-rollen, configuratie en een lege loggroep niets, en één CloudWatch-alarm kost ongeveer $0,10 per maand.

3. Het kostenmodel

Elke route met betaling per token komt neer op één formule:

cost per call = input_tokens × input_price + output_tokens × output_price

# Claude Haiku on Bedrock EU, ~$0.11 in / $0.55 out per million tokens
= 3,600 × 0.11 / 1,000,000 + 250 × 0.55 / 1,000,000
= $0.000396 + $0.000138
≈ $0.00053 per call  →  ~$53 per 100,000 calls

Staafdiagram van de geschatte maandkosten per 100.000 classificaties: Nova Micro Londen $23, Claude Haiku Bedrock EU met caching $24, Nova Lite Londen $39, Qwen3-32B op Nebius $44, Claude Haiku op Microsoft Foundry $49, Claude Haiku Bedrock EU $53, Civo relaxAI $66, Mistral Small op Scaleway $72, GPT-5 mini Azure UK South $156 plus reasoning-tokens; een gehuurde Britse GPU kost vast $942 per maand.

RouteVerwerkt inPrijs per 1M tokens (in / uit)10k / maand100k / maand1M / maand
Amazon Nova Micro, Bedrock LondenVK~$0,049 / $0,196~$2~$23~$225
Amazon Nova Lite, Bedrock LondenVK~$0,084 / $0,336~$4~$39~$386
Claude Haiku 5.5, Bedrock EU-profielEU~$0,11 / $0,55~$5~$53~$534
Claude Haiku 5.5, Microsoft FoundryNiet vastgelegd~$0,10 / $0,50~$5~$49~$485
GPT-5 mini, Azure OpenAI UK SouthVK (na goedkeuring)~$0,28 / $2,20~$16~$156+~$1.558+
Civo relaxAIVKvanaf £0,10 / £0,60~$7~$66~$663
Qwen3-32B, NebiusEU of VS (alleen vast op een dedicated endpoint)~$0,10 / $0,30~$4~$44~$435
Mistral Small 3.2, ScalewayFrankrijk€0,15 / €0,35~$7~$72~$722
Gehuurde L40S-GPU, LondenVK (uw model)vast$942$942$942
Uw eigen GPU-serverUw eigen locatiegeen kosten per aanroepAlleen hardware, stroom en onderhoud

Twee kanttekeningen. GPT-5 mini is een reasoning-model: verborgen reasoning-tokens worden als output gefactureerd, dus het werkelijke bedrag ligt hoger dan het getoonde. En de goedkoopste route is alleen goedkoop als die correct classificeert; een model dat één op de tien transacties verkeerd indeelt, veroorzaakt support- en correctiewerk dat de tokenrekening ver overtreft. Sectie 9 laat zien hoe u test.

4. AWS Bedrock in detail

4.1 Waar Bedrock data verwerkt

Bedrock biedt drie manieren om een model aan te roepen, en die bepalen de residency:

  • In-region: het verzoek wordt verwerkt in de regio die u aanroept. Amazon Nova Micro en Nova Lite zijn in-region beschikbaar in Europe (London), eu-west-2. Dit is de route die alleen in het VK blijft.
  • Geografische cross-region inference profiles (ID's met prefix eu.): het verzoek kan in elke regio binnen die geografie worden verwerkt. Claude Haiku via het EU-profiel blijft in EU-regio's, maar is niet vastgelegd op het VK.
  • Globale profielen: verwerkt waar er capaciteit is. Niet geschikt voor deze dataregel.

Een veelgemaakte fout is aannemen dat "een EU-regio" hetzelfde is als "het VK". Stockholm (eu-north-1) of Frankfurt is EU-lokaliteit, geen VK-lokaliteit; beschrijf dat nauwkeurig in uw documentatie en uw privacyverklaring. AWS verklaart dat Bedrock prompts en completions niet gebruikt om AWS-modellen te trainen en ze niet deelt met modelproviders; logging van modelaanroepen staat uit tenzij u die inschakelt.

4.2 Nova in Londen aanroepen met een gecacht prefix

De Bedrock Converse API biedt één verzoekformaat voor Nova en Claude. Een cachePoint na de systeemprompt markeert het herhaalde prefix voor prompt caching bij modellen die dat ondersteunen:

import json, boto3

brt = boto3.client("bedrock-runtime", region_name="eu-west-2")   # London

SYSTEM_PROMPT = open("classify_system_prompt.txt").read()        # categories, rules, examples

def classify(txn: dict, model_id="amazon.nova-micro-v1:0") -> dict:
    resp = brt.converse(
        modelId=model_id,                                         # in-region model: UK only
        system=[{"text": SYSTEM_PROMPT}, {"cachePoint": {"type": "default"}}],
        messages=[{"role": "user", "content": [{"text": json.dumps(txn)}]}],
        inferenceConfig={"maxTokens": 300, "temperature": 0},
    )
    usage = resp["usage"]   # inputTokens, outputTokens, cacheReadInputTokens, cacheWriteInputTokens
    answer = json.loads(resp["output"]["message"]["content"][0]["text"])
    return {"answer": answer, "usage": usage}

Voor Claude via het EU-profiel is de aanroep hetzelfde, met de ID van het EU-inferentieprofiel voor het model als modelId, gedaan vanuit een van de EU-bronregio's van het profiel. Controleer de actuele bron- en doelregio's van het profiel in de Bedrock-console voordat u ze in een privacyverklaring opneemt.

4.3 De regio afdwingen in IAM

Vertrouw niet alleen op code om verzoeken in de regio te houden. Geef de applicatierol alleen de modellen en regio's die de dataregel toestaat. Voor een dienst die alleen in het VK mag draaien:

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "InvokeUkOnlyModels",
      "Effect": "Allow",
      "Action": ["bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream"],
      "Resource": [
        "arn:aws:bedrock:eu-west-2::foundation-model/amazon.nova-micro-v1:0",
        "arn:aws:bedrock:eu-west-2::foundation-model/amazon.nova-lite-v1:0"
      ]
    }
  ]
}

Een dienst waarvoor de EU is toegestaan, voegt de ARN van het inferentieprofiel toe en de foundation-model-ARN's in elk van de doelregio's van het profiel, precies de lijst die uw privacyverklaring moet noemen.

4.4 Zaken die geld kosten zonder voordeel

  • Private netwerkendpoints (AWS PrivateLink interface endpoints) kosten ruwweg $7 tot $8 per endpoint per Availability Zone per maand. Ze helpen alleen als uw applicatieservers binnen AWS draaien. Draaien ze elders, dan loopt het verkeer nog steeds over internet naar de VPC; laat ze dus weg en gebruik TLS met IAM-authenticatie.
  • Provisioned Throughput wordt elk uur gefactureerd, gebruikt of niet. Bij mkb-volumes is on-demand goedkoper.

Voeg wel een AWS Budgets-alert toe, bijvoorbeeld bij $20 per maand, zodat een retry-lus of een op hol geslagen backfill iemand alarmeert voordat de factuur dat doet.

5. Microsoft Azure in detail

5.1 Deploymenttypen en residency

De per-token-deployments van Azure kennen drie residency-scopes: Global Standard (verwerkt in elke Azure-regio), Data Zone Standard (verwerkt binnen een datazone zoals de VS of de EU) en regionaal Standard (verwerkt in de regio van de deployment). Gereserveerde capaciteit heet PTU en wordt per uur gefactureerd.

  • Claude op Microsoft Foundry is beschikbaar als Global Standard of in een Amerikaanse datazone. Op het moment van schrijven is er geen EU-datazone voor Claude, en de documentatie van Microsoft vermeldt dat data buiten de gekozen regio kan worden verwerkt. Onder een EU-of-VK-regel valt het daarmee af, ongeacht de prijs.
  • Azure OpenAI in UK South is op beide clouds de enige route naar OpenAI-modellen die in het VK worden verwerkt. Klanten melden dat het goedkeuring van Microsoft vereist, kan beginnen met nul quota en dat oudere modellen volgens schema worden uitgefaseerd; plan dus migraties in. GPT-5 mini kost met ongeveer $0,28 in en $2,20 uit per miljoen tokens per transactie ruwweg drie keer zoveel als Claude Haiku, nog vóór reasoning-tokens.

5.2 Azure OpenAI aanroepen

De v1-API van Azure OpenAI accepteert de standaard OpenAI-client met een andere base-URL, dus een applicatie die al het formaat van OpenAI spreekt, heeft alleen configuratie nodig, plus de deploymentnaam in plaats van een modelnaam:

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://<your-resource>.openai.azure.com/openai/v1/",
    api_key=os.environ["AZURE_OPENAI_API_KEY"],
)
resp = client.chat.completions.create(
    model="<your-uk-south-deployment>",
    messages=[{"role": "system", "content": SYSTEM_PROMPT},
              {"role": "user", "content": txn_json}],
)

Waar het past: organisaties die al aan Microsoft-contracten vastzitten, of klanten die specifiek OpenAI-modellen eisen die in het VK worden verwerkt. Voor deze workload en regel kost het meer en biedt het minder zekerheid van toegang dan Bedrock.

6. Alternatieven in het VK en de EU

OptieVerwerkt inOpmerkingen
Civo relaxAIBritse datacentersBrits bedrijf; OpenAI-compatibele API vanaf £0,10 / £0,60 per miljoen tokens; open modellen, dus test de kwaliteit
Scaleway Generative APIsFrankrijkOpenAI-compatibel; Mistral en andere open modellen; gratis starttegoed; batchkorting
Nebius Token FactoryEU of VSBij gedeelde endpoints kiest de provider de regio; gebruik een dedicated endpoint om die vast te leggen en schakel zero data retention in
Uw eigen GPU-serverUw eigen locatie of colocatieOpen modellen via Ollama of vLLM; geen kosten per aanroep; u bent verantwoordelijk voor capaciteit, patching en uptime
Gehuurde Britse GPUVKOngeveer $942 per maand voor een L40S in Londen; u draait zelf de modelserver

De meeste hiervan spreken het verzoekformaat van OpenAI, dus één adapter dekt ze allemaal. Een minimaal provider-register dat de residency van elke route meedraagt (ter illustratie; base-URL's en modelnamen zijn placeholders):

from dataclasses import dataclass
from openai import OpenAI

@dataclass(frozen=True)
class Route:
    name: str
    residency: str          # "UK", "EU" or "GLOBAL"
    base_url: str
    model: str
    key_env: str

ROUTES = [
    Route("own-gpu",   "UK", "http://llm.internal:11434/v1",   "<open-model>",   "LOCAL_LLM_KEY"),
    Route("relaxai",   "UK", "<relaxai-base-url>",           "<model>",        "RELAXAI_API_KEY"),
    Route("scaleway",  "EU", "<scaleway-base-url>",          "<model>",        "SCW_SECRET_KEY"),
]

ALLOWED = {"UK": {"UK"}, "EU": {"UK", "EU"}}

def routes_for(rule: str) -> list[Route]:
    """Only routes the customer's data rule permits, in preference order."""
    return [r for r in ROUTES if r.residency in ALLOWED[rule]]

Het punt van dit ontwerp is dat een route zonder gedeclareerde residency niet kan worden geselecteerd, en dat een verkeerd geconfigureerde fallback niet ongemerkt data die alleen in het VK mag blijven naar een EU- of globaal endpoint kan sturen.

7. Doe minder en kleinere aanroepen

Pipeline: transactie, rule engine, klantgeheugen, prompt met gecacht prefix, provider-router met residency-beleid die kiest tussen Nova Londen, Claude Haiku EU of uw eigen GPU, daarna validatie met schema en betrouwbaarheid; elke aanroep getraceerd met een budgetalert; nachtelijke backfill met batch inference.

De goedkoopste AI-aanroep is de aanroep die u niet doet. In volgorde van impact:

  1. Eerst regels. Namen van begunstigden, merchant category codes en eenvoudige patronen classificeren een groot deel van de transacties zonder enig model. Log hoeveel elke run er matcht, zodat u het aandeel ziet groeien.
  2. Geheugen per klant. Dezelfde supermarkt, verhuurder of softwareabonnement komt elke week of maand terug. Sla de bevestigde antwoorden van elke klant op en hergebruik ze voor terugkerende begunstigden; roep het model alleen aan als de begunstigde nieuw is of het bedragpatroon verandert.
  3. Prompt caching. Elke classificatie verstuurt opnieuw dezelfde categorielijst, regels en voorbeelden. Als ongeveer 3.000 van de 3.600 inputtokens een stabiel prefix vormen, verlaagt het lezen daarvan uit de cache tegen 0,1x de inputprijs de kosten van Claude Haiku op Bedrock EU van ongeveer $53 naar ongeveer $24 per 100.000 aanroepen. Twee voorwaarden: het prefix moet tussen aanroepen byte-identiek zijn (zet alles wat varieert erachter), en het moet langer zijn dan de minimale cachebare lengte van het model, die bij kleinere modellen enkele duizenden tokens kan zijn. Meet eerst het herhaalde aandeel.
  4. Kortere prompts. Kosten schalen met de lengte. Schrap voorbeelden die de nauwkeurigheid op uw golden set niet veranderen.
  5. Batch voor nachtelijk werk. Historie opnieuw classificeren na een categoriewijziging is perfect batchwerk tegen ongeveer de halve prijs.
StapAanroepen per 100k transacties (voorbeeld)Maandkosten, Haiku EU (voorbeeld)
Elke transactie naar het model100.000~$53
Regels matchen 40%60.000~$32
Geheugen hergebruikt de helft van de rest30.000~$16
Prompt caching op het restant30.000~$7

De percentages zijn ter illustratie; uw logs geven de echte. Het gaat om de vorm: elke laag haalt werk weg voordat de duurdere laag draait.

8. Dwing residency af, documenteer het niet alleen

  • Dataregel per klant, opgeslagen bij het account (VK of EU) en bij elke aanroep door de router gelezen.
  • Allowlist van routes met gedeclareerde residency (sectie 6); onbekende routes worden geweigerd.
  • Afdwinging aan de cloudkant: IAM beperkt tot de toegestane model-ARN's en regio's (sectie 4.3); op Azure alleen regionale deployments of deployments in de EU-datazone binnen de subscription.
  • Geen training en minimale bewaring: controleer de voorwaarden van elke provider; schakel zero data retention in waar dat een optie is; houd uw eigen logs van prompts buiten algemene logopslag, of redigeer ze.
  • Kill switch per route: een beheerinstelling die een route direct uit de keten haalt, zonder deploy.
  • Traceer elke aanroep: route, model, regio, input-, gecachte en outputtokens, kosten en latency, zodat finance en de verantwoordelijke voor gegevensbescherming dezelfde cijfers zien.
  • Budgetalerts op elk cloudaccount en elke API-sleutel.
  • Documenteer het nauwkeurig in uw privacyverklaring en verwerkingsregister: noem de regio's, niet alleen "Europa".

9. Test kwaliteit vóór prijs

Vijf stappen: bouw een golden set van ongeveer 200 transacties met bekende antwoorden, draai elke toegestane route met dezelfde prompt, scoor nauwkeurigheid, kosten, latency en schemafouten, kies de goedkoopste route die de lat haalt met een sterkere fallback, en lever daarna in shadow-modus op en draai opnieuw bij elke wijziging.

Bouw een golden set van ongeveer 200 echte transacties met bekende juiste antwoorden, met nadruk op de lastige gevallen: terugbetalingen, overboekingen tussen eigen rekeningen van een klant, gesplitste betalingen en dubbelzinnige begunstigden. Draai elke route die uw residency-regel toestaat, inclusief uw eigen GPU-model als baseline, met dezelfde prompt en temperatuur 0. Een minimale harness (ter illustratie):

import csv, time, statistics

def evaluate(route, golden_csv, classify, price_in, price_out):
    rows = list(csv.DictReader(open(golden_csv)))
    right, costs, latencies, schema_fail = 0, [], [], 0
    for row in rows:
        t0 = time.perf_counter()
        try:
            out = classify(row, route)                 # returns {"answer": {...}, "usage": {...}}
        except ValueError:                             # unparseable or off-schema answer
            schema_fail += 1
            continue
        latencies.append(time.perf_counter() - t0)
        right += out["answer"]["category"] == row["expected_category"]
        u = out["usage"]
        costs.append(u["inputTokens"] * price_in / 1e6 + u["outputTokens"] * price_out / 1e6)
    n = len(rows)
    return {
        "route": route,
        "accuracy": right / n,
        "schema_failures": schema_fail,
        "cost_per_1k": 1000 * statistics.mean(costs) if costs else None,
        "p95_latency_s": statistics.quantiles(latencies, n=20)[18] if len(latencies) >= 20 else None,
    }

Kies de goedkoopste route die uw nauwkeurigheidsnorm haalt, zowel overall als op de lastige categorieën, en stuur antwoorden met lage betrouwbaarheid naar een sterker model of een mens. Draai het eerst in shadow-modus naast de huidige route en schakel daarna over, met de oude route als fallback. Bewaar de golden set: die wordt de regressietest die u opnieuw draait wanneer een provider een model uitfaseert of u de prompt wijzigt.

10. Wanneer een dedicated GPU zich terugverdient

Lijndiagram van maandkosten tegenover aantal classificaties: Claude Haiku op Bedrock EU stijgt met ongeveer $53 per 100.000; Nova Micro Londen met ongeveer $23 per 100.000; een gehuurde Britse GPU is vlak op ongeveer $942. De GPU evenaart Haiku bij ongeveer 1,8 miljoen classificaties per maand en evenaart Nova Micro niet binnen twee miljoen.

Een gehuurde Britse GPU van ongeveer $942 per maand evenaart Claude Haiku op Bedrock EU pas bij ruwweg 1,8 miljoen classificaties per maand, en evenaart Nova Micro niet binnen twee miljoen. Daaronder is betalen per token goedkoper en kost het niets bij stilstand. De rekensom verandert in drie gevallen:

  • U bezit de hardware al. Dan tellen alleen stroom en onderhoud, en kan een capabel open model op een GPU van workstationklasse classificatie leveren tegen marginale kosten van bijna nul.
  • Data mag nooit uit uw beheer, om contractuele of wettelijke redenen, ongeacht de kosten.
  • De GPU bedient meerdere workloads: classificatie, documenten lezen, embeddings en interne assistenten kunnen samen een dedicated server rechtvaardigen ruim onder 1,8 miljoen aanroepen.

Een eigen modelserver beheren betekent dat u verantwoordelijk bent voor capaciteitsplanning, modelupdates, monitoring en failover. Houd een per-token-route in de keten als fallback, zodat een GPU-storing de dienst verslechtert in plaats van stillegt.

11. Beslischecklist

  1. De verantwoordelijke voor gegevensbescherming bepaalt de regel: alleen VK, of EU toegestaan.
  2. Meet het werkelijke aantal tokens en het aandeel herhaald prefix met tracing.
  3. Draai de golden set over elke toegestane route; kies eerst op nauwkeurigheid, dan op kosten.
  4. Voeg regels, geheugen per klant en prompt caching toe voordat u het volume opschaalt.
  5. Implementeer met regio-afdwinging op IAM- of subscriptionniveau, een kill switch per route en budgetalerts; laat private endpoints en gereserveerde capaciteit uit, tenzij uw servers in dezelfde cloud draaien en uw volume ze rechtvaardigt.
  6. Documenteer de regio's in de privacyverklaring en het verwerkingsregister.
  7. Controleer elke prijs opnieuw in de calculators van de providers zelf, en draai de golden set opnieuw wanneer een provider een model wijzigt of uitfaseert.

12. Hoe Workstation kan helpen

We helpen Britse organisaties AI te draaien op gevoelige data: residency-bewuste routes kiezen en aansluiten op Bedrock, Azure en Britse providers, de evaluatieharness en golden sets bouwen, caching en regels toevoegen om kosten te verlagen, en GPU-servers leveren of hosten wanneer het zinvol is het model zelf te bezitten. Zie onze gids GPU private cloud en de VRAM-sizer voor de hardwarekant, vergelijk leasen en kopen op gpuleasing.co.uk, of neem contact met ons op.

Aannames en bronnen

  • Workload: ongeveer 3.600 input- en 250 outputtokens per classificatie; meet uw eigen cijfers.
  • Prijzen: indicatieve catalogusprijzen van november 2026 van providerpagina's en prijstrackers van derden; wisselkoersen £1 = $1,30, €1 = $1,15. Gehuurde GPU: ongeveer $942 per maand voor een NVIDIA L40S in Londen.
  • AWS: prijzen van Amazon Bedrock (on-demand, batch, provisioned throughput), modelkaarten en regionale beschikbaarheid van Amazon Nova (Nova Micro en Nova Lite in-region in Londen), documentatie over cross-region inference van Bedrock, prijzen van AWS PrivateLink.
  • Anthropic: prijzen van Claude, inclusief basis-, cache-read- en batchtarieven van Claude Haiku 5.5.
  • Microsoft: deploymenttypen van Foundry (Global Standard, Data Zone Standard, PTU, Batch) en documentatie over Claude in Foundry; InfoQ, "Claude Reaches GA on Microsoft Foundry: European Enterprises Cannot Deploy It" (juli 2026); Microsoft Q&A-threads over toegang tot UK South en uitfasering van modellen.
  • Civo: aankondiging van de lancering van de relaxAI-API (Britse deployments vanaf £0,10 / £0,60 per miljoen tokens). Prijzen van Scaleway Generative APIs. Documentatie van Nebius Token Factory over regio's en zero data retention.
  • Alle code is ter illustratie en moet vóór gebruik worden aangepast, beoordeeld en getest.

Erkenning van rechten: Amazon Web Services, AWS, Amazon Bedrock en Amazon Nova zijn handelsmerken van Amazon.com, Inc. of haar dochterondernemingen. Microsoft, Azure en Microsoft Foundry zijn handelsmerken van de Microsoft-groep. Claude is een handelsmerk van Anthropic, PBC. OpenAI en GPT zijn handelsmerken van OpenAI. NVIDIA en L40S zijn handelsmerken van NVIDIA Corporation. Andere product- en bedrijfsnamen zijn eigendom van hun respectieve eigenaren.

Deel dit artikel

Meer in Technology

AI-developerlaptops: LLM's lokaal draaien onder Linux met GPU's van 16 GB en 24 GB (gids 2026)

AI-developerlaptops: LLM's lokaal draaien onder Linux met GPU's van 16 GB en 24 GB (gids 2026)

Wat er past op een RTX 5080 of RTX 5090 Laptop GPU, de geheugenberekening, de open modellen die de moeite waard zijn, Ubuntu 26.04 inrichten met de NVIDIA-stack, Ollama, llama.cpp en vLLM, codeerassistenten, LoRA-fine-tuning, beveiliging, en wanneer werk naar een server moet

Lees meer
ML- en LLM-systemen testen die u niet correct kunt bewijzen: een Python-kit voor bewijsmateriaal

ML- en LLM-systemen testen die u niet correct kunt bewijzen: een Python-kit voor bewijsmateriaal

Bewijsmateriaal in plaats van bewijzen, in ongeveer 400 regels Python met echte output: slice-metrics met bootstrap-intervallen en een pass/fail-contract, property- en metamorfe tests met Hypothesis, kalibratie en conformal prediction, Pydantic-contracten en regressie-evals voor LLM-output, driftcontroles, een CI-gate en exacte verificatie van een klein neuraal netwerk

Lees meer
TorchCurves in de praktijk: leerbare B-spline- en Legendre-curves in PyTorch

TorchCurves in de praktijk: leerbare B-spline- en Legendre-curves in PyTorch

torchcurves installeren, een curve fitten en dimensioneren, kiezen tussen B-spline en Legendre en de input map, een monotone kalibratiecurve en een additief model op tabeldata bouwen, vergelijken met SciPy, scikit-learn, een KAN en een MLP, coëfficiënten naar JSON exporteren, testen en in productie draaien, met echte output

Lees meer