AI-kennisbank · AI-cloudplatformen
Hyperscalers voor beheerde modellen en enterprise-controles, GPU-clouds voor pure capaciteit, marktplaatsen voor de goedkoopste uren. Het Workstation-team ontwerpt, beveiligt en beheert AI op al deze platformen, en naast de hardware die u zelf bezit.
Amazon Bedrock, SageMaker AI en het breedste aanbod aan GPU's en eigen chips.
Lees de gids →Vertex AI, Gemini en TPU's naast NVIDIA GPU's.
Lees de gids →Azure OpenAI en AI Foundry, gekoppeld aan Microsoft 365 en Entra ID.
Lees de gids →Bare-metal GPU-superclusters en OCI Generative AI.
Lees de gids →Een Kubernetes-native cloud gebouwd voor grote GPU-clusters.
Lees de gids →Eenvoudige, snelle GPU-instances en -clusters voor AI-teams.
Lees de gids →Een full-stack AI-cloud met GPU-clusters en beheerde inferentie.
Lees de gids →Ontwikkelaarsvriendelijke GPU Droplets en een agentplatform.
Lees de gids →Ook ondersteund: Together AI, Fireworks AI, Groq, Hugging Face Inference Endpoints, Replicate, Crusoe, Hyperstack, Scaleway en OVHcloud.
De meeste organisaties gebruiken er meer dan één: een hyperscaler voor beheerde modellen en governance, een GPU-cloud voor training of zware inferentie, en eigen hardware voor gevoelige of constante workloads.
| Type | Sterke punten | Afwegingen | Gebruik het voor |
|---|---|---|---|
| Hyperscalers (AWS, Google Cloud, Azure, Oracle) | Beheerde modellen, identiteit, compliance, wereldwijde regio's | Hogere GPU-prijzen, quota om te beheren | Productie-API's, gereguleerde data, beheerde agents |
| GPU-clouds (CoreWeave, Lambda, Nebius, DigitalOcean) | Nieuwste GPU's, grote clusters, eenvoudigere prijzen | Minder beheerde diensten | Training, fine-tuning, inferentie met hoog volume |
| GPU-marktplaatsen (Vast.ai, RunPod) | Laagste kosten per GPU-uur, snel van start | Wisselende betrouwbaarheid en vertrouwen | Experimenten, batchjobs, endpoints die naar nul schalen |
| Uw eigen Workstation-hardware | Vaste kosten, volledige controle, data blijft in uw gebouw | Kapitaalinvestering, capaciteitsplanning | Gevoelige data, constante workloads, ontwikkeling |
Bedrock neemt het GPU-probleem weg, maar verkeer op grote schaal moet nog steeds worden ontworpen. Dit zijn de patronen die we gebruiken voor Bedrock-workloads met hoog volume.
Modelleer tokens per minuut en verzoeken per minuut tegen piekverkeer en verhoog quota vóór de lancering, per model en per regio.
Cross-region inferentieprofielen routeren verzoeken automatisch over regio's wanneer er één druk is.
Provisioned throughput voor constant, latencygevoelig verkeer; on-demand voor de rest.
Promptcaching voor herhaalde context, batchinferentie voor offline werk en promptroutering om eenvoudige verzoeken naar kleinere modellen te sturen.
Zet verzoeken in een wachtrij (SQS) en verwerk ze asynchroon, met exponentiële backoff bij throttling en een fallbackmodel.
Bedrock AgentCore voor agentruntime, geheugen, toolgateway, identiteit en observability; Knowledge Bases voor beheerde RAG.
VPC-endpoints, KMS-sleutels, Guardrails en CloudTrail bij elke aanroep.
CloudWatch-metrics voor latency, tokens, throttles en kosten per functie, met alarmen voordat gebruikers iets merken.
Dezelfde discipline als on-premises: alles geversioneerd, getest, ondertekend en via ringen gepromoveerd, met infrastructure as code zodat elke omgeving reproduceerbaar is.
Evaluatie met Bedrock, Vertex AI of Azure AI Foundry; SageMaker- of Vertex-pipelines; MLflow-registry; Terraform of OpenTofu; Ring Promoter voor releases met healthchecks.
AgentCore, Agent Engine of Foundry Agent Service; OpenTelemetry-tracing; evaluatiesuites in CI.
AWS Glue, Dataflow of Data Factory; Airflow of Dagster; Bedrock Knowledge Bases, Vertex AI Search of Azure AI Search; OpenLineage.
Pipelines draaien met kortlevende cloudreferenties via OIDC-federatie vanuit GitHub Actions of GitLab, nooit met opgeslagen toegangssleutels.
Een LLM-endpoint is een API die je dingen kunt aanpraten. We beveiligen het zoals elke kritieke API en voegen daarna de AI-specifieke controles toe.
Een agent is een model plus een harnas: de code die bepaalt wat hij mag zien, welke tools hij mag aanroepen en wanneer een mens moet goedkeuren. In het harnas zitten veiligheid en betrouwbaarheid.
Elke tool gedeclareerd met een schema, een eigenaar en een permissiescope; MCP-servers achter authenticatie.
Elke agent krijgt alleen de tools en data die zijn taak nodig heeft, met referenties beperkt tot de gebruiker namens wie hij handelt.
Code- en shelltools draaien in geïsoleerde containers zonder permanente netwerktoegang.
Goedkeuringen voor betalingen, verwijderingen, uitgaande e-mails en alles wat onomkeerbaar is.
Maxima voor stappen, tokens, tijd en uitgaven per taak, met een nette afbreking wanneer ze worden bereikt.
Opgenomen runs worden in CI opnieuw afgespeeld en elke stap wordt in productie getraced voor debugging en audit.
Agents handelen namens mensen en systemen, dus ze hebben echte identiteiten nodig, geen gedeelde sleutels.
Single sign-on via uw identiteitsprovider (Entra ID, Google Workspace, Okta) met SAML of OIDC, MFA en SCIM-provisioning.
Cloud-native workload identity: AWS IAM-rollen en EKS Pod Identity, Google Workload Identity Federation, Azure managed identities.
Agentidentiteiten met hun eigen beperkte rechten, zoals Bedrock AgentCore Identity en Microsoft Entra Agent ID, met on-behalf-of-delegatie voor gebruikersacties.
OAuth 2.1 voor MCP-servers en tools van derden, kortlevende tokens en toestemming per tool.
OIDC-federatie van uw CI naar elke cloud, zodat pipelines geen langlevende secrets bevatten.
Een vault voor alles wat een secret moet zijn, met rotatie en audit, zoals onze WSL Vault of de eigen secretsmanager van de cloud.
We zijn platformneutraal. We helpen u kiezen en ontwerpen, beveiligen, implementeren en beheren daarna AI op elk van deze clouds, naast uw eigen hardware.
Logo's zijn handelsmerken van hun respectieve eigenaars, worden alleen gebruikt om elk platform te identificeren en komen van Wikimedia Commons. Diagrammen door het Workstation-team.