Amazon Bedrock, SageMaker AI en het breedste aanbod aan GPU's en eigen chips.
Het meest geschikt voor: Organisaties die beheerde toegang willen tot veel foundation models, sterke governance en de optie om eigen modellen te trainen en te hosten.
Het verzoekpad op AWS: de applicatie krijgt een IAM-rol zonder langlevende sleutels en bereikt Amazon Bedrock via een VPC-endpoint, zodat modelverkeer van het internet blijft. Guardrails controleren input en output, KMS versleutelt en CloudTrail logt elke aanroep.
AI-diensten
Amazon Bedrock: één API voor foundation models van Anthropic (Claude), Meta (Llama), Mistral, Cohere, Amazon Nova en anderen, met Knowledge Bases voor RAG, Guardrails, batchinferentie en modelevaluatie.
Bedrock AgentCore: beheerde runtime, geheugen, gateway, identiteit en observability voor productieagents gebouwd met elk framework.
Amazon SageMaker AI: training, fine-tuning en hosting, met SageMaker HyperPod voor veerkrachtige trainingsclusters op grote schaal.
Amazon Q voor ontwikkelaars en zakelijke gebruikers.
GPU's en accelerators
EC2 P5 (H100), P5e/P5en (H200), P6 (Blackwell) en GB200 UltraServers.
AWS Trainium- en Inferentia-instances voor goedkopere training en inferentie.
EKS met Karpenter voor GPU-autoscaling; capacity blocks voor gereserveerde GPU-tijd.
Agents en identiteit
AgentCore Identity voor agentreferenties en OAuth naar tools van derden; IAM-rollen voor elke workload.
EKS Pod Identity of IRSA, zodat containers nooit langlevende sleutels bevatten.
Beveiliging en data
Bedrock gebruikt uw prompts of output niet om basismodellen te trainen.
PrivateLink (VPC-endpoints) houdt modelverkeer van het internet; KMS-versleuteling; CloudTrail logt elke aanroep.
Guardrails voor contentfiltering, geweigerde onderwerpen, redactie van persoonsgegevens en groundingcontroles.
Schalen en optimalisatie
Cross-region inferentieprofielen om verkeerspieken op te vangen; provisioned throughput voor gegarandeerde capaciteit.
Promptcaching, batchinferentie en intelligente promptroutering om de kosten per verzoek te verlagen.
Regio's in het VK en de EU
Londen (eu-west-2) en EU-regio's; controleer de beschikbaarheid van modellen per regio.
Let op
Quota per model (tokens en verzoeken per minuut) moeten ruim vóór de lancering worden verhoogd.
Hoe Workstation helpt: We ontwerpen Bedrock-architecturen, modelleren en verhogen quota, bouwen agents op AgentCore en koppelen AWS aan uw on-premises GPU's.
Logo's zijn handelsmerken van hun respectieve eigenaars, worden alleen gebruikt om elk platform te identificeren en komen van Wikimedia Commons. Diagrammen door het Workstation-team.