Het meest geschikt voor: Inferentie-API's die naar nul schalen, en snelle GPU-pods voor ontwikkeling.
Het verzoekpad op RunPod: zet uw eigen gateway en identiteit ervoor, gebruik endpointauthenticatie en houd gevoelig werk op Secure Cloud. Serverless workers schalen mee met verzoeken; Community Cloud-hosts zijn derden.
AI-diensten
Pods op Secure Cloud (datacenterpartners) of Community Cloud.
Serverless GPU-endpoints die meeschalen met verzoeken, en Instant Clusters voor multi-node werk.
GPU's en accelerators
Een breed aanbod aan NVIDIA- en AMD-GPU's, van RTX-kaarten tot H100 en nieuwer.
Agents en identiteit
API-sleutels en endpointauthenticatie; zet uw eigen gateway en identiteit ervoor.
Beveiliging en data
Gebruik Secure Cloud voor alles wat gevoelig is; Community Cloud-hosts zijn derden.
Schalen en optimalisatie
Serverless workers schalen automatisch op en af; stel een minimum aantal workers in om cold starts te voorkomen.
Regio's in het VK en de EU
Datacenters in Europa en Noord-Amerika; kies regio's per workload.
Let op
Cold starts op serverless endpoints; imagegrootte en laadtijd van het model zijn belangrijk.
Hoe Workstation helpt: We verpakken modellen voor snelle cold starts, zetten geauthenticeerde gateways ervoor en koppelen endpoints aan CI/CD.
Logo's zijn handelsmerken van hun respectieve eigenaars, worden alleen gebruikt om elk platform te identificeren en komen van Wikimedia Commons. Diagrammen door het Workstation-team.