Autoscaling: Co je automatické škálování a kdy se skutečně vyplatí

Požadavky na výkon aplikací se během dne mohou výrazně měnit. Zatímco v jednu chvíli server obsluhuje jen několik uživatelů, o pár minut později může čelit tisícům požadavků. Připravit infrastrukturu na takové výkyvy není jednoduché. Příliš slabý server vede ke zpomalení, zbytečně výkonný zase zvyšuje náklady. Řešením je autoscaling, který dokáže výkon automaticky přizpůsobovat aktuální zátěži.

Co je autoscaling

Autoscaling je technologie, která automaticky přizpůsobuje výkon cloudové infrastruktury aktuální zátěži aplikace nebo služby. Pokud vzroste počet uživatelů nebo požadavků, cloudová platforma automaticky přidá výpočetní prostředky. 

Jakmile zátěž opadne, přebytečné servery nebo kontejnery opět odebere. Díky tomu není nutné infrastrukturu ručně spravovat ani ji trvale dimenzovat na maximální zatížení.

V moderních prostředích se autoscaling často využívá například v platformě Kubernetes, která nabízí několik specializovaných nástrojů:

• Horizontal Pod Autoscaler (HPA) – automaticky zvyšuje nebo snižuje počet podů podle vytížení CPU, paměti nebo vlastních metrik.
• Vertical Pod Autoscaler (VPA) – upravuje přidělený procesor a operační paměť jednotlivým kontejnerům.
• Cluster Autoscaler – přidává nebo odebírá celé uzly Kubernetes clusteru podle aktuální potřeby.

Podobné mechanismy jsou dostupné také ve veřejných cloudových platformách, například AWS Auto Scaling, Azure Autoscale nebo Google Cloud Managed Instance Groups.

Hlavním cílem autoscalingu je zajistit dostatek výkonu i při náhlých špičkách v provozu a zároveň neplatit za nevyužité prostředky. Proto dnes patří mezi běžné součásti cloudových řešení pro webové aplikace, e-shopy, SaaS služby, API i AI projekty.

Jak autoscaling funguje

Autoscaling průběžně sleduje stav infrastruktury a vyhodnocuje předem nastavené metriky, například využití procesoru, operační paměti nebo počet požadavků na aplikaci. Pokud zátěž překročí definovanou hranici, cloudová platforma automaticky navýší dostupný výkon. Jakmile provoz opět klesne, přebytečné prostředky odebere. Celý proces probíhá bez nutnosti ručního zásahu administrátora.

Typický průběh autoscalingu vypadá následovně:

• monitoring průběžně sleduje vytížení serverů a aplikací,
• systém vyhodnocuje nastavená pravidla pro škálování,
• při překročení limitu automaticky spustí nové instance nebo navýší výkon stávajících,
• load balancer začne rozdělovat provoz i na nově vytvořené instance,
• po poklesu zátěže se přebytečné prostředky automaticky odstraní.

Díky tomu má aplikace vždy k dispozici dostatek výkonu, aniž by bylo nutné dlouhodobě provozovat zbytečně výkonnou infrastrukturu.

Horizontální a vertikální autoscaling

Autoscaling může navyšovat výkon dvěma základními způsoby – horizontálně nebo vertikálně. Každý z nich se hodí pro jiný typ aplikací a přináší odlišné výhody i omezení. Zatímco horizontální škálování rozšiřuje infrastrukturu o další servery nebo instance, vertikální škálování zvyšuje výkon jednoho stávajícího serveru. 

V moderních cloudových prostředích se častěji využívá horizontální škálování, které lépe zvládá výrazné výkyvy zatížení a nabízí vyšší odolnost proti výpadkům. Vertikální škálování je naopak vhodné tam, kde aplikace nebo databáze vyžadují výkon jednoho silného serveru a jejich rozdělení mezi více instancí není možné nebo by bylo příliš složité.

Podle čeho může autoscaling rozhodovat

Autoscaling nemusí reagovat pouze na vytížení procesoru. Moderní cloudové platformy dokážou sledovat širokou škálu metrik infrastruktury i samotné aplikace a podle nich automaticky upravovat dostupný výkon. Díky tomu lze škálování lépe přizpůsobit skutečnému provozu a omezit zbytečné navyšování prostředků.

Mezi nejčastěji sledované metriky patří:

• Využití procesoru (CPU) – jedna z nejčastěji používaných metrik. Pokud vytížení procesoru dlouhodobě překračuje nastavenou hranici, systém automaticky navýší výkon.
• Využití operační paměti (RAM) – vhodné zejména pro aplikace, které pracují s velkým objemem dat nebo ukládají informace do paměti.
• Počet současně připojených uživatelů – využívá se například u webových aplikací, online služeb nebo e-shopů, kde se počet návštěvníků během dne výrazně mění.
• Počet požadavků za sekundu – důležitá metrika pro API služby nebo aplikace s vysokým síťovým provozem.
• Délka front úloh nebo zpráv – pokud se začnou hromadit nevyřízené požadavky, autoscaling může přidat další instance pro jejich rychlejší zpracování.
• Vytížení databáze nebo úložiště – některé platformy dokážou reagovat také na výkon databázových serverů nebo diskových systémů.
• Vlastní aplikační metriky – vývojáři mohou definovat i specifické ukazatele, například počet aktivních relací, dobu odezvy aplikace nebo počet běžících AI úloh.

V praxi se často kombinuje několik metrik současně. Například nové instance se spustí pouze tehdy, pokud je zároveň vysoké vytížení procesoru a roste počet požadavků na aplikaci. Takový přístup pomáhá zpřesnit rozhodování a zamezit zbytečnému škálování.

U moderních aplikací se stále častěji používají také vlastní metriky. E-shop může škálovat podle počtu objednávek ve frontě, streamovací služba podle počtu aktivních diváků a AI aplikace například podle délky fronty požadavků na inferenci nebo vytížení GPU. Díky tomu infrastruktura reaguje na skutečné potřeby aplikace, nikoliv pouze na vytížení procesoru.

Kdy se autoscaling vyplatí

Autoscaling je nejpřínosnější tam, kde se zatížení aplikace nebo infrastruktury v průběhu času výrazně mění. Místo provozování trvale předimenzovaných serverů umožňuje pružně reagovat na aktuální potřebu výkonu a zároveň optimalizovat provozní náklady.

• E-shopy – internetové obchody často čelí výrazným výkyvům návštěvnosti během sezónních akcí, jako jsou Black Friday, vánoční výprodeje nebo uvedení nových produktů. Autoscaling zajistí dostatek výkonu i při náhlém nárůstu objednávek a po skončení akce infrastrukturu opět zmenší.
• Webové aplikace a SaaS služby – cloudové aplikace mívají během dne velmi proměnlivý počet uživatelů. Například ráno nebo po pracovní době může počet přihlášených výrazně vzrůst. Autoscaling umožňuje přidávat nové instance podle aktuální poptávky, aniž by docházelo ke zpomalení služby.
• Marketingové kampaně – po spuštění reklamní kampaně, zveřejnění článku nebo rozeslání newsletteru může během několika minut přijít na web výrazně více návštěvníků než obvykle. Díky autoscalingu zůstane web dostupný i při krátkodobých špičkách v provozu.
• API a mikroservisy – aplikace komunikující prostřednictvím API nebo architektury mikroservis často zaznamenávají nepravidelné zatížení. Autoscaling pomáhá automaticky navyšovat výkon jednotlivých služeb podle počtu příchozích požadavků.
• AI a výpočetně náročné úlohy – autoscaling se stále častěji využívá také u AI aplikací. Pokud vzroste počet požadavků na generování textů, obrázků nebo inferenci modelů, lze automaticky spustit další GPU servery. Jakmile poptávka klesne, přebytečné výpočetní prostředky se opět uvolní.
• Vývojová a testovací prostředí – automatické škálování může pomoci i během vývoje aplikací. Testovací prostředí lze dočasně posílit při náročném testování nebo nasazování nové verze a po dokončení testů výkon opět snížit. To pomáhá efektivněji využívat cloudové prostředky a snižovat náklady.

Kolik může autoscaling ušetřit

Přesná úspora závisí na typu aplikace i způsobu nasazení. Největší přínos má autoscaling u systémů s výrazně kolísající zátěží, kde by jinak bylo nutné provozovat infrastrukturu dimenzovanou na špičkový provoz.

Například AWS ve své případové studii ukazuje, že kombinace autoscalingu, správného nastavení prostředků (rightsizing), plánovaného vypínání prostředí mimo pracovní dobu a využití Spot instancí snížila náklady na výpočetní výkon o více než 80 %.

Podobně Google uvádí, že u některých typů Kubernetes workloadů může využití GKE Autopilot snížit celkové náklady na vlastnictví až o 85 %, přičemž v praktických testech dosahovalo úspory přibližně 40 % oproti běžně spravovaným clusterům.

Je však důležité zdůraznit, že samotný autoscaling není zárukou nižších nákladů. Největších úspor dosahují organizace, které jej kombinují se správným dimenzováním prostředků, monitoringem a průběžnou optimalizací infrastruktury.

Jak může pomoci kvalitní cloudová infrastruktura

Autoscaling dokáže naplno využít svůj potenciál pouze tehdy, pokud je postaven na spolehlivé cloudové infrastruktuře. Ta musí umožňovat rychlé vytváření nových instancí, poskytovat dostatečný výpočetní výkon a zajistit stabilní síťové propojení i úložiště. 

Pokud spuštění nového serveru trvá příliš dlouho nebo infrastruktura nemá dostatečnou kapacitu, může být reakce na zvýšenou zátěž opožděná.

Právě proto je důležité vybírat cloudovou platformu, která podporuje flexibilní škálování a nabízí vysokou dostupnost služeb. Moderní cloudová infrastruktura umožňuje výkon navyšovat nebo snižovat podle aktuálních potřeb aplikace, aniž by bylo nutné pořizovat nový hardware nebo plánovat složité odstávky.

Například ZonerCloud nabízí škálovatelné cloudové servery s rychlým NVMe úložištěm, vysokorychlostní sítí, českými datovými centry a SLA až 99,99 %.

Pro náročnější projekty jsou k dispozici také dedikované servery a výkonné GPU servery s profesionálními kartami NVIDIA RTX PRO, které jsou vhodné například pro AI aplikace, strojové učení nebo zpracování rozsáhlých dat. Díky tomu mohou firmy snadno reagovat na rostoucí nároky svých aplikací a využívat pouze takový výkon, jaký skutečně potřebují.