Inference modelu s API je proces, kedy sa natrénovaný model strojového učenia nasadí na server a sprístupní sa pre vytváranie predikcií na nových dátach prostrednictvom API (aplikačného programového rozhrania).
Ceny sú uvedené bez DPH. Pokiaľ nie je uvedené inak, jedná sa o cenu za 1 mesac prevádzky služby.
Jedná sa o kľúčovú fázu v životnom cykle modelu, ktorá nasleduje po jeho tréningu. Zatiaľ čo tréning je výpočtovo náročná operácia, ktorá sa vykonáva raz, inference je opakovaný proces, ku ktorému dochádza vždy, keď je treba získať novú predikciu.
Proces inference je teda konzumácia modelu, kde model aplikuje svoje naučené znalosti k vytvoreniu nových výstupov. Je to ako, keď sa robot naučí rozpoznávať jablká a následne ich používá k triedeniu nového ovocia.
Veľa API služieb (napr. Hugging Face Inference API, Azure AI Foundry) automaticky škáluje počet inštancií serverov, aby zvládli vysokú záťaž.
Modely sú centrálne spravované, čo uľahčuje ich aktualizáciu a monitoring.
Vývojári môžu integrovať model do svojich aplikácií (webových, mobilných, desktopových) pomocou jednoduchých HTTP požiadaviek, bez toho aby sa museli starať o zložitú infraštruktúru.
API môže byť chránené pomocou autentizácie a autorizácie, čo zaisťuje, že k modelu majú prístup iba oprávnené aplikácie.