Baseten si zajistila 13 miliard dolarů v novém financování a připojila se k novému kohortu AI infrastrukturních decacornů, které těží z rostoucího důrazu na inference engineering. Philip Kiely a Ali Taha z Baseten se zaměřují na disciplínu, která prakticky neexistovala před třemi lety. Inference engineering řeší zásadně odlišnou otázku než trénování modelů: jak převést váhy z trénování do produktu, který je rychlý, spolehlivý a cenově dostupný ve velkém měřítku. Kiely nedávno publikoval definitivní příručku o inference engineeringu, která se stala vyhledávaná v Silicon Valley. Taha mezitím analyzoval model Kimi K3 a jeho rozbor se stal virálním. Tento posun v zaměření odráží, že optimalizace inference se stala jedním z nejkritičtějších aspektů moderního vývoje AI, přičemž firmy jako Nvidia, Intel a polčeský průmysl těží z takzvané inference inflection.