Výběr správného AI modelu pro konkrétní úkol je klíčový pro efektivní systémy. Namísto použití jediného velkého modelu lze systém navrhnout tak, aby dynamicky volil mezi menšími, specializovanými modely podle konkrétní úlohy. Hugging Face a IBM Research se zaměřili na problém routování modelů — tedy na mechanismy rozhodování, které určují, který model by měl zpracovat daný příspěvek. Přestože se koncept zdá teoreticky přímočarý, praktická implementace odhaluje řadu netriviálních výzev. Problémy zahrnují správu latence, přesnosti routování a efektivnosti vícenásobných volání modelů. Výzkum ukazuje, že jednoduchá řešení často selhávají v reálných scénářích s heterogenními úlohami a modelů o různých schopnostech. Hlubší porozumění těmto mechanismům je důležité pro budování škálovatelných a ekonomických AI systémů.