Denní přehled ze světa umělé inteligence
Tag Optimalizace modelů · 3 článků
IBM Research a Hugging Face představily nový přístup ke snižování výpočetní náročnosti pokročilého uvažování v AI modelech. Metoda umožňuje dosáhnout podobných výsledků s menším počtem tokenů, což snižuje nátlak na zdroje a náklady.
Hugging Face představuje nový přístup k destilaci znalostí, který snižuje náklady na trénink menších modelů z větších předchůdců. Metoda umožňuje efektivnější využití výpočetních prostředků při zachování výkonu modelů.
Společnost Baseten si vzala 13 miliard dolarů v sérii F a stala se součástí nové skupiny AI infrastrukturních decacornů. Zároveň se inference engineering etabluje jako kritická disciplína v AI průmyslu, která řeší otázku, jak převést natrénované modely na rychlé, spolehlivé a dostupné produkty.