Samozřejmě to platí jen v některých případech a za určitých podmínek…
NVIDIA nedávno upozornila na zajímavý trend – pro praktické nasazení agentní AI se často více vyplatí menší a levnější modely, které jsou dobře optimalizované.
A musím říct, že s tím naprosto souhlasím. Vidím to jak v komerční praxi při nasazování AI agentů, tak i ve výzkumu. Obří modely sice působí atraktivně, ale jejich provoz je drahý a často zbytečně náročný. V mnoha případech je výhodnější sáhnout po menším modelu – a ještě ho dál vylepšit pomocí technik, jako je knowledge distillation, pruning, early exit nebo kvantizace.