Štítek: AI

  • Spellchecker…

    Nedávno jsem se zúčastnil workshopu Scite, kde hlavní host mluvilo o využití AI v akademickém prostředí. Jeden názor tam ve mně zůstal rezonovat i dlouho poté: že použití AI pro vylepšení textu – tedy opravy slovosledu, chyb nebo gramatiky – je vlastně na stejné úrovni, jako když používáme obyčejný spellchecker. Jen je to o krok dál.

    Tohle srovnání mi přišlo zajímavé. Na první pohled se totiž často zdá, že zapojení AI do psaní je velký zásah, skoro až podvod. Ale když se nad tím člověk zamyslí, není to úplně jiné než nástroje, které používáme už roky – jen jsou chytřejší a flexibilnější.

  • Od kolosů k minimalismu: trend malých a chytrých AI modelů

    Samozřejmě to platí jen v některých případech a za určitých podmínek…

    NVIDIA nedávno upozornila na zajímavý trend – pro praktické nasazení agentní AI se často více vyplatí menší a levnější modely, které jsou dobře optimalizované.

    A musím říct, že s tím naprosto souhlasím. Vidím to jak v komerční praxi při nasazování AI agentů, tak i ve výzkumu. Obří modely sice působí atraktivně, ale jejich provoz je drahý a často zbytečně náročný. V mnoha případech je výhodnější sáhnout po menším modelu – a ještě ho dál vylepšit pomocí technik, jako je knowledge distillation, pruning, early exit nebo kvantizace.