Rubrika: Postřehy

  • Anthropic zamezil OpenAI přístup k modelům

    Anthropic odpojil OpenAI od přístupu ke svým modelům Claude. Důvodem bylo, že lidé z OpenAI používali Claude i k vlastním programovacím nástrojům před spuštěním GPT-5, což Anthropic bere jako porušení podmínek. Přístup zůstane jen pro benchmarky a bezpečnostní testy. OpenAI krok označilo za zklamání, protože jejich API je pro Anthropic stále otevřené.

    Odkaz

    Co si z toho odnést:

    • Pokud používáte AI produkt, není jisté že ho budete používat i zítra. Což představuje docela zásadní vendor-lock.
    • Náklady na provoz AI jsou vysoké a odráží se do politiky chování ke klientům.
    • Pokud se spojí vendor lock, přenesené náklady na provoz AI nástrojů a odliv lidské kapacity, představuje to do budoucna zásadní problém.

  • Od kolosů k minimalismu: trend malých a chytrých AI modelů

    Samozřejmě to platí jen v některých případech a za určitých podmínek…

    NVIDIA nedávno upozornila na zajímavý trend – pro praktické nasazení agentní AI se často více vyplatí menší a levnější modely, které jsou dobře optimalizované.

    A musím říct, že s tím naprosto souhlasím. Vidím to jak v komerční praxi při nasazování AI agentů, tak i ve výzkumu. Obří modely sice působí atraktivně, ale jejich provoz je drahý a často zbytečně náročný. V mnoha případech je výhodnější sáhnout po menším modelu – a ještě ho dál vylepšit pomocí technik, jako je knowledge distillation, pruning, early exit nebo kvantizace.