Anthropic před pár dny představil Claude Fable 5 jako svůj nejsilnější veřejně dostupný model. Firma ho popsala jako model nové „Mythos-class“ úrovně, který má výrazně lepší schopnosti v programování, znalostní práci, vizuálním porozumění i vědeckých úlohách. Jenže místo dlouhé oslavné fáze přišel velmi rychlý zádrhel: 12. června Anthropic oznámil, že přístup k modelům Claude Fable 5 a Claude Mythos 5 pozastavuje.
Podle Reuters za tím nestojí jen interní rozhodnutí firmy, ale americký vládní příkaz související s omezením přístupu zahraničních osob k těmto nejpokročilejším modelům. Důvodem mají být obavy z národní bezpečnosti a z možného obejití bezpečnostních pojistek, zejména v oblasti hledání softwarových zranitelností. Anthropic s tímto postupem nesouhlasil a tvrdí, že kvůli příkazu musí přístup k Fable 5 a Mythos 5 náhle vypnout pro všechny zákazníky, aby byl v souladu s regulací.
Podle mě je na celé kauze nejzajímavější jedna věc: AI modely se tím definitivně přesouvají z kategorie „software jako každý jiný“ do kategorie strategické technologie. Dříve se exportní kontroly řešily hlavně kolem čipů, výpočetní infrastruktury a hardwaru. Teď ale vidíme, že regulátor může začít řešit i samotný přístup k modelu. A to je obrovský posun.
Anthropic přitom už při uvedení Fable 5 upozorňoval, že takto schopný model přináší rizika. U některých citlivých požadavků měl Fable 5 odpověď blokovat nebo přepínat na slabší Claude Opus 4.8. Firma sama přiznala, že pojistky mohou zachytit i neškodné dotazy, protože byly nastaveny konzervativně. Claude Help Center zároveň popisuje, že blokované požadavky se mohly automaticky znovu spustit na Opus 4.8 a uživatel měl vidět informaci o přepnutí modelu.
A tady je podle mě jádro problému. Uživatelé chtějí výkon, firmy chtějí bezpečnost, regulátoři chtějí kontrolu a vývojáři chtějí předvídatelnost. Jenže tyto čtyři zájmy se začínají dostávat do ostrého konfliktu. Když model zvládá komplexní programátorské úlohy, výzkum nebo bezpečnostní analýzu lépe než předchozí generace, není to jen produktivní nástroj. Je to i potenciální akcelerátor útoků.
Na druhou stranu si myslím, že příliš široké blokace mohou poškodit důvěru. Pokud výzkumník, vývojář nebo firma najednou neví, jestli model zítra poběží, jestli odpoví, nebo jestli bude nahrazen slabší variantou, bude se mu velmi těžko stavět seriózní produkt nad takovou platformou. To není drobná UX nepříjemnost. To je zásadní problém pro celý ekosystém AI aplikací.
Můj názor je, že podobných případů uvidíme víc. Čím schopnější modely budou, tím častěji se bude řešit, kdo k nim smí, odkud, za jakých podmínek a pro jaké účely. Frontier AI přestává být jen otázkou benchmarků a tokenů. Začíná být otázkou geopolitiky, regulace, bezpečnosti a důvěry.
A právě proto je kauza Fable důležitá. Ne proto, že jeden model byl na pár dní nebo týdnů omezen. Ale proto, že ukazuje budoucnost: nejsilnější AI modely už možná nebudou dostupné stejně jednoduše jako běžná cloudová služba. Budou se k nim vázat pravidla, prověřování, regionální omezení a bezpečnostní režimy.
Podle mě tím končí romantická fáze generativní AI, kdy se každý nový model bral hlavně jako technologická atrakce. Teď začíná tvrdší období. Období, ve kterém nebude stačit mít nejlepší model. Bude nutné dokázat, že ho umíme bezpečně provozovat, rozumně regulovat a zároveň nezabít inovaci přehnaným strachem.