Ještě nedávno jsme Google brali jako bránu k informacím. Ne nutně jako autoritu, která má vždy pravdu, ale jako rozcestník. Zadali jsme dotaz, dostali jsme odkazy, otevřeli několik zdrojů a udělali si vlastní obrázek. Dnes se ale vyhledávání pomalu mění v něco jiného. Google už nám nechce jen ukázat cestu. Chce nám rovnou dát odpověď.
A právě tady podle mě začíná zásadní problém.
Kauza kolem německého soudu a AI Overviews ukazuje, že nejde jen o další drobnou chybu umělé inteligence. Nejde jen o legrační halucinaci typu „dejte lepidlo na pizzu“ nebo „jezte kameny“, které se dříve objevily jako bizarní ukázky selhání AI ve vyhledávání. Tady už se bavíme o něčem vážnějším: AI shrnutí ve vyhledávání údajně spojilo konkrétní vydavatele s podvody a pochybnými obchodními praktikami. Jinými slovy, stroj nevygeneroval jen špatnou odpověď. Vygeneroval tvrzení, které může poškodit reputaci reálných subjektů.
A teď přichází klíčová otázka: kdo za to odpovídá?
Google se dlouho mohl schovávat za logiku klasického vyhledávače. My přece obsah netvoříme, my ho jen indexujeme. Pokud je někde na webu chyba, problém je u původního autora. Vyhledávač pouze zobrazuje odkazy.
Jenže AI Overviews tuto hranici rozmazávají. Nejde už jen o seznam modrých odkazů. Jde o nově sestavenou odpověď, kterou systém vytvoří kombinací zdrojů, interpretací, zkrácením a jazykovou syntézou. Uživatel ji navíc často vidí úplně nahoře, ještě před klasickými výsledky. Psychologicky to působí jako oficiální odpověď Googlu.
A podle mě přesně tohle soud správně pochopil.
Když platforma vezme cizí obsah, přepíše ho vlastním AI systémem, dá mu podobu autoritativního shrnutí a umístí ho nad výsledky vyhledávání, nemůže se donekonečna tvářit, že za text nenese odpovědnost. To už není neutrální indexace. To je publikační akt.
Samozřejmě, z technického hlediska chápu, proč se to děje. Velké jazykové modely nepracují s pravdou tak, jak si ji představuje běžný uživatel. Model neví. Model generuje pravděpodobný text. I když je napojený na vyhledávání, zdroje nebo retrieval systém, pořád může špatně pochopit kontext, spojit nesouvisející informace, vynechat důležitou podmínku nebo formulovat závěr silněji, než zdroje dovolují.
To je známý problém halucinací. Jenže ve vyhledávání má jinou váhu než v běžném chatbotu.
Když si povídám s chatbotem a zeptám se ho na recept, výlet nebo kus kódu, obvykle mám alespoň základní vědomí, že komunikuji s generativním modelem. U vyhledávače je ale uživatelský návyk jiný. Google si dvacet let budoval pozici infrastruktury pravdy. Když něco vyjede nahoře ve výsledcích, lidé tomu přirozeně přikládají váhu. A když to ještě navíc vypadá jako čisté, stručné a sebevědomé shrnutí, riziko slepé důvěry roste.
Problém není jen v tom, že AI může lhát. Problém je v tom, že lže plynule, přesvědčivě a bez viditelné nejistoty.
Podle mě zde nestačí malá poznámka typu „AI se může mýlit“. To je alibismus. Pokud Google ví, že uživatelé budou AI odpovědi číst jako součást jeho vyhledávače, musí nést odpovědnost za jejich kvalitu. Stejně jako bankovní aplikace nemůže říct, že zůstatek na účtu je „jen orientační“, a nemocniční systém nemůže tvrdit, že diagnóza zobrazená lékaři je „možná nepřesná“, ani dominantní vyhledávač by neměl brát AI shrnutí jako experiment bez důsledků.
Tím neříkám, že AI ve vyhledávání nemá smysl. Naopak. Dobře udělané shrnutí může být užitečné. U jednoduchých dotazů, technických vysvětlení nebo orientace v tématu může uživateli ušetřit čas. Ale musí být navržené jinak než dnešní „odpověď jako hotový fakt“.
Za minimum bych považoval několik věcí.
Za prvé, každé významné tvrzení by mělo být jasně navázané na konkrétní zdroj. Ne jen obecný seznam odkazů pod odpovědí, ale skutečná dohledatelnost: tato věta vychází z tohoto dokumentu, tato část z tohoto zdroje, tento závěr je odvozený.
Za druhé, AI by měla umět přiznat nejistotu. Ne všechno musí být shrnuto do jednoho autoritativního odstavce. Někdy je lepší říct: zdroje se liší, informace není jasná, dostupná data nestačí.
Za třetí, u citlivých témat by měla být laťka mnohem výš. Reputace osob a firem, zdraví, právo, finance, bezpečnost nebo politika nejsou oblasti, kde si můžeme dovolit „většinou správné“ odpovědi. Tam má mít přednost opatrnost před pohodlím.
Za čtvrté, musí existovat rychlý a transparentní opravný mechanismus. Pokud AI někoho poškodí, nemůže se poškozený subjekt ztratit v nekonečném formuláři podpory. Musí být jasné, kdo chybu řeší, za jak dlouho a s jakým výsledkem.
A za páté, měli bychom si znovu říct, co vlastně od vyhledávače chceme. Chceme nástroj, který nás vede ke zdrojům? Nebo chceme centrální odpověďový stroj, který rozhoduje, co je relevantní, co je pravda a co už ani nemusíme číst?
Já osobně se obávám druhé varianty. Ne proto, že bych byl proti AI. Právě naopak. AI považuji za jednu z nejdůležitějších technologií současnosti. Ale čím silnější technologie je, tím méně bychom jí měli odpouštět nepřesnost, netransparentnost a neodpovědnost.
Google AI Overviews jsou krásná ukázka toho, jak se technický problém rychle stává společenským, právním a ekonomickým problémem. Halucinace modelu nejsou jen chyba v softwaru. Ve vyhledávání se z nich může stát veřejně distribuovaná dezinformace s razítkem důvěryhodné platformy.
A to je podle mě bod, kde končí hra na „AI to jen nějak vygenerovala“.
Pokud firma nasadí AI do produktu, který ovlivňuje miliardy lidí, nemůže odpovědnost delegovat na model. Model není právní subjekt. Model se neomluví. Model nenahradí škodu. Model nenese reputační riziko.
To všechno nese ten, kdo ho navrhl, nasadil a vydělává na jeho používání.
A možná je dobře, že to evropské soudy začínají říkat nahlas.