n\u011bmeck\u00e9ho soudu <\/a>a AI Overviews ukazuje, \u017ee nejde jen o dal\u0161\u00ed drobnou chybu um\u011bl\u00e9 inteligence. Nejde jen o legra\u010dn\u00ed halucinaci typu \u201edejte lepidlo na pizzu\u201c nebo \u201ejezte kameny\u201c, kter\u00e9 se d\u0159\u00edve objevily jako bizarn\u00ed uk\u00e1zky selh\u00e1n\u00ed AI ve vyhled\u00e1v\u00e1n\u00ed. Tady u\u017e se bav\u00edme o n\u011b\u010dem v\u00e1\u017en\u011bj\u0161\u00edm: AI shrnut\u00ed ve vyhled\u00e1v\u00e1n\u00ed \u00fadajn\u011b spojilo konkr\u00e9tn\u00ed vydavatele s podvody a pochybn\u00fdmi obchodn\u00edmi praktikami. Jin\u00fdmi slovy, stroj nevygeneroval jen \u0161patnou odpov\u011b\u010f. Vygeneroval tvrzen\u00ed, kter\u00e9 m\u016f\u017ee po\u0161kodit reputaci re\u00e1ln\u00fdch subjekt\u016f.<\/p>\n\n\n\nA te\u010f p\u0159ich\u00e1z\u00ed kl\u00ed\u010dov\u00e1 ot\u00e1zka: kdo za to odpov\u00edd\u00e1?<\/p>\n\n\n\n
Google se dlouho mohl schov\u00e1vat za logiku klasick\u00e9ho vyhled\u00e1va\u010de. My p\u0159ece obsah netvo\u0159\u00edme, my ho jen indexujeme. Pokud je n\u011bkde na webu chyba, probl\u00e9m je u p\u016fvodn\u00edho autora. Vyhled\u00e1va\u010d pouze zobrazuje odkazy.<\/p>\n\n\n\n
Jen\u017ee AI Overviews tuto hranici rozmaz\u00e1vaj\u00ed. Nejde u\u017e jen o seznam modr\u00fdch odkaz\u016f. Jde o nov\u011b sestavenou odpov\u011b\u010f, kterou syst\u00e9m vytvo\u0159\u00ed kombinac\u00ed zdroj\u016f, interpretac\u00ed, zkr\u00e1cen\u00edm a jazykovou synt\u00e9zou. U\u017eivatel ji nav\u00edc \u010dasto vid\u00ed \u00fapln\u011b naho\u0159e, je\u0161t\u011b p\u0159ed klasick\u00fdmi v\u00fdsledky. Psychologicky to p\u016fsob\u00ed jako ofici\u00e1ln\u00ed odpov\u011b\u010f Googlu.<\/p>\n\n\n\n
A podle m\u011b p\u0159esn\u011b tohle soud spr\u00e1vn\u011b pochopil.<\/p>\n\n\n\n
Kdy\u017e platforma vezme ciz\u00ed obsah, p\u0159ep\u00ed\u0161e ho vlastn\u00edm AI syst\u00e9mem, d\u00e1 mu podobu autoritativn\u00edho shrnut\u00ed a um\u00edst\u00ed ho nad v\u00fdsledky vyhled\u00e1v\u00e1n\u00ed, nem\u016f\u017ee se donekone\u010dna tv\u00e1\u0159it, \u017ee za text nenese odpov\u011bdnost. To u\u017e nen\u00ed neutr\u00e1ln\u00ed indexace. To je publika\u010dn\u00ed akt.<\/p>\n\n\n\n
Samoz\u0159ejm\u011b, z technick\u00e9ho hlediska ch\u00e1pu, pro\u010d se to d\u011bje. Velk\u00e9 jazykov\u00e9 modely nepracuj\u00ed s pravdou tak, jak si ji p\u0159edstavuje b\u011b\u017en\u00fd u\u017eivatel. Model nev\u00ed. Model generuje pravd\u011bpodobn\u00fd text. I kdy\u017e je napojen\u00fd na vyhled\u00e1v\u00e1n\u00ed, zdroje nebo retrieval syst\u00e9m, po\u0159\u00e1d m\u016f\u017ee \u0161patn\u011b pochopit kontext, spojit nesouvisej\u00edc\u00ed informace, vynechat d\u016fle\u017eitou podm\u00ednku nebo formulovat z\u00e1v\u011br siln\u011bji, ne\u017e zdroje dovoluj\u00ed.<\/p>\n\n\n\n
To je zn\u00e1m\u00fd probl\u00e9m halucinac\u00ed. Jen\u017ee ve vyhled\u00e1v\u00e1n\u00ed m\u00e1 jinou v\u00e1hu ne\u017e v b\u011b\u017en\u00e9m chatbotu.<\/p>\n\n\n\n
Kdy\u017e si pov\u00edd\u00e1m s chatbotem a zept\u00e1m se ho na recept, v\u00fdlet nebo kus k\u00f3du, obvykle m\u00e1m alespo\u0148 z\u00e1kladn\u00ed v\u011bdom\u00ed, \u017ee komunikuji s generativn\u00edm modelem. U vyhled\u00e1va\u010de je ale u\u017eivatelsk\u00fd n\u00e1vyk jin\u00fd. Google si dvacet let budoval pozici infrastruktury pravdy. Kdy\u017e n\u011bco vyjede naho\u0159e ve v\u00fdsledc\u00edch, lid\u00e9 tomu p\u0159irozen\u011b p\u0159ikl\u00e1daj\u00ed v\u00e1hu. A kdy\u017e to je\u0161t\u011b nav\u00edc vypad\u00e1 jako \u010dist\u00e9, stru\u010dn\u00e9 a sebev\u011bdom\u00e9 shrnut\u00ed, riziko slep\u00e9 d\u016fv\u011bry roste.<\/p>\n\n\n\n
Probl\u00e9m nen\u00ed jen v tom, \u017ee AI m\u016f\u017ee lh\u00e1t. Probl\u00e9m je v tom, \u017ee l\u017ee plynule, p\u0159esv\u011bd\u010div\u011b a bez viditeln\u00e9 nejistoty.<\/p>\n\n\n\n
Podle m\u011b zde nesta\u010d\u00ed mal\u00e1 pozn\u00e1mka typu \u201eAI se m\u016f\u017ee m\u00fdlit\u201c. To je alibismus. Pokud Google v\u00ed, \u017ee u\u017eivatel\u00e9 budou AI odpov\u011bdi \u010d\u00edst jako sou\u010d\u00e1st jeho vyhled\u00e1va\u010de, mus\u00ed n\u00e9st odpov\u011bdnost za jejich kvalitu. Stejn\u011b jako bankovn\u00ed aplikace nem\u016f\u017ee \u0159\u00edct, \u017ee z\u016fstatek na \u00fa\u010dtu je \u201ejen orienta\u010dn\u00ed\u201c, a nemocni\u010dn\u00ed syst\u00e9m nem\u016f\u017ee tvrdit, \u017ee diagn\u00f3za zobrazen\u00e1 l\u00e9ka\u0159i je \u201emo\u017en\u00e1 nep\u0159esn\u00e1\u201c, ani dominantn\u00ed vyhled\u00e1va\u010d by nem\u011bl br\u00e1t AI shrnut\u00ed jako experiment bez d\u016fsledk\u016f.<\/p>\n\n\n\n
T\u00edm ne\u0159\u00edk\u00e1m, \u017ee AI ve vyhled\u00e1v\u00e1n\u00ed nem\u00e1 smysl. Naopak. Dob\u0159e ud\u011blan\u00e9 shrnut\u00ed m\u016f\u017ee b\u00fdt u\u017eite\u010dn\u00e9. U jednoduch\u00fdch dotaz\u016f, technick\u00fdch vysv\u011btlen\u00ed nebo orientace v t\u00e9matu m\u016f\u017ee u\u017eivateli u\u0161et\u0159it \u010das. Ale mus\u00ed b\u00fdt navr\u017een\u00e9 jinak ne\u017e dne\u0161n\u00ed \u201eodpov\u011b\u010f jako hotov\u00fd fakt\u201c.<\/p>\n\n\n\n
Za minimum bych pova\u017eoval n\u011bkolik v\u011bc\u00ed.<\/p>\n\n\n\n
Za prv\u00e9, ka\u017ed\u00e9 v\u00fdznamn\u00e9 tvrzen\u00ed by m\u011blo b\u00fdt jasn\u011b nav\u00e1zan\u00e9 na konkr\u00e9tn\u00ed zdroj. Ne jen obecn\u00fd seznam odkaz\u016f pod odpov\u011bd\u00ed, ale skute\u010dn\u00e1 dohledatelnost: tato v\u011bta vych\u00e1z\u00ed z tohoto dokumentu, tato \u010d\u00e1st z tohoto zdroje, tento z\u00e1v\u011br je odvozen\u00fd.<\/p>\n\n\n\n
Za druh\u00e9, AI by m\u011bla um\u011bt p\u0159iznat nejistotu. Ne v\u0161echno mus\u00ed b\u00fdt shrnuto do jednoho autoritativn\u00edho odstavce. N\u011bkdy je lep\u0161\u00ed \u0159\u00edct: zdroje se li\u0161\u00ed, informace nen\u00ed jasn\u00e1, dostupn\u00e1 data nesta\u010d\u00ed.<\/p>\n\n\n\n
Za t\u0159et\u00ed, u citliv\u00fdch t\u00e9mat by m\u011bla b\u00fdt la\u0165ka mnohem v\u00fd\u0161. Reputace osob a firem, zdrav\u00ed, pr\u00e1vo, finance, bezpe\u010dnost nebo politika nejsou oblasti, kde si m\u016f\u017eeme dovolit \u201ev\u011bt\u0161inou spr\u00e1vn\u00e9\u201c odpov\u011bdi. Tam m\u00e1 m\u00edt p\u0159ednost opatrnost p\u0159ed pohodl\u00edm.<\/p>\n\n\n\n
Za \u010dtvrt\u00e9, mus\u00ed existovat rychl\u00fd a transparentn\u00ed opravn\u00fd mechanismus. Pokud AI n\u011bkoho po\u0161kod\u00ed, nem\u016f\u017ee se po\u0161kozen\u00fd subjekt ztratit v nekone\u010dn\u00e9m formul\u00e1\u0159i podpory. Mus\u00ed b\u00fdt jasn\u00e9, kdo chybu \u0159e\u0161\u00ed, za jak dlouho a s jak\u00fdm v\u00fdsledkem.<\/p>\n\n\n\n
A za p\u00e1t\u00e9, m\u011bli bychom si znovu \u0159\u00edct, co vlastn\u011b od vyhled\u00e1va\u010de chceme. Chceme n\u00e1stroj, kter\u00fd n\u00e1s vede ke zdroj\u016fm? Nebo chceme centr\u00e1ln\u00ed odpov\u011b\u010fov\u00fd stroj, kter\u00fd rozhoduje, co je relevantn\u00ed, co je pravda a co u\u017e ani nemus\u00edme \u010d\u00edst?<\/p>\n\n\n\n
J\u00e1 osobn\u011b se ob\u00e1v\u00e1m druh\u00e9 varianty. Ne proto, \u017ee bych byl proti AI. Pr\u00e1v\u011b naopak. AI pova\u017euji za jednu z nejd\u016fle\u017eit\u011bj\u0161\u00edch technologi\u00ed sou\u010dasnosti. Ale \u010d\u00edm siln\u011bj\u0161\u00ed technologie je, t\u00edm m\u00e9n\u011b bychom j\u00ed m\u011bli odpou\u0161t\u011bt nep\u0159esnost, netransparentnost a neodpov\u011bdnost.<\/p>\n\n\n\n
Google AI Overviews jsou kr\u00e1sn\u00e1 uk\u00e1zka toho, jak se technick\u00fd probl\u00e9m rychle st\u00e1v\u00e1 spole\u010densk\u00fdm, pr\u00e1vn\u00edm a ekonomick\u00fdm probl\u00e9mem. Halucinace modelu nejsou jen chyba v softwaru. Ve vyhled\u00e1v\u00e1n\u00ed se z nich m\u016f\u017ee st\u00e1t ve\u0159ejn\u011b distribuovan\u00e1 dezinformace s raz\u00edtkem d\u016fv\u011bryhodn\u00e9 platformy.<\/p>\n\n\n\n
A to je podle m\u011b bod, kde kon\u010d\u00ed hra na \u201eAI to jen n\u011bjak vygenerovala\u201c.<\/p>\n\n\n\n
Pokud firma nasad\u00ed AI do produktu, kter\u00fd ovliv\u0148uje miliardy lid\u00ed, nem\u016f\u017ee odpov\u011bdnost delegovat na model. Model nen\u00ed pr\u00e1vn\u00ed subjekt. Model se neomluv\u00ed. Model nenahrad\u00ed \u0161kodu. Model nenese reputa\u010dn\u00ed riziko.<\/p>\n\n\n\n
To v\u0161echno nese ten, kdo ho navrhl, nasadil a vyd\u011bl\u00e1v\u00e1 na jeho pou\u017e\u00edv\u00e1n\u00ed.<\/p>\n\n\n\n
A mo\u017en\u00e1 je dob\u0159e, \u017ee to evropsk\u00e9 soudy za\u010d\u00ednaj\u00ed \u0159\u00edkat nahlas.<\/p>\n","protected":false},"excerpt":{"rendered":"
Je\u0161t\u011b ned\u00e1vno jsme Google brali jako br\u00e1nu k informac\u00edm. Ne nutn\u011b jako autoritu, kter\u00e1 m\u00e1 v\u017edy pravdu, ale jako rozcestn\u00edk. Zadali jsme dotaz, dostali jsme odkazy, otev\u0159eli n\u011bkolik zdroj\u016f a ud\u011blali si vlastn\u00ed obr\u00e1zek. Dnes se ale vyhled\u00e1v\u00e1n\u00ed pomalu m\u011bn\u00ed v n\u011bco jin\u00e9ho. Google u\u017e n\u00e1m nechce jen uk\u00e1zat cestu. Chce n\u00e1m rovnou d\u00e1t odpov\u011b\u010f. […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[3,20,71,70],"class_list":["post-150","post","type-post","status-publish","format-standard","hentry","category-nezarazene","tag-ai","tag-google","tag-nemecko","tag-vyhledavani"],"_links":{"self":[{"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/posts\/150","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/comments?post=150"}],"version-history":[{"count":2,"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/posts\/150\/revisions"}],"predecessor-version":[{"id":163,"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/posts\/150\/revisions\/163"}],"wp:attachment":[{"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/media?parent=150"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/categories?post=150"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.martinpavlicek.cz\/blog\/wp-json\/wp\/v2\/tags?post=150"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}