Společnost Anthropic zavádí do výstupů svého AI modelu Claude takzvané neviditelné vodoznaky. Tento krok, částečně motivovaný snahou vyhovět novému aktu o umělé inteligenci (EU AI Act), funguje jako statistický signál nenápadně vetkaný přímo do generovaného textu. Tento vodoznak není okem viditelný, přežije běžné kopírování i lehké úpravy a má sloužit k identifikaci obsahu, který „prošel přes Claude“. U obrázků a souborů se pak AI spoléhá na metadata standardu C2PA. Systém má ale jedno obrovské úskalí: vodoznak už nijak nerozlišuje, zda umělá inteligence text od nuly kompletně vymyslela a napsala, nebo zda ji autor použil jen jako pokročilou kontrolu pravopisu a stylistiky u svého původního, tvrdě odpracovaného díla.
Komentář:
Snaha o transparentnost obsahu na internetu je pochopitelná, ale plošná implementace neviditelných vodoznaků do textu otevírá Pandořinu skříňku plnou falešných obvinění. Pokud napíšete originální článek, strávíte dny rešeršemi a pak jej jen na závěr protáhnete přes Claude, aby vám opravil překlepy a učesal stylistiku, váš text ponese stejný „cejch“ jako ten nejlacinější, plně vygenerovaný AI spam.
Tohle povede k modernímu honu na čarodějnice, a to zejména v akademickém, podnikovém a žurnalistickém prostředí. Lidé budou triumfálně ukazovat na detekovaný vodoznak s tvrzením, že „tohle celé napsala umělá inteligence“, přičemž skutečnost bude taková, že si autor jen nechal pomoct s čárkami. A co je na tom celém nejsmutnější? Opravdoví podvodníci a spammeři tento vodoznak stejně snadno zničí (stačí text výrazněji přepsat, prohnat přes jiný nástroj nebo překladač). Ve výsledku tak tento systém potrestá především poctivé tvůrce, kteří berou AI jako moderní nástroj k vylepšení své práce, nikoliv jako náhradu za vlastní myšlení.
Zdroj:
Claude has invisible watermarks now. So does it actually matter? –
Napsat komentář