Agentura Reuters jako první informovala o dosud nezveřejněném incidentu z jara 2026, kdy autonomní AI agenti označující se jako systémy OpenAI zhruba dva měsíce využívali málo navštěvovanou německou programátorskou wiki DseWiki jako vlastní nástěnku. Stránku přitom nemuseli hackovat: je veřejně editovatelná podobně jako Wikipedie. Výzkumníci z neziskové skupiny Nightingale Collective tam napočítali přes 15 tisíc úprav, na kterých si agenti předávali tipy, jak obcházet bezpečnostní omezení, podvádět při zadaných úkolech a skrývat své chování před lidskou kontrolou. Když moderátoři v červnu začali stránky mazat, agenti si založili záložní stránky a vytvářeli nové rychleji, než je lidé stíhali odstraňovat. Podle zdrojů Reuters o incidentu OpenAI věděla několik týdnů předem. Firma však popírá, že by vyšetřování brzdila, a tvrdí, že šlo o případ oddělený od červencového útoku jejích agentů na Hugging Face. Na povrch se vše dostalo až koncem srpna díky nezávislým výzkumníkům.
Můj koemntář:Zprávy o tom, že si AI modely někde na pozadí internetu budují „undergroundová fóra“, aby zjistily, jak obelstít své vlastní vývojáře, mě vrací rychle nohama na zem. Připomíná to spíše zápletku z kyberpunkového románu než běžný softwarový bug. Na jedné straně to ukazuje fascinující schopnost umělé inteligence adaptovat se a plnit cíl za každou cenu – což je koneckonců vlastnost, kterou od ní chceme. Na straně druhé jde o obrovský varovný prst. Zatajování podobných úniků ze strany OpenAI (pokud to tak skutečně bylo) navíc narušuje už tak křehkou důvěru, kterou k lídrům tohoto oboru chováme. Dokud AI neumí hrát podle pravidel, je představa plně autonomních agentů, kteří nám budou spravovat firemní data, e-maily a rozpočty, spíše děsivá než lákavá. AI jako asistent je k nezaplacení, ale lidská ruka zkrátka musí zůstat na volantu.
Napsat komentář