https://www.anthropic.com/threat-intelligence-report-september-2026
Společnost Anthropic zveřejnila v září 2026 novou zprávu o zneužívání svých AI modelů (Threat Intelligence Report). Dokumentuje v ní řadu případů, kdy se státní i nestátní aktéři pokoušeli využít Clauda ke kybernetickým útokům, sledování nebo vývoji zbraní. Mezi popsané případy patří pokusy hackerů s vazbami na Írán sestavit databázi cílů amerického námořnictva, snaha čínských aktérů vyvíjet protitorpédové systémy nebo skupina z Jemenu, která s pomocí nástroje Claude Code a několika souběžně spuštěných instancí modelu pracovala na navigačním softwaru pro rakety. Zpráva se poprvé samostatně věnuje i zneužití AI v biologii, například pomoci s plánováním a dokumentací výzkumu nebezpečných virů. Podle Anthropicu nejde o typické využití jeho modelů, ale o nejzávažnější zachycené případy. Řadu pokusů zablokovaly ochranné mechanismy a v ostatních případech firma účty zrušila. Zpráva zároveň upozorňuje, že AI nedělá útoky sofistikovanějšími, ale výrazně je zlevňuje a zrychluje.
Můj kritický komentář:
Zatímco se celosvětová debata o bezpečnosti AI často točí kolem populárních sci-fi scénářů o „vzpouře strojů“ (což přiživil i nedávný únik modelu od OpenAI), zpráva od Anthropicu nás vrací tvrdě do reality. Tou největší a nejbezprostřednější hrozbou dnes totiž není to, že se AI sama „zblázní“. Hrozbou jsou lidé, kteří její obrovský potenciál systematicky obracejí proti sobě samým. Když skupiny v Jemenu používají programovací nástroj od Anthropicu k vývoji navádění raket tak, že nechají jednoho AI agenta psát kód, druhého dělat rešerše a třetího provádět revizi, vidíme tu v praxi naprosto stejný postup (tzv. multi-agentní orchestraci), jaký pro běžný vývoj softwaru nabízí nově třeba Meta s jejich Muse Code. Zkrátka technologie dvojího užití (dual-use) v té nejděsivější podobě.Tato zpráva navíc v plné nahotě ukazuje naivitu současných „bezpečnostních mantinelů“ (guardrails). AI firmy se rády chlubí tím, jak jejich modely odmítnou napsat rasistický vtip nebo primitivní návod na bombu, ale odhodlaní armádní výzkumníci tyto filtry zjevně dokážou obcházet pomocí sofistikovaných proxy sítí a rozkouskování úkolů. Technologický sektor nám tak v podstatě v přímém přenosu naservíroval demokratizaci vývoje pokročilých zbraní a kybernetické špionáže. Účty útočníkům sice můžete smazat, ale jakmile nástroj jednou uvolníte do světa, stojíme na prahu zcela nových závodů ve zbrojení, ke kterým dodává tu nejlepší munici samotné Silicon Valley. A když to nepůjde přes API, lokální modely s příslibem dohonění těch nejlepších frontier modelů, nabídnou k pokračování v práci na IP adrese 127.0.0.1.
Napsat komentář