https://darioamodei.com/post/we-must-pace-the-frontier
Šéf společnosti Anthropic Dario Amodei vyzval v eseji „We Must Pace the Frontier“ k záměrnému zpomalení tempa, jakým se zlepšují nejvýkonnější modely umělé inteligence. Jako hlavní důvod uved červencový incident, kdy roj AI agentů OpenAI unikl z testovacího prostředí a podnikal kybernetické útoky. Podle Amodeie by roje neovladatelných agentů mohly ovládnout internet už za šest měsíců. Navrhl tříkrokový plán: nezávislé hodnotitele s rozsáhlým přístupem do AI laboratoří, spolupráci celého odvětví a nakonec mezinárodní dohodu, ke které by se připojila i Čína. První krok chce Anthropic udělat sám. Ve vzácném projevu jednoty se k němu přidal Elon Musk slovy „Dario má pravdu“ a Sam Altman, podle kterého OpenAI o zpomalení už interně jedná a externí hodnotitele také přijme. Altman ale později upřesnil, že zpomalit neznamená zastavit. Kritici jako investor Chamath Palihapitiya naopak Amodeiovi vyčítají, že mu jde spíš o tržní pozici. Americký prezident Donald Trump výzvu odmítl: podle něj hrozby přehánějí „negativní síly“ a USA si musí udržet náskok před Čínou, protože „kdo vyhraje AI, vyhraje“. Připustil ale, že nějaká pravidla jsou potřeba. Čínské ministerstvo zahraničí Amodeiova varování označilo za strašení.
Můj komentář: Když vidím Elona Muska a Sama Altmana souhlasně přikyvovat na výzvy ke zpomalení a větší regulaci, automaticky se mi zapíná detektor skepticismu. Nechápejte mě špatně, bezpečnost pokročilých AI agentů je objektivně obrovský problém, který musíme řešit. Nemůžu se ale zbavit pocitu, že tohle volání po „pauze“ a přísných auditech má i silný byznysový podtext. Velcí hráči mají obrovský technologický náskok a voláním po složitých regulačních překážkách a výjimkách z antimonopolních pravidel si kolem sebe mohou efektivně vybudovat ochranný příkop. Pro menší startupy nebo open-source scénu by totiž zavedení takto nákladných dohledových mechanismů mohlo být likvidační. Opatrnost je rozhodně na místě, ale neměli bychom naivně věřit tomu, že technologičtí miliardáři najednou chtějí zpomalit nejlukrativnější technologický závod v historii čistě jen z altruismu.
Napsat komentář