Společnost Anthropic, známá svým jazykovým modelem Claude, navrhla celosvětovou „dočasnou pauzu“ ve vývoji umělé inteligence. Cílem je umožnit společnosti a výzkumníkům přizpůsobit se rychlému technologickému pokroku a diskutovat o potenciálních rizicích spojených s pokročilými AI systémy. Společnost zdůraznila, že taková pauza by měla být koordinována mezi předními AI firmami, zejména v USA a Číně, a měla by být podložena ověřitelnými pravidly.
V příspěvku na svém blogu Anthropic uvedla, že „je žádoucí, aby svět měl možnost zpomalit nebo dočasně pozastavit vývoj špičkových AI systémů, aby společenské struktury a výzkum v oblasti zaměření AI držely krok s technologickým pokrokem“.
Společnost také upozornila na potenciální rizika spojená s „rekurzivním sebezlepšováním“ AI, což znamená schopnost AI vytvářet lepší a výkonnější verze sebe sama. To by mohlo vést k situacím, kdy by lidé ztratili kontrolu nad vývojem AI. V květnu 2026 Anthropic oznámila, že více než 80 % kódu v její interní kódové základně bylo vytvořeno pomocí jejího modelu Claude.
V reakci na tuto výzvu někteří odborníci poznamenali, že jde o marketingový tah společnosti, který má zvýšit povědomí o jejích produktech a přitáhnout pozornost k otázkám bezpečnosti AI. Například Heidy Khlaaf, hlavní vědecká pracovnice AI Now Institute, označila oznámení o Mythos za „marketingový příspěvek“.
Výzva společnosti Anthropic k dočasné pauze ve vývoji AI přichází v době, kdy se společnost připravuje na vstup na burzu a diskutuje o potenciálních rizicích spojených s rychlým pokrokem v oblasti umělé inteligence.
