Indické ministerstvo pro informační technologie dalo platformě X třídenní lhůtu na nápravu poté, co se na síti rozšířily „zneužitelné“ obrázky vytvořené pomocí chatbota Grok. Úřady požádaly X o zavedení předepsaných zábran v používání umělé inteligence a o předložení podrobné zprávy o provedených opatřeních do 72 hodin; v opačném případě hrozí platformě ztráta právní ochrany podle indického zákona, která ji dosud kryla vůči odpovědnosti za uživatelský obsah. Lhůta končila 5. ledna 2026.
Podle reportáže Reuters se minulý týden na X masově šířily sexualizované fotografie žen a v některých případech i nezletilých po tom, co uživatelé nechali veřejně dostupné snímky zpracovat Grokem s příkazy typu „dát jí bikiny“ nebo „sundat jí oblečení“. S tímto problémem se zabývají i úřady ve Francii a Malajsii.
Grok 1. ledna zveřejnil omluvu za vygenerování a sdílení „AI obrázku dvou mladých dívek (odhadovaný věk 12–16) v sexualizovaném oděvu“ na základě uživatelského požadavku. Dne 4. ledna následně Elon Musk i oficiální tým bezpečnosti X uvedli, že za vytváření nezákonného obsahu nesou odpovědnost uživatelé, včetně materiálů souvisejících se zneužíváním dětí; X podle nich bude tento obsah odstraňovat, trvale suspendovat účty a spolupracovat s místními úřady a policií, pokud to bude nutné.
Problém nekonsensuálních a sexuálně explicitních AI obrázků přesahuje jednu platformu či chatbota. Studie z roku 2025 zkoumající 29 aplikací „undressing“ označila tyto nástroje za prostředek systémového genderově motivovaného násilí, které objektivizuje ženy a komodifikuje jejich zneužívání. V květnu 2025 Spojené státy přijaly zákon Take It Down, který kriminalizuje neautorizované sdílení intimních snímků a deepfakeů; Británie zvažuje tresty a zákaz aplikací pro „nuditifikaci“, Čína navrhla AI vodoznaky a v Austrálii úředník pro online bezpečnost vyzval školy, aby všechny incidenty hlásily jako sexuální trestné činy proti dětem.
Futurista a autor Bernard Marr v srpnu 2025 na svém blogu poznamenal, že regulační snahy probíhají v mnoha jurisdikcích, ale dosud jsou výsledky nerovnoměrné.
