Uživatelé platformy Roblox budou muset při aktivaci chatovacích funkcí nově ověřit svůj věk buď předložením dokladu, nebo prostřednictvím AI nástroje, který odhadne věk z fotografie obličeje. Společnost uvedla, že změna má zamezit kontaktům dětí s dospělými, které neznají.
Podle agentury AP budou moci ti, kdo nechtějí nahrát doklad, využít technologii od firmy Persona, která pomocí přední kamery zařízení vyzve uživatele, aby pohnul obličejem, a následně zařadí osobu do věkové kategorie. AI přiřadí uživatele do jedné z následujících skupin: pod 9, 9–12, 13–15, 16–17, 18–20 nebo 21+.
Uživatelé pak budou moci chatovat pouze s lidmi ve stejné nebo blízké věkové skupině; například uživatel odhadnutý na 12 let může komunikovat s lidmi do 15 let, nikoli s 16letými a staršími. Pokud systém zařadí někoho chybně a dotyčný je starší 13 let, může věk opravit nahráním dokladu. Rodiče mohou upravit věk dítěte, pokud mají účet propojený přes rodičovské ovládací prvky. Firma uvádí, že nahrané snímky budou použity pouze k odhadu věku a poté smazány.
Roblox už dnes nabízí různé nástroje pro ochranu mladších uživatelů, včetně rodičovských kontrol, blokování sdílení fotografií a osobních údajů a moderace textu a hlasu lidskými moderátory i AI. Pro přístup k některým zážitkům určeným od 17 let platforma již dříve vyžadovala ověření věku.
Společnost uvedla, že systém má zabudované kontroly proti podvodům, které podle ní zjišťují, zda je před kamerou skutečná osoba a zda není opakovaně zneužívána stejná fotografie. Hlavní bezpečnostní pracovník Matt Kaufman doplnil, že technologie je „typicky dost přesná na jedno až dvě léta“ u uživatelů mezi 5 a 25 lety. Rajiv Bhatia, viceprezident odpovědný za produkt, uvedl, že změny pomohou omezit kontakt mezi nezletilými a dospělými, které neznají.
Rozšíření ověřování začne dobrovolně, od prosince bude povinné v Austrálii, na Novém Zélandu a v Nizozemsku a globálně se má zavést začátkem příštího roku. Záměry firmy přicházejí v době, kdy čelí soudním žalobám a vyšetřováním týkajícím se bezpečnosti dětí na platformě.
