Společnost Google varuje před rostoucím zapojením umělé inteligence (AI) do kybernetických útoků. Podle zprávy Google Threat Intelligence Group (GTIG) se kyberzločinci a státem podporované hackerské skupiny rychle vyvíjejí od experimentování s AI k jejímu přímému začlenění do ofenzivních kyberoperací. Tato změna umožňuje rychlejší a efektivnější identifikaci zranitelností, vývoj malwaru a provádění průzkumu.
Jedním z významných zjištění zprávy je identifikace prvního zero-day exploitů, pravděpodobně vyvinutého s pomocí AI. Kyberzločinci použili techniky generované AI k identifikaci a zneužití zranitelnosti v populární open-source administrativní platformě, která umožňuje obcházení dvoufaktorové autentizace. GTIG poznamenává, že zatímco tradiční bezpečnostní nástroje zůstávají účinné při detekci nízkoúrovňových chyb v kódu, velké jazykové modely AI jsou stále schopnější identifikovat vyšší úrovně semantických logických chyb, které jsou strategicky nebezpečné, ale obtížně detekovatelné konvenčními skenery.
Zpráva také zdůrazňuje, jak útočníci nyní používají AI ke zlepšení vyhýbání se detekci malwaru a operační odolnosti. Výzkumníci zaznamenali, že skupina APT27, spojená s Čínou, využívá model Gemini k urychlení vývoje nástrojů pro správu infrastruktury navržených k podpoře sítí operačních relay boxů (ORB) pomocí rezidenční infrastruktury IP k maskování původu útoků. Mezitím ruské skupiny cílící na ukrajinské organizace nasazují rodiny malwaru obsahující velké objemy kódu generovaného AI, navrženého k ztížení analýzy a obcházení detekčních systémů. GTIG uvedla, že rodiny malwaru jako CANFAIL a LONGSTREAM obsahují koherentní, ale neaktivní administrativní kód vložený čistě za účelem maskování škodlivé funkčnosti.
Dalším příkladem je autonomní malware PROMPTSPY, backdoor pro Android, schopný využívat Gemini k autonomnímu interpretování stavů uživatelského rozhraní, výpočtu souřadnic na obrazovce a provádění gest, jako jsou kliknutí a swipy, bez přímé lidské pomoci. Výzkumníci uvedli, že PROMPTSPY může také zachytávat biometrické autentizační gesta a dynamicky aktualizovat infrastrukturu, jako jsou klíče API Gemini a servery pro příkaz a kontrolu, aby udržel perzistenci.
Kromě malwaru GTIG varuje, že AI je stále častěji integrována do průzkumných a phishingových pracovních toků. Byly zaznamenány případy, kdy útočníci používají velké jazykové modely k mapování organizačních hierarchií, identifikaci vztahů třetích stran a výzkumu vysoce hodnotných cílů za účelem vytvoření přesvědčivějších phishingových kampaní. Zpráva také popisuje posun směrem k „agentickým pracovním tokům“, kde systémy AI přecházejí od role výzkumných asistentů k autonomní orchestraci ofenzivních operací. GTIG identifikovala podezřelé aktivity spojené s Čínou, které využívají agentické rámce, jako jsou Hexstrike a Strix, k automatizaci průzkumu a validace zranitelností proti cílům v Asii.
V reakci na rostoucí hrozby spojené s AI v kyberprostoru Google varuje, že útočníci se stále více pokoušejí industrializovat přístup k pokročilým modelům AI. Zpráva popisuje, jak útočníci používají automatizované procesy registrace účtů, proxy relé a služby agregace API k obcházení bezpečnostních kontrol, omezení fakturace a zákazů účtů napříč komerčními platformami velkých jazykových modelů. Zjištění také zdůrazňují rostoucí rizika v dodavatelských řetězcích AI. GTIG zdokumentovala škodlivé dovednosti OpenClaw schopné vykonávat neoprávněné příkazy a krást citlivá data, stejně jako širší kompromisy ovlivňující repozitáře GitHub a balíčky související s AI, včetně LiteLLM a BerriAI.
Navzdory rostoucí sofistikovanosti těchto útoků Google zdůrazňuje, že AI se také stává důležitou obranou schopností. Společnost vyzdvihla projekty jako Big Sleep, agent AI navržený k proaktivní identifikaci zranitelností, a CodeMender, experimentální systém AI schopný automaticky opravovat kritické chyby.
