Umělá inteligence se rychle dostává do pracovních i domácích aplikací a firmy v Atlantě ji buď zkouší, nebo už ji aktivně využívají. Současně ji nasazují i kyberzločinci: útočníci podle odborníků používají AI k vylepšení phishingu, tvorbě realistických podvrhů a k automatizaci útoků, které dříve vyžadovaly víc ruční práce.
Podle AJC bezpečnostní týmy varují před řadou nových rizik souvisejících s generativními modely a automatizací. Mezi nejčastěji zmiňované hrozby patří přesvědčivé falešné e-maily a zprávy, generování deepfake audií a videí pro obcházení ověřovacích mechanismů, automatické vytváření přesvědčivých phishingových promptů a dokonce i rychlé generování kódu, který může sloužit jako základ pro škodlivý software.
Flavio Villanustre, senior vice president a chief information security officer ve společnosti LexisNexis Risk Solutions se sídlem v Alpharettě, patří mezi bezpečnostní experty, kteří ten vývoj sledují. Bezpečnostní manažeři také upozorňují, že veřejné a otevřené prompty mohou odhalit citlivé informace a že modely trénované na velkých objemech dat mohou nechtěně šířit citlivá zjištění napříč organizacemi.
Mezi konkrétní slabiny, které firmy řeší, patří ověřované transakce a telefonní kontroly identity – ty mohou být zneužity pomocí syntetického hlasu při požadavcích na finance nebo přístup k systémům. Dalšími problémy jsou falešné e-maily a zprávy, manipulace gramatikou a textem tak, aby působily důvěryhodně, a zrychlené testování a ladění útoků díky automatizovaným nástrojům.
Odborníci proto doporučují omezit sdílení interních promptů, pravidelně trénovat zaměstnance na rozpoznání nových typů útoků, testovat obranné mechanismy a zavést politiky, které redukují riziko úniku citlivých dat do externích modelů. Zároveň upozorňují, že adopce AI se liší napříč organizacemi – zatímco některé firmy experimentují, jiné už nasazují řešení v provozu.
