Hackeři objevili nový byznys: místo dat zneužívají drahý výkon AI

Kybernetické útoky na firemní cloud získávají nový rozměr. Útočníci už nemusí usilovat pouze o citlivá data nebo využívat cizí infrastrukturu k těžbě kryptoměn. Stále zajímavějším cílem se stává přístup k placeným modelům umělé inteligence, jejichž provoz může být velmi nákladný.

Tento způsob zneužití se označuje jako LLMjacking. Princip je poměrně přímočarý: útočník získá přístupové údaje ke cloudovému účtu a jeho prostřednictvím začne využívat placené AI služby. Náklady přitom zůstávají na napadené firmě.

Nejde o krádež modelu ani trénovacích dat

Analýza výzkumníků FortiGuard Labs společnosti Fortinet upozorňuje, že cílem podobných útoků není samotný obsah databází nebo trénovací data. Hodnotu má především možnost využívat výkonné AI modely na cizí účet.

Útočník tak může kompromitovaný přístup využít pro vlastní potřeby nebo jej nabídnout dalším zájemcům. Z pohledu kyberzločinců je atraktivní zejména poměr mezi náklady a potenciálním výnosem. Pokud získají platný cloudový klíč či jiné přihlašovací údaje, mohou začít infrastrukturu zneužívat velmi rychle.

Finanční následky přitom mohou být značné. Starší výzkum společnosti Sysdig například ukázal, že při rozsáhlém zneužití tehdejšího modelu Claude 3 Opus se teoretické denní náklady napadeného účtu mohly dostat přes 100 000 dolarů.

Stačil administrátorský přístup do AWS

FortiGuard Labs popsal také konkrétní případ, ve kterém útočník získal dlouhodobý přístupový klíč AWS IAM s administrátorskými oprávněními. Následně vytvořil nového uživatele, aktivoval přístup k vybraným modelům prostřednictvím AWS Marketplace a začal je používat.

Veškerá spotřeba byla účtována majiteli kompromitovaného cloudového účtu. Právě to odlišuje LLMjacking například od ransomwaru – útočník nemusí firmu přímo vydírat. Hodnotu získává už samotným využíváním jejích placených zdrojů.

Pro firmy vzniká další položka kybernetického rizika

Pro podniky využívající cloudové AI služby je proto důležitá nejen ochrana firemních dat, ale také kontrola identit, oprávnění a neobvyklé spotřeby cloudových zdrojů. Rizikové mohou být zejména dlouhodobě platné přístupové klíče s příliš širokými oprávněními.

Protože útočníci používají platné přihlašovací údaje a legitimní služby, nemusí jejich aktivita na první pohled připomínat klasický kybernetický útok. O to důležitější je silné ověřování identity, omezení oprávnění, důsledné protokolování a sledování neobvyklých změn ve využívání služeb.

S rostoucím využíváním generativní AI ve firmách se tak mění i ekonomika kyberkriminality. Cenným aktivem už nejsou pouze firemní informace, ale také výpočetní výkon a přístup k drahým AI službám.

Zdroj/foto: Václav Kotyk, Fortinet, AI