Tým výzkumníků z University of Toronto, Vector Institute, University of Cambridge a společnosti ServiceNow demonstroval, že samoobnovující se AI-řízené kybernetické hrozby již nejsou čistě teoretické. Virus funguje tak, že používá ukradené GPU prostředky z napadených uzlů k provozování otevřeně dostupných LLM modelů, které mu slouží k uvažování. Na základě tohoto uvažování detekuje zranitelnosti a tvoří přizpůsobené útoky proti novým cílům. Proof-of-concept běží na jediném A100 GPU se 80GB VRAM a nevyžaduje přístup k monitorovaným API. Agentovi je přidělen speciální harness s funkcemi pro síťové zjišťování, detekci hostů, získání přístupu a eskalaci oprávnění. Výzkum ukazuje přibližně 80procentní úspěšnost v detekci zranitelností, 53procentní v jejich zneužití a 88procentní v sebereplikaci. Vědci upozorňují, že je nutné se připravit na autonomní generativní protivníky.
výzkum University of Toronto ServiceNow open-source modely AI bezpečnost autonomní agenti Vector Institute
Vědci vytvořili samoshmnožující se AI virus, který využívá GPU napadených počítačů
Zdroje
- Import AI (Jack Clark): Import AI 467: Self-sustaining AI viruses; pacing AI progress; confusion about AI and creativity
Související články