Un recente caso di cyber attacco ha mostrato come un agente di intelligenza artificiale possa essere usato in modo autonomo nella fase di post exploitation contro un ente governativo, in questo caso il Ministero delle Finanze della Thailandia. Su un server a noleggio è stato installato Hermes, un assistente open source pensato per automatizzare attività operative e ricevere istruzioni tramite strumenti di messaggistica.
Non si tratta di un malware né di una vulnerabilità del progetto, ma di un utilizzo improprio delle sue funzioni.
L’aspetto chiave è la modalità YOLO, che disattiva le richieste di approvazione prima di eseguire comandi potenzialmente rischiosi. In pratica l’operatore ha potuto lasciare l’agente AI a lavorare senza supervisione continua, delegando a Hermes una sequenza di azioni ripetitive tipiche di un’intrusione già avviata. Dalle tracce emerse, l’accesso iniziale alla rete era già stato ottenuto e l’agente è stato impiegato per esplorare host, cercare percorsi di escalation dei privilegi e scorrere directory sensibili.
Un errore operativo ha reso possibile ricostruire molte attività: i log dell’agente e numerosi file di tooling sono stati lasciati su un web server con directory listing abilitato. Tra le azioni automatizzate compaiono scansioni e controlli standard su sistemi Linux, inclusi strumenti usati comunemente nei test di sicurezza e nelle attività di post exploitation, come la ricerca di binari con permessi elevati e l’analisi del file system. In una directory collegata a un ufficio interno risultavano presenti documenti e registri del personale risalenti al 2012, con evidenza di lettura delle cartelle ma senza prova certa di esfiltrazione.
Dalle analisi sui file recuperati emerge anche un interesse verso componenti Hadoop, in particolare HiveServer2. Un punto critico è la configurazione predefinita di autenticazione impostata su NONE, che può accettare qualunque password se non modificata. Uno script era progettato per connettersi al servizio e installare una funzione definita dall’utente in Java, tecnica che può consentire esecuzione di comandi di sistema tramite query e accesso a dati sensibili. Questo scenario evidenzia quanto la sicurezza dei database e dei cluster big data sia centrale nelle infrastrutture pubbliche.