Un recente caso di cybersecurity mostra come i gruppi di minaccia stiano adattando il malware per ostacolare le analisi basate su intelligenza artificiale. La tecnica è stata soprannominata GuardBreaker e sfrutta un concetto semplice ma efficace di prompt injection inserito direttamente nel codice malevolo.
In pratica gli attaccanti aggiungono un testo deliberatamente sensibile come commento in uno script, con lo scopo di far scattare i meccanismi di sicurezza di un modello linguistico e indurlo a rifiutare la richiesta. Il risultato è che un assistente AI o uno scanner che usa LLM per la triage del codice potrebbe bloccarsi o interrompere la valutazione prima di arrivare alle parti realmente pericolose.
Nel caso osservato la minaccia è attribuita a UAC 0099, un attore allineato alla Russia, e il testo inserito nel file VBS richiama esplicitamente la richiesta di creare un’arma nucleare. Questo tipo di contenuto è progettato per catturare l’attenzione del sistema di sicurezza del modello e deviare l’analisi, causando rifiuto, confusione del contesto o classificazioni premature. Per chi usa workflow di sicurezza con AI assistita, è un segnale chiaro che il contenuto analizzato deve essere trattato come non fidato e isolato correttamente nei prompt.
Dal punto di vista operativo lo script VBS non nasce solo per confondere l’AI, ma per avviare una catena di infezione. La sua funzione principale è scaricare e installare MATCHBOIL, un loader basato su C# associato a questo gruppo e utilizzato per distribuire ulteriori payload. In precedenza sono stati segnalati anche travestimenti del malware come plugin di Notepad++ per compromettere sistemi Windows, a conferma di un approccio orientato all’inganno e alla persistenza.
Queste tecniche non sono un caso isolato. In altre campagne legate alla supply chain sono stati trovati pacchetti software con testo in chiaro costruito apposta per far scattare le guardrail dei modelli, includendo riferimenti a istruzioni su armi biologiche e nucleari. Il rischio cresce quando gli strumenti di analisi inviano ai modelli solo l’inizio di un file o non separano chiaramente dati e istruzioni, rendendo più facile la prompt injection e la context pollution. Per difendersi servono pipeline robuste, delimitazione dei contenuti, e controlli che impediscano ai commenti o stringhe di manipolare il comportamento dell’AI durante l’analisi del malware.