Il Potenziale oscuro di ChatGPT: creazione e diffusione di virus informatici invisibili attraverso le email

Recentemente, due ingegneri informatici, David Zollikofer dell’ETH di Zurigo e Benjamin Zimmerman dell’Università Statale dell’Ohio, hanno condotto un esperimento intrigante e preoccupante con #ChatGPT. Il loro obiettivo era dimostrare come i modelli linguistici di grandi dimensioni (Large Language Models o LLM) possano essere sfruttati dai #malware per diffondersi e sfuggire alla rilevazione.

Utilizzando il #chatbot di #OpenAI, i due studiosi sono riusciti a creare un virus capace di riscrivere autonomamente il proprio codice e di diffondersi tramite e-mail ingannevoli. Una volta introdotto nel computer di una vittima, il virus analizza la rubrica del malcapitato e utilizza ChatGPT per riscrivere parti del proprio codice, modificando elementi logici e semantici. Questo trucco consente al malware di passare inosservato ai controlli antivirus, poiché ogni versione del codice è leggermente diversa dalla precedente.

In una seconda fase, ChatGPT analizza le #e-mail ricevute di recente dalla vittima e genera risposte contestuali che includono il malware come allegato apparentemente innocuo. Ad esempio, se trova un invito a una festa di compleanno, l’IA risponde accettando l’invito e allegando il virus, descritto come una playlist musicale per la festa. Questo approccio contestuale aumenta notevolmente le probabilità che l’utente apra l’allegato, pensando che provenga da un conoscente.

Tuttavia, l’esperimento non è stato privo di difficoltà. Alcune modifiche apportate dall’IA hanno reso il virus inutilizzabile, rendendolo innocuo. Nonostante ciò, Zollikofer e Zimmerman ritengono che, variando alcuni parametri, il malware possa riuscire a replicarsi con successo.

Il test ha previsto l’uso del diffuso programma Outlook per analizzare le e-mail e generare risposte pertinenti. Questo approccio ha mostrato come la capacità di ChatGPT di generare testi umani possa essere sfruttata per rendere i tranelli ancora più insidiosi.

Il lavoro dei due informatici è stato commentato da Alan Woodward, professore presso l’Università del Surrey, che ha espresso preoccupazione per l’uso potenziale dei LLM in attività dannose. Tuttavia, ha anche sottolineato come la stessa tecnologia possa essere utilizzata per prevenire attacchi informatici, migliorando la sicurezza.

Zollikofer ha concordato, affermando che lo scopo dello studio era proprio quello di analizzare come una minaccia possa essere generata, per poi sviluppare contromisure efficaci. Grazie a questo esperimento, è possibile studiare le tecniche impiegate dal chatbot per diffondersi e, allo stesso tempo, facilitare la ricerca di soluzioni che utilizzino i modelli linguistici di grandi dimensioni a fini di sicurezza.

In sintesi, l’esperimento di Zollikofer e Zimmerman ha evidenziato sia i rischi che le opportunità legate all’uso dei LLM come ChatGPT. Mentre esiste il pericolo che questi strumenti vengano sfruttati per scopi malevoli, essi rappresentano anche una potenziale risorsa per migliorare le difese contro le minacce informatiche, dimostrando l’importanza di una continua ricerca e sviluppo nel campo della sicurezza digitale.

VUOI APPROFONDIRE I TEMI DI QUESTO ARTICOLO?

Continua a leggere:

Google AI cambia il traffico dei siti, Reddit denuncia il calo delle visite provenienti dalla ricerca

La ricerca online sta attraversando una trasformazione che potrebbe cambiare profondamente gli equilibri del #web. Con l’introduzione delle risposte generate dall’intelligenza artificiale, #Google non si limita più a mostrare un elenco di collegamenti verso siti esterni, ma cerca sempre più spesso di fornire direttamente agli utenti le informazioni richieste, sintetizzando contenuti provenienti da diverse fonti. Una comodità per chi effettua una ricerca, ma un problema crescente per chi quei contenuti li produce e li pubblica online. A riportare l’attenzione sul fenomeno è #Reddit, una delle più grandi piattaforme internazionali di discussione e condivisione di contenuti. Durante la presentazione dei risultati

Leggi Tutto »

E-commerce e sicurezza dei consumatori, l’Europa impone nuove responsabilità ai marketplace

Comprare online è diventato sempre più semplice, ma dietro la rapidità di un acquisto con un clic si nasconde una questione che negli ultimi anni ha assunto un’importanza crescente: la #sicurezza dei prodotti venduti attraverso le #piattaforme digitali. Giocattoli, dispositivi elettronici, cosmetici, accessori per la casa e migliaia di altri articoli arrivano ogni giorno nelle abitazioni dei #consumatori europei, spesso attraverso #marketplace che ospitano venditori provenienti da tutto il mondo. Non sempre, però, è facile capire chi abbia effettivamente realizzato un prodotto, dove sia stato fabbricato e se rispetti gli standard di sicurezza richiesti nell’Unione Europea. È proprio su questo

Leggi Tutto »

PHP2Shell e la nuova era della sicurezza web: cosa ci insegna la falla che ha scosso la rete

Negli ultimi giorni di ottobre, il mondo della sicurezza informatica si è trovato ad affrontare uno degli incidenti più significativi degli ultimi anni: una doppia #vulnerabilità critica nel cuore stesso di PHP, ribattezzata dagli esperti #PHP2Shell. Non si è trattato del consueto bug in un singolo plugin o di una svista nel codice di un sito vetrina. A essere toccato è stato il motore che elabora le richieste web prima ancora che il software applicativo — sia esso un #CMS o una piattaforma custom — possa leggerle. Per i nostri clienti e partner, la risposta operativa è stata immediata: appena

Leggi Tutto »

Cyber Resilience Act, arrivano i primi obblighi concreti per chi sviluppa software

Il #CyberResilienceAct non è più soltanto una normativa da tenere d’occhio. Dall’11 settembre 2026 sono infatti entrati in vigore i primi obblighi concreti previsti dal regolamento europeo sulla #cybersicurezza dei prodotti con elementi digitali. Per chi sviluppa #software, #hardware connesso o prodotti digitali destinati al #mercatoeuropeo, significa iniziare a considerare la sicurezza informatica come una responsabilità che riguarda l’intero ciclo di vita del prodotto. La prima scadenza riguarda in particolare la gestione degli incidenti. I produttori devono segnalare le vulnerabilità attivamente sfruttate e gli incidenti gravi che compromettono la #sicurezza dei prodotti interessati. La segnalazione deve avvenire attraverso la piattaforma

Leggi Tutto »

Vuoi un riferimento unico per la digitalizzazione della tua azienda?