OpenAI ha disattivato una serie di account ChatGPT collegati alla Russia che, tramite VPN, aggiravano le restrizioni per condurre una campagna di influenza a favore dell'International Burke Institute, sfruttando contenuti generati dall'IA sui social.
OpenAI ha annunciato di aver bloccato diversi account ChatGPT riconducibili a operatori russi che utilizzavano VPN per eludere le restrizioni di accesso e orchestrare una campagna di influenza online. Questi account sfruttavano l'intelligenza artificiale per produrre post e commenti destinati a piattaforme come Substack, Telegram, X, Facebook e LinkedIn, con l'obiettivo di promuovere l'International Burke Institute (IBI), un'organizzazione che si definisce "comunità di esperti" con sede in Israele.
L'indagine di OpenAI, partita dall'analisi di contenuti sospetti generati dall'IA, ha portato alla scoperta di un'operazione più ampia, incentrata su un sito web che raccoglieva lavori accademici copiati o attribuiti in modo scorretto, oltre a un "indice di sovranità" che presentava la Russia in modo favorevole e tentava di mascherare l'origine russa degli operatori. Secondo OpenAI, la campagna ha raggiunto un pubblico limitato, con i canali Telegram più seguiti che contavano tra i 10.000 e i 20.000 iscritti ciascuno. La maggior parte dei contenuti era in inglese e veniva richiesto a ChatGPT di evitare qualsiasi traccia linguistica che potesse rivelare la provenienza russa.
Il ruolo dell'International Burke Institute e l'indice di sovranità
L'IBI, il cui sito ("ibi[.]institute") è stato registrato nel febbraio 2025, si presenta come una comunità di esperti internazionali in economia, politica, sociologia e relazioni internazionali. Non ci sono prove che gli articoli pubblicati sul sito siano stati creati con ChatGPT, ma molti risultano copiati da lavori accademici, talvolta con attribuzioni errate, o scritti da parlanti slavi e poi tradotti automaticamente in inglese. L'elemento distintivo della campagna, rispetto ad altre già note di matrice russa, è la creazione e promozione di un indice di sovranità (Burke Index), che valuta i Paesi su sette indicatori: politico, economico, tecnologico, informativo, culturale, cognitivo e militare. Il punteggio finale, calcolato su una scala da 100 a 700, vede gli Stati Uniti in testa (650,9), seguiti da Cina (649,1), Svizzera (610,7) e Russia (601,4). Il rapporto sulla Russia sottolinea l'elevato livello di autosufficienza militare ed economica, una solida base scientifica e culturale, ma anche limiti nell'economia civile e nella flessibilità dell'innovazione non militare.
Strategie di dissimulazione e infrastruttura della campagna
Oltre alla promozione dell'IBI, uno degli account ChatGPT è stato utilizzato per generare l'immagine profilo di un canale Telegram chiamato "American Observer" e per richiedere sintesi delle attività del canale in lingua russa. OpenAI sottolinea che la rilevanza dell'operazione non risiede tanto nell'ampiezza del pubblico raggiunto, quanto nell'infrastruttura creata: i contenuti generati dall'IA rimandavano a un'istituzione apparentemente credibile, con presunti esperti, lavori accademici ripubblicati e un indice di rischio proprietario. Questo caso dimostra come l'IA possa essere impiegata come strumento di supporto per costruire autorità, nascondere la fonte delle narrazioni e creare asset scalabili nel tempo. Allo stesso tempo, l'uso dell'IA ha contribuito a smascherare l'intera operazione.
Contesto e rischi per la sicurezza digitale
L'episodio si inserisce in un quadro più ampio di minacce digitali e campagne di influenza che sfruttano strumenti avanzati come l'intelligenza artificiale. La capacità di generare contenuti credibili e di mascherare l'origine delle informazioni rappresenta una sfida crescente per la sicurezza delle piattaforme e la tutela dell'informazione pubblica. Tematiche simili sono state affrontate anche in relazione a vulnerabilità software sfruttate rapidamente dagli attaccanti, come illustrato nell'analisi su attacchi recenti a GitLab, che evidenziano la rapidità con cui le minacce digitali possono evolvere e colpire infrastrutture critiche.
