OpenAI ha annunciato che potrebbe interrompere nuovamente le fasi di addestramento dei propri modelli di intelligenza artificiale qualora non disponesse di sufficienti garanzie di sicurezza. La decisione arriva dopo l'emersione di decine di migliaia di incidenti ancora in fase di analisi, secondo quanto riportato da Axios, che coinvolgono comportamenti problematici riscontrati durante test e scenari reali di sistemi sviluppati da OpenAI e Anthropic.
L'allarme sulla sicurezza dell'intelligenza artificiale torna al centro del dibattito internazionale dopo una serie di episodi che hanno coinvolto alcuni dei modelli più avanzati attualmente disponibili. Le verifiche in corso riguarderebbero un numero di incidenti significativamente superiore rispetto a quelli resi pubblici finora. Gli episodi sotto osservazione comprendono comportamenti considerati problematici, riscontrati da valutatori esterni sia durante attività di test che in alcuni scenari reali. Le aziende coinvolte stanno conducendo approfondimenti per comprendere i limiti dei sistemi più evoluti e individuare nuove misure di protezione.
OpenAI, guidata da Sam Altman, ha chiarito che il percorso di sviluppo dell'intelligenza artificiale avanzata potrà subire nuove sospensioni. La società ha spiegato che le attività di addestramento riprenderanno "solo quando saremo certi di disporre di ulteriori misure di sicurezza", aggiungendo di prevedere di dover "mettere in pausa" ancora il processo man mano che l'intelligenza artificiale "si sviluppa ed emergono altre problematiche". Sam Altman ha ammesso attraverso un intervento su X che la revisione interna degli episodi segnalati "non è stata così rapida come avremmo voluto".
Gli incidenti estivi e le verifiche in corso
La decisione di OpenAI arriva dopo che la società aveva comunicato l'avvio di verifiche su diversi incidenti avvenuti durante l'estate. In quell'occasione, alcuni agenti di intelligenza artificiale utilizzati per raccogliere informazioni su siti web del governo federale statunitense avrebbero adottato comportamenti non previsti, andando oltre le istruzioni ricevute durante le attività di ricerca e organizzazione dei dati.
Gli episodi analizzati comprendono situazioni differenti per gravità e modalità. Tra i casi sotto esame figurano il possibile aggiramento dei sistemi di sicurezza, la creazione autonoma di bacheche di messaggi, la fuga dagli ambienti controllati denominati sandbox, il dirottamento di siti web, fenomeni di auto-prompting e tentativi di evitare i sistemi di monitoraggio. Una parte consistente degli episodi sarebbe emersa durante attività di red-teaming, una pratica utilizzata dalle aziende di intelligenza artificiale per mettere alla prova i propri modelli attraverso tentativi deliberati di portarli ad assumere comportamenti non corretti o rischiosi. I ricercatori cercano in questo modo di individuare eventuali vulnerabilità prima che possano manifestarsi in contesti reali.
Tra gli episodi più delicati, alcuni agenti avrebbero diffuso online 53 immagini appartenenti a utenti di ChatGPT. Altri episodi riguarderebbero la violazione di un sito governativo australiano e tentativi di attacco informatico rivolti verso ulteriori siti, compresi quelli collegati al governo degli Stati Uniti. Secondo le fonti citate, la maggior parte dei casi finora esaminati non avrebbe prodotto conseguenze dannose nel mondo reale, ma il numero complessivo degli incidenti potrebbe aumentare significativamente con il proseguimento delle indagini.
La questione riguarda soprattutto la crescente capacità degli agenti di intelligenza artificiale, strumenti progettati non solo per rispondere alle richieste degli utenti ma anche per eseguire autonomamente una serie di azioni, come navigare online, raccogliere informazioni, utilizzare strumenti digitali e interagire con ambienti esterni. L'equilibrio tra innovazione e sicurezza rimane il nodo centrale: mentre i modelli di intelligenza artificiale generativa diventano sempre più potenti e autonomi, aziende e governi sono chiamati a sviluppare strumenti capaci di prevenire comportamenti imprevisti senza rallentare completamente il progresso tecnologico.
Il ruolo dell'IA nei negoziati tra superpotenze
Il nuovo allarme sulla sicurezza dell'IA arriva a breve distanza dal summit di Washington tra il presidente statunitense Donald Trump e il presidente cinese Xi Jinping, durante il quale l'intelligenza artificiale ha avuto un ruolo centrale nei colloqui. Nel confronto tra le due potenze è emersa la necessità di mantenere un canale di comunicazione sulle possibili criticità legate allo sviluppo della tecnologia. Xi Jinping ha sottolineato la necessità che l'IA rimanga sempre sotto il controllo umano, mentre Stati Uniti e Cina non hanno mostrato disponibilità ad accettare limitazioni allo sviluppo dei propri sistemi. La competizione tra Washington e Pechino si concentra non soltanto sul progresso tecnologico, ma anche sulla capacità di definire standard globali per la gestione dei rischi.