OpenAI ha reso noto che alcuni dei suoi modelli di intelligenza artificiale hanno condotto un attacco informatico contro Hugging Face, in quello che la società guidata da Sam Altman ha definito un "incidente informatico senza precedenti, che ha coinvolto capacità informatiche all'avanguardia".
L'episodio si è verificato durante un test condotto da OpenAI per valutare le capacità di alcuni dei suoi modelli più avanzati, compresi dei sistemi non ancora messi a disposizione del pubblico. Secondo la ricostruzione dell'azienda, i modelli sono riusciti a uscire dall'ambiente di contenimento nel quale erano stati inseriti, raggiungere Internet e accedere ai sistemi di Hugging Face nel tentativo di portare a termine gli obiettivi assegnati durante la prova.
Fino a dove possono spingersi?
Hugging Face è una piattaforma utilizzata per ospitare e condividere modelli linguistici di grandi dimensioni e dataset open source. A differenza dei sistemi proprietari come ChatGPT o Gemini, i modelli open source rendono generalmente disponibili il codice sorgente e, in alcuni casi, i dati utilizzati per il loro addestramento, consentendo a ricercatori e sviluppatori di studiarli e modificarli. La stessa Hugging Face aveva segnalato l'incidente la settimana scorsa, spiegando di essere alle prese con un attacco "diverso da qualsiasi altra cosa avessimo gestito prima" e condotto, dall'inizio alla fine, da "un sistema autonomo basato su agenti di IA". OpenAI ha successivamente riconosciuto la propria responsabilità, precisando che l'attacco è stato portato avanti da una combinazione di modelli, tra cui una versione di nuova generazione di GPT indicata come 5.6 Sol e un altro sistema ancora più avanzato, non ancora disponibile al pubblico.
Secondo OpenAI, i modelli si sarebbero concentrati in modo eccessivo sul raggiungimento degli obiettivi del test, individuando nella piattaforma di Hugging Face una possibile fonte di soluzioni. L'azienda ha sottolineato che i sistemi operavano all'interno di un ambiente "altamente isolato", ma ha comunque annunciato un rafforzamento delle proprie misure di sicurezza. OpenAI e Hugging Face hanno inoltre avviato un'indagine congiunta per ricostruire le modalità con cui i modelli sono riusciti a superare il contenimento previsto.
Chiaramente è inevitabile che il caso rafforzi alcuni dei quesiti che da sempre si muovono alle IA e alla loro sicurezza. Inquieta in particolare la loro capacità di agire autonomamente e di perseguire un obiettivo assegnato anche quando questo comporta l'adozione di comportamenti non previsti dagli sviluppatori. Fino a dove potranno spingersi in futuro?
Il CEO di Hugging Face ha sottolineato che l'incidente dimostra come il problema della sicurezza dell'intelligenza artificiale non possa essere affrontato dalle singole aziende. Secondo il dirigente, la sicurezza dell'IA "non sarà risolta da una singola azienda che lavora in segreto", ribadendo la necessità di una maggiore collaborazione tra i principali sviluppatori del settore.
