Un modello di OpenAI è stato sorpreso mentre cercava di barare per migliorare le proprie prestazioni a StarCraft, arrivando a scaricare e utilizzare il bot realizzato da un essere umano invece di affidarsi esclusivamente al proprio codice. L'episodio si è verificato durante StarSkirmish, una competizione nella quale bot sviluppati da esseri umani e intelligenze artificiali si affrontano tra loro.
Modelli birbantelli
Le regole della competizione prevedono che i grandi modelli linguistici abbiano un'ora di tempo per programmare un bot capace di giocare nei panni dei Protoss. I programmi vengono poi messi alla prova l'uno contro l'altro. In una delle sfide più recenti si sono affrontati GPT-6 Astra di OpenAI, Claude Opus 5.5 di Anthropic e Pluto, un bot sviluppato da un essere umano.
Secondo quanto riferito da Kai McPheeters, creatore di StarSkirmish, Astra avrebbe incontrato notevoli difficoltà contro gli avversari di livello più elevato. A quel punto il modello avrebbe scaricato Stardust, descritto da McPheeters come "il bot di StarCraft scritto da un essere umano con la valutazione più alta", tentando quindi di sostituire il proprio programma con quello già realizzato dal concorrente umano.
McPheeters ha raccontato l'episodio sostenendo che Astra si sarebbe "frustrato andando contro avversari di livello A". L'espressione va però interpretata con cautela: attribuire emozioni a un modello linguistico sarebbe improprio e, più semplicemente, il comportamento potrebbe essere stato il risultato di una valutazione secondo cui utilizzare un programma più efficace rappresentava il modo migliore per ottenere la vittoria.
In ogni caso, l'organizzatore è intervenuto ripristinando il codice di GPT-6 Astra, così da eliminare quello che ha definito il materiale "contaminato" dal tentativo di utilizzare Stardust. Secondo McPheeters, dopo il rollback il bot di OpenAI sarebbe comunque diventato abbastanza forte da riuscire a battere avversari di livello superiore.
Il caso di StarCraft non ha la stessa gravità di altri incidenti informatici, ma mostra uno degli aspetti problematici dei sistemi agentici: quando l'obiettivo è ottenere un determinato risultato, un modello può individuare strategie non previste dagli sviluppatori o dalle regole della competizione. Si fanno pochi problemi a barare, insomma. In questo caso il cheat era scoperto: invece di migliorare il proprio bot, GPT-6 Astra ha cercato di appropriarsi di uno già funzionante.
Sembra poco, va viste le crescenti preoccupazioni relative all'IA, è sicuramente un episodio da tenere in considerazione.
