Da ormai diversi giorni l'intelligenza artificiale sembra alimentare sempre più timori. Alcuni sostengono che possa in qualche modo "ucciderci tutti", mentre altri ritengono che si tratti di semplici scenari esagerati e poco realistici alla Terminator. In ogni caso, che ci siano dei rischi è pressoché innegabile, soprattutto qualora le cose dovessero sfuggire di mano e l'essere umano non fosse in grado di garantire le giuste misure di sicurezza. Stavolta, esperti di sicurezza statunitensi e cinesi esortano Washington e Pechino a stabilire delle linee rosse simili a quelle in ambito nucleare, avvertendo che, in assenza di un rigoroso controllo umano, i sistemi autonomi potrebbero causare accidentalmente un'escalation militare.
Nuove proposte per l’uso militare
Secondo quanto riportato dai massimi esperti di sicurezza statunitensi e cinesi, un singolo malfunzionamento dell'IA potrebbe innescare in pochi minuti una vera e propria escalation militare catastrofica. Più precisamente, i ricercatori della Brookings Institution e dell'Università di Fudan, in prossimità del vertice tra Donald Trump e Xi Jinping, esortano ad adottare misure di sicurezza paragonabili a quelle nucleari. Controlli rigidi dovrebbero essere attuati anche sull'IA militare (controlli umani, ovviamente). L'obiettivo è impedire che i sistemi automatizzati possano prendere decisioni irreversibili.
La proposta è stata redatta da Melanie Sisson, senior fellow della Brookings Institution, e da Tianjiao Jiang, professore dell'Università di Fudan. Il timore è che, per quanto i sistemi autonomi siano nettamente più veloci rispetto ai tempi di reazione umani, anche una risposta automatizzata a un falso allarme potrebbe rivelarsi catastrofica o apparire come un atto deliberato di guerra. Gli errori di valutazione sono, come sempre, il punto focale dell'intera questione, quindi non immaginatevi un'IA improvvisamente diabolica che decide di debellare l'intero pianeta.
In ogni caso, le linee rosse dovrebbero vietare all'intelligenza artificiale di lanciare autonomamente armi nucleari o di prendere di mira le infrastrutture di comando nucleare di una nazione rivale, una richiesta che potrebbe sembrare decisamente banale e scontata per alcuni, ma che in realtà non andrebbe affatto sottovalutata. In poche parole, i governi devono continuare a mantenere un'autorità umana su operazioni informatiche così importanti, quindi non devono assolutamente affidarsi a processi decisionali automatizzati.
Una linea diretta tra USA e Cina
La proposta prevede la creazione di una linea diretta militare tra Stati Uniti e Cina, rigorosamente dedicata agli incidenti legati all'intelligenza artificiale. Se un sistema dovesse agire in modo incontrollato (o subire una violazione non autorizzata), funzionari militari potrebbero chiarire la situazione prima che una delle due parti ordini un attacco di ritorsione. Nel frattempo, per ora nessuno dei due governi si è sbilanciato in merito.
Pechino gestisce l'IA attraverso l'unità per il controllo degli armamenti del proprio Ministero degli Esteri, mentre Washington affida la sicurezza dell'IA a Pentagono, Dipartimento di Stato e Consiglio di Sicurezza Nazionale. Da chiarire quindi quali saranno i riscontri durante i colloqui ufficiali. Nel frattempo, Trump crede che i timori siano infondati ed esagerati e non ha intenzione di rallentare il proprio slancio tecnologico ed economico.
