Un chatbot di intelligenza artificiale ha prodotto un rapporto di intelligence completamente falso che stava per scatenare un'operazione militare statunitense contro una nave cinese in Medio Oriente, secondo quanto rivelato da un'inchiesta esclusiva di CNN basata su quattro fonti a conoscenza dell'episodio.
L'incidente è avvenuto nella primavera di quest'anno, in piena guerra tra Stati Uniti e Iran. Il rapporto, redatto da un analista del Comando Operazioni Speciali del Pacifico (SOCOM Pacific), con sede alle Hawaii, affermava che una nave cinese navigava nella regione trasportando componenti di un programma di armi nucleari.
Il documento ha circolato lungo tutta la catena di comando e ha scatenato una risposta immediata: secondo due delle fonti, personale militare armato si stava preparando per imbarcarsi sulla nave.
Gli aerei militari erano già in volo quando, all'ultimo momento, funzionari che avevano esaminato il rapporto con maggiore attenzione hanno scoperto l'errore.
L'analista aveva consultato un chatbot per informazioni sul manifesto della nave. Lo strumento ha fuso l'intelligenza di fonti aperte con l'intelligenza di segnali classificati, giungendo a una conclusione errata.
Successivamente, l'analista ha utilizzato l'IA per la seconda volta per raccogliere i risultati in un rapporto di intelligence standard—il tipo di documento su cui i funzionari militari fanno affidamento—e lo ha diffuso senza ulteriori verifiche.
Una delle fonti ha qualificato il documento come «completamente falso» e ha avvertito che «quasi inizia una guerra». CNN non è riuscita a determinare quale fosse il carico reale della nave né se il chatbot utilizzato fosse un prodotto commerciale o governativo.
Un exfunzionario senior ha affermato che «gli strumenti interni sono per lo più copie dei prodotti commerciali con qualche ritocco».
Qualsiasi operazione militare contro una nave cinese avrebbe potuto potenzialmente sfociare in un conflitto armato tra le due potenze, in un momento in cui la rivalità strategica tra Washington e Pechino raggiunge livelli storici. Il crescentespionaggio cinese nella regione aveva già allertato i funzionari americani.
L'episodio si svolge nel contesto di un'accelerata adozione dell'IA nel settore militare. A gennaio, il segretario alla Difesa Pete Hegseth ha lanciato la «Strategia di Accelerazione dell'Intelligenza Artificiale» del Pentagono, con l'obiettivo di integrare questi strumenti in tutte le sfaccettature delle operazioni, dall'analisi dell'intelligence e la selezione degli obiettivi fino alla logistica e ai bilanci.
«Libereremo la sperimentazione, elimineremo le barriere burocratiche e dimostreremo l'approccio esecutivo necessario per guidare nell'IA militare», ha dichiarato Hegseth annunciando la strategia.
Una fonte a conoscenza delle attuali politiche militari ha avvertito: «L'uso dell'IA nella selezione degli obiettivi è sicuramente in aumento e non esiste una reale indicazione su come la supervisione umana possa prevenire vittime civili o fuoco amico».
Otra ha riassunto il rischio con una frase contundente: «L'IA ti permette di arrivare più rapidamente a una cattiva idea».
Tuttavia, lo sforzo è decentralizzato: diverse unità utilizzano strumenti differenti seguendo ordini e standard di sicurezza disparati, senza norme unificate per verificare le informazioni generate.
Le armi autonome con controllo di IA dispiegate dagli Stati Uniti avevano già suscitato un dibattito sui limiti della supervisione umana nelle operazioni di combattimento.
Le fonti avvertono che le «allucinazioni» —errori fattuali generati dall'IA— non sono stati un incidente isolato nella comunità di intelligence da quando questi strumenti hanno cominciato a proliferare. Gli analisti più giovani, segnalano diverse fonti, tendono a fidarsi di esse in modo acritico.
Video correlati:
Archiviato in: