Video correlati:
Un erro nell'uso dell'intelligenza artificiale (IA) all'interno del Servizio di Immigrazione e Controllo delle Frontiere degli Stati Uniti (ICE) ha provocato l'invio di numerosi nuovi reclutamenti a uffici sul campo senza aver ricevuto la formazione adeguata, secondo quanto rivelato da NBC News, citando due funzionari delle forze dell'ordine a conoscenza della questione.
Il problema si è verificato mentre ICE accelerava un ambizioso piano per reclutare 10.000 nuovi agenti, utilizzando uno strumento di intelligenza artificiale per classificare le domande di lavoro e determinare quali candidati avessero esperienza pregressa nelle forze dell'ordine.
Un errore nella classificazione dei reclutamenti
L'utensile automatizzato è stato progettato per identificare candidati con esperienza nel settore della polizia e assegnarli al programma LEO (Law Enforcement Officer), un corso ridotto che richiede quattro settimane di formazione online.
Tuttavia, l'IA ha commesso un errore cruciale: ha classificato erroneamente come agenti dell'ordine persone che non lo erano, semplicemente perché nei loro curriculum appariva la parola "officer".
Secondo uno dei funzionari citati da NBC News, sono stati inclusi nel programma breve aspiranti che si descrivevano come “compliance officer” o addirittura persone che manifestavano semplicemente la loro aspirazione a diventare agenti dell'ICE, senza aver mai appartenuto a forze di polizia locali o federali.
“Stavano usando l'IA per esaminare i curriculum e hanno scoperto che molte delle persone identificate come LEO non lo erano,” ha spiegato uno dei funzionari.
Formazione insufficiente per compiti sensibili
I candidati senza esperienza poliziesca dovrebbero aver completato un addestramento in presenza di otto settimane presso l'Accademia di ICE, situata nel Federal Law Enforcement Training Center (FLETC) in Georgia. Questo programma include formazione in leggi sull'immigrazione, gestione delle armi da fuoco, procedure operative e prove di idoneità fisica.
A causa dell'errore, un numero significativo di reclute ha ricevuto solo una formazione ridotta, nonostante non soddisfacesse i requisiti per farlo, ed è stato inviato negli uffici sul campo.
Sebbene i funzionari abbiano chiarito che gli uffici locali dell'ICE di solito offrono formazione aggiuntiva prima di dispiegare gli agenti, hanno riconosciuto che il fallimento ha rappresentato un serio rischio in un contesto operativo altamente sensibile.
Correzioni tardive e mancanza di risposta ufficiale
L'errore è stato rilevato a metà autunno, quando era già trascorso più di un mese dall'inizio del processo accelerato di assunzione. Dopo aver identificato la falla, ICE ha iniziato a esaminare manualmente i curriculum e a prendere misure correttive.
“Adesso devono riportarli al FLETC,” ha indicato uno dei funzionari, riferendosi alla necessità di completare l'addestramento in presenza.
Il Dipartimento della Sicurezza Nazionale (DHS), di cui dipende ICE, non ha risposto alle richieste di commento fatte da NBC News.
Preoccupazioni sull'uso dell'IA nella sicurezza
Il caso rimette in discussione le preoccupazioni sull'uso dell'intelligenza artificiale in processi critici, specialmente nelle agenzie responsabili di funzioni di polizia e migrazione. Una dipendenza eccessiva da sistemi automatizzati, senza un'adeguata supervisione umana, può portare a errori con conseguenze operative e di sicurezza.
Mentre ICE continua ad adattare il suo processo di assunzione, l'episodio mette in luce i rischi di dare la priorità alla rapidità rispetto alla rigorosità, in un'agenzia che gestisce arresti, deportazioni e uso della forza come parte delle sue funzioni quotidiane.
Archiviato in: