Mentre l'amministrazione Trump si preparava a cancellare i contratti presso il Dipartimento per gli Affari dei Veterani quest'anno, i funzionari si sono rivolti a un ingegnere informatico senza alcuna esperienza nel settore sanitario o governativo per farsi consigliare.

L'ingegnere, che lavorava per il Dipartimento per l'Efficienza Governativa, ha rapidamente creato uno strumento di intelligenza artificiale per identificare quali servizi offerti da aziende private non fossero essenziali. Ha etichettato questi contratti come "SPREMIBILI".

Il codice, che utilizzava modelli di intelligenza artificiale obsoleti ed economici, ha prodotto risultati con errori evidenti. Ad esempio, ha sovrastimato l'entità dei contratti, interpretandoli erroneamente e gonfiandone il valore. Ha concluso che oltre mille contratti valevano 34 milioni di dollari ciascuno, quando in realtà alcuni valevano appena 35.000 dollari.

Lo strumento di intelligenza artificiale DOGE ha segnalato oltre 2.000 contratti potenzialmente soggetti a "sottrazione". Non è chiaro quanti siano stati o siano in procinto di essere cancellati: le decisioni dell'amministrazione Trump sui contratti del Dipartimento per gli Affari dei Veterani (VA) sono state in gran parte avvolte nel mistero. Il VA si avvale di appaltatori per diverse ragioni, tra cui il supporto a ospedali, ricerca e altri servizi volti alla cura dei veterani malati.

I funzionari del Dipartimento per gli Affari dei Veterani (VA) hanno dichiarato di aver annullato complessivamente quasi 600 contratti. I democratici al Congresso hanno chiesto insistentemente ai vertici del VA dettagli specifici su quali contratti siano stati cancellati, senza però ottenere risultati.

Abbiamo identificato almeno una ventina di contratti nell'elenco DOGE che sono stati annullati finora. Tra i contratti annullati, uno riguardava la manutenzione di un dispositivo per il sequenziamento genetico utilizzato per sviluppare trattamenti più efficaci contro il cancro. Un altro era per l'analisi di campioni di sangue a supporto di un progetto di ricerca del Dipartimento per gli Affari dei Veterani (VA). Un altro ancora prevedeva la fornitura di strumenti aggiuntivi per misurare e migliorare l'assistenza fornita dagli infermieri.

ProPublica ha ottenuto il codice e i contratti segnalati da una fonte e li ha condivisi con una mezza dozzina di esperti di intelligenza artificiale e appalti. Tutti hanno affermato che lo script presentava delle falle. Molti hanno criticato l'idea di utilizzare l'IA per guidare i tagli di bilancio presso il Dipartimento per gli Affari dei Veterani (VA), con uno di loro che l'ha definita "profondamente problematica".

Cary Coglianese, professore di diritto e di scienze politiche all'Università della Pennsylvania, esperto di utilizzo e regolamentazione dell'intelligenza artificiale da parte dei governi, si è detto preoccupato per l'impiego di questi modelli linguistici generici di grandi dimensioni, o LLM. "Non credo che i modelli LLM preconfezionati offrano un'elevata affidabilità per qualcosa di così complesso e articolato come questo", ha affermato.

Sahil Lavingia, il programmatore ingaggiato da DOGE, all'epoca guidata da Elon Musk, ha riconosciuto la presenza di difetti nel codice.

"Credo che siano stati commessi degli errori", ha detto Lavingia, che ha lavorato alla DOGE per quasi due mesi. "Sono sicuro che siano stati commessi degli errori. Gli errori capitano sempre. Non consiglierei mai a nessuno di eseguire il mio codice e di fare quello che dice. È come in quell'episodio di 'The Office' in cui Steve Carell guida nel lago perché Google Maps dice di guidare nel lago. Non guidate nel lago."

Sebbene Lavingia abbia già parlato in passato del suo periodo alla DOGE, questa è la prima volta che il suo lavoro viene esaminato nel dettaglio e la prima volta che spiega pubblicamente il suo processo, fino alle singole righe di codice.

Lavingia ha quasi 15 anni di esperienza come ingegnere del software e imprenditore, ma nessuna formazione specifica in intelligenza artificiale. Ha lavorato brevemente presso Pinterest prima di fondare Gumroad, una piccola azienda di e-commerce che ha rischiato il fallimento nel 2015. "Ho licenziato il 75% della mia azienda, compresi molti dei miei migliori amici. È stato davvero terribile", ha affermato. Lavingia è riuscito a tenere a galla l'azienda "sostituendo ogni processo manuale con uno automatizzato", secondo un post sul suo blog personale .

Lavingia non ha avuto molto tempo per approfondire le modalità con cui il Dipartimento per gli Affari dei Veterani (VA) gestisce l'assistenza ai veterani tra l'inizio del suo lavoro il 17 marzo e la stesura dello strumento il giorno successivo. Tuttavia, la sua esperienza con la propria azienda si è allineata con la direzione intrapresa dall'amministrazione Trump, che ha abbracciato l'uso dell'intelligenza artificiale in tutta la pubblica amministrazione per snellire le operazioni e risparmiare denaro.

Lavingia ha affermato che i tempi ristretti imposti dall'ordine esecutivo di Trump di febbraio , che concedeva alle agenzie 30 giorni per completare una revisione di contratti e sovvenzioni, erano troppo brevi per svolgere il lavoro manualmente. "Non è possibile: ci sono 90.000 contratti", ha detto. "A meno che non si scriva del codice. Ma anche in quel caso non è davvero fattibile."

Con i tempi stretti, Lavingia ha affermato di aver completato la prima versione del suo strumento per analizzare i contratti già il secondo giorno di lavoro, utilizzando l'intelligenza artificiale per scrivere il codice. Ha raccontato a ProPublica di aver poi trascorso la prima settimana a scaricare i contratti del Dipartimento per gli Affari dei Veterani (VA) sul suo laptop e ad analizzarli.

In una dichiarazione rilasciata a ProPublica, il portavoce del Dipartimento per gli Affari dei Veterani (VA), Pete Kasperowicz, ha elogiato il lavoro del DOGE (Department of General Employment) sulla verifica dei contratti. "Per quanto ne sappiamo, questo tipo di revisione non è mai stato effettuato prima, ma siamo lieti di stabilire questo precedente di buon senso", ha affermato.

Il Dipartimento per gli Affari dei Veterani (VA) sta esaminando tutti i suoi 76.000 contratti per garantire che ognuno di essi apporti benefici ai veterani e rappresenti un buon utilizzo del denaro dei contribuenti, ha affermato. Le decisioni di annullare o ridurre l'entità dei contratti vengono prese dopo molteplici revisioni da parte dei dipendenti del VA, inclusi esperti di appalti dell'agenzia e personale dirigenziale, ha scritto.

Kasperowicz ha affermato che il Dipartimento per gli Affari dei Veterani (VA) non annullerà i contratti relativi a lavori che forniscono servizi ai veterani o che l'agenzia non può svolgere autonomamente senza un piano di emergenza. Ha aggiunto che i contratti che sono "inutili, ridondanti o che riguardano servizi che il VA è in grado di svolgere da solo" saranno in genere rescissi.

I funzionari dell'amministrazione Trump hanno dichiarato di star lavorando per raggiungere l' obiettivo di tagliare circa 80.000 unità dal personale del Dipartimento per gli Affari dei Veterani (VA), che conta quasi 500.000 dipendenti. La maggior parte di questi lavora in uno dei 170 ospedali e nelle quasi 1.200 cliniche del VA.

Il Dipartimento per gli Affari dei Veterani (VA) ha dichiarato che eviterà di tagliare i contratti che hanno un impatto diretto sull'assistenza sanitaria, per timore di arrecare danno ai veterani. ProPublica ha recentemente riportato che tagli relativamente modesti all'interno dell'agenzia hanno già messo a repentaglio l'assistenza ai veterani .

Il Dipartimento per gli Affari dei Veterani (VA) non ha spiegato come intenda contemporaneamente internalizzare i servizi, come suggeriva il piano del codice di Lavingia, e al contempo ridurre il personale.

Per saperne di più

Per aiutare il pubblico a comprendere meglio le lacune nell'utilizzo dell'IA da parte di DOGE, abbiamo spiegato nel dettaglio il funzionamento del prompt di Lavingia in un articolo separato.

Molti dipendenti del Dipartimento per gli Affari dei Veterani (VA) hanno dichiarato a ProPublica che il processo di revisione dei contratti era talmente opaco da non permettere loro nemmeno di individuare chi prendesse le decisioni finali sulla cancellazione di specifici contratti. Una volta che il sistema automatico aveva selezionato un elenco di contratti, Lavingia ha spiegato di passarlo ad altri, che avrebbero poi deciso quali annullare e quali mantenere. Nessun contratto, ha affermato, veniva rescisso "senza una revisione umana".

"Ho appena consegnato l'elenco dei contratti ai dipendenti del Dipartimento per gli Affari dei Veterani", ha detto. "In pratica ho messo Munchable in cima e poi gli altri sotto."

Alcuni dipendenti del Dipartimento per gli Affari dei Veterani (VA) hanno riferito a ProPublica che, quando il DOGE (Department of General Employment) ha individuato i contratti da cancellare all'inizio di quest'anno, prima dell'arrivo di Lavingia, ai dipendenti a volte veniva concesso poco tempo per giustificare il mantenimento del servizio. Uno di loro ha ricordato di aver avuto a disposizione solo poche ore. I dipendenti hanno chiesto di rimanere anonimi per timore di perdere il lavoro parlando con i giornalisti.

Secondo un'e-mail interna precedente all'analisi sull'IA di Lavingia, i membri dello staff dovevano rispondere in 255 caratteri o meno, poco al di sotto del limite di 280 caratteri della piattaforma social X di Musk.

Una volta iniziata l'analisi del contratto del DOGE, Lavingia ha affermato di essersi imbattuto in limitazioni tecnologiche. Almeno alcuni degli errori prodotti dal suo codice possono essere ricondotti all'utilizzo di versioni obsolete dei modelli OpenAI disponibili tramite il Dipartimento per gli Affari dei Veterani (VA), modelli non in grado di risolvere compiti complessi, secondo gli esperti consultati da ProPublica.

Inoltre, le istruzioni alla base dello strumento erano profondamente viziate. I documenti dimostrano che Lavingia aveva programmato il sistema di intelligenza artificiale per formulare giudizi complessi basandosi sulle prime pagine di ciascun contratto, circa le prime 2.500 parole, che contengono solo informazioni riassuntive scarse.

"L'intelligenza artificiale è assolutamente lo strumento sbagliato per questo scopo", ha affermato Waldo Jaquith, ex collaboratore di Obama che si occupava degli appalti IT presso il Dipartimento del Tesoro. "L'IA fornisce risposte apparentemente convincenti, ma spesso errate. Ci vogliono esseri umani, il cui compito è proprio quello di svolgere questo lavoro."

Le richieste di Lavingia non includevano informazioni sul funzionamento del Dipartimento per gli Affari dei Veterani (VA), su quali contratti siano essenziali o su quali siano richiesti dalla legge federale. Ciò ha portato l'intelligenza artificiale a stabilire che un elemento chiave del sistema di appalto dell'agenzia stessa fosse "digeribile".

Al centro della richiesta di Lavingia c'è l'indicazione di risparmiare sui contratti relativi all'"assistenza diretta al paziente".

Secondo gli esperti, un simile approccio non tiene conto del fatto che il lavoro svolto da medici e infermieri per prendersi cura dei veterani negli ospedali è possibile solo grazie a un significativo supporto da parte di chi li circonda.

Il sistema di Lavingia utilizzava anche l'intelligenza artificiale per estrarre dettagli come il numero del contratto e il "valore totale del contratto". Ciò ha portato a errori evitabili, in quanto l'IA restituiva un valore in dollari errato quando venivano rilevati più contratti. Gli esperti hanno affermato che le informazioni corrette erano facilmente reperibili nei database pubblici.

Lavingia ha riconosciuto che questo approccio ha comportato degli errori, ma ha affermato che tali errori sono stati successivamente corretti dal personale del Dipartimento per gli Affari dei Veterani (VA).

A fine marzo, Lavingia ha pubblicato una versione dello script "consumabile" sul suo account GitHub per invitare altri a usarlo e migliorarlo, ha dichiarato a ProPublica. "Sarebbe stato fantastico se l'intero governo federale avesse usato questo script e chiunque nel pubblico avesse potuto vedere come il Dipartimento per gli Affari dei Veterani (VA) sta pensando di tagliare i contratti".

Secondo un post sul suo blog , ciò è avvenuto con l'approvazione di Musk prima che lasciasse DOGE. "Quando ha chiesto ai presenti come migliorare la percezione pubblica di DOGE, ho chiesto se potevo rendere open source il codice che stavo scrivendo", ha detto Lavingia. "Ha detto di sì: era in linea con l'obiettivo di DOGE di massima trasparenza".

Quella trasparenza potrebbe aver portato al licenziamento di Lavingia. Lavingia ha confermato di essere stato licenziato dal DOGE dopo aver rilasciato un'intervista alla rivista Fast Company sul suo lavoro presso il dipartimento. Un portavoce del Dipartimento per gli Affari dei Veterani (VA) si è rifiutato di commentare il licenziamento di Lavingia.

I funzionari del Dipartimento per gli Affari dei Veterani (VA) si sono rifiutati di dire se continueranno a utilizzare lo strumento "digeribile" in futuro. Tuttavia, l'amministrazione potrebbe impiegare l'intelligenza artificiale per aiutare l'agenzia a sostituire i dipendenti. Documenti precedentemente ottenuti da ProPublica mostrano che i funzionari del Dipartimento per l'Employment and General (DOGE) hanno proposto a marzo di consolidare il dipartimento per la gestione delle richieste di indennità, facendo maggiore affidamento sull'intelligenza artificiale.

E gli appaltatori del governo stanno prestando attenzione. Dopo che Lavingia ha pubblicato il suo codice, ha detto di essere stato contattato da persone che cercavano di capire come mantenere il flusso di denaro.

"Ho ricevuto un paio di messaggi privati ​​da appaltatori del Dipartimento per gli Affari dei Veterani (VA) che avevano delle domande dopo aver visto questo codice", ha detto. "Cercavano di assicurarsi che i loro contratti non venissero rescissi. O di capire perché erano stati rescissi."

"In fin dei conti, sono gli esseri umani a rescindere i contratti, ma è utile per loro capire come il DOGE, Trump o i capi delle agenzie valutano quali contratti intendono rescindere. La trasparenza è una cosa positiva."

impatto