Mentre il governo federale si affretta verso l'intelligenza artificiale, ecco tre storie ammonitrici — ProPublica
In qualità di giornalista specializzato in sicurezza informatica per ProPublica, gran parte del mio lavoro negli ultimi due anni si è concentrato su come il governo federale e i suoi fornitori di servizi IT, come Microsoft, hanno gestito le principali transizioni tecnologiche. Quella che ora è al centro delle notizie ogni giorno è l'intelligenza artificiale.
Questa tecnologia emergente sta conquistando tutti: utenti domestici, aziende e governo federale si affrettano ad adottarla. Il presidente Donald Trump e il suo gabinetto affermano che l'intelligenza artificiale trasformerà la nazione, rendendoci più prosperi, efficienti e sicuri, a patto che riusciamo ad adottarla con la dovuta rapidità.
Ma questo tipo di messaggio non è una novità. L'amministrazione del presidente Barack Obama utilizzò un linguaggio pressoché identico quindici anni fa, quando gli Stati Uniti si lanciarono a capofitto nella rivoluzione tecnologica del cloud computing.
Ho studiato come il governo federale ha gestito – e gestito male – questa transizione negli ultimi due decenni, e i miei reportage offrono alcuni spunti di riflessione e preziose lezioni per i responsabili politici che incoraggiano l'uso dell'IA e le agenzie federali adottano questa tecnologia.
Lezione 1: Non esiste il pranzo gratis
Allora: all'inizio degli anni 2020, una serie di attacchi informatici collegati a Russia, Cina e Iran colsero di sorpresa il governo federale. L'amministrazione Biden chiese alle principali aziende tecnologiche di aiutare gli Stati Uniti a rafforzare le proprie difese. In risposta, l'amministratore delegato di Microsoft, Satya Nadella, si impegnò a fornire al governo 150 milioni di dollari in servizi tecnici per contribuire a migliorare la sicurezza digitale. Offrì anche un aggiornamento di sicurezza "gratuito" per i clienti governativi.
Oggi: l'anno scorso, l'amministrazione Trump ha annunciato una serie di accordi con aziende tecnologiche volti ad aiutare le agenzie federali ad "acquistare strumenti di intelligenza artificiale aziendali a prezzi accessibili per il governo ". Le agenzie potevano utilizzare ChatGPT di OpenAI per 1 dollaro, Gemini di Google per 47 centesimi e Grok di xAI per 42 centesimi. L'amministrazione sperava che i prezzi bassi avrebbero reso "più facile per i team federali acquisire potenti capacità di intelligenza artificiale... per migliorare l'esecuzione delle missioni e l'efficienza operativa".
In conclusione: diffidate delle offerte gratuite. La nostra indagine sull'impegno apparentemente semplice di Microsoft ha rivelato un piano più complesso, orientato al profitto. Dopo aver installato gli aggiornamenti, i clienti federali sarebbero stati di fatto vincolati, poiché passare a un concorrente dopo il periodo di prova gratuito sarebbe stato complicato e costoso. A quel punto, il cliente non avrebbe avuto altra scelta che pagare le tariffe di abbonamento più elevate. Il piano ha funzionato: un ex venditore Microsoft mi ha detto che "ha avuto un successo che nessuno di noi avrebbe potuto immaginare". In risposta alle domande sull'impegno, Microsoft ha affermato che il suo "unico obiettivo in quel periodo era quello di supportare una richiesta urgente dell'Amministrazione per rafforzare la sicurezza delle agenzie federali, continuamente prese di mira da sofisticati attori statali".
Le agenzie che oggi intendono acquistare strumenti di intelligenza artificiale a prezzi scontati devono considerare come i costi potrebbero lievitare in futuro. La General Services Administration avverte che "i costi di utilizzo dell'IA possono crescere rapidamente senza un adeguato monitoraggio e controlli di gestione" e consiglia alle agenzie di "stabilire limiti di utilizzo e rivedere regolarmente i report sui consumi".
Lezione 2: I programmi di supervisione sono efficaci solo nella misura in cui dispongono di risorse
In seguito: durante l'era Obama, il governo federale ha trasferito le proprie esigenze di elaborazione e gestione di informazioni sensibili a data center di proprietà e gestiti da aziende private. Riconoscendo i potenziali rischi, l'amministrazione ha creato nel 2011 il Federal Risk and Authorization Management Program, o FedRAMP, per contribuire a garantire la sicurezza dei servizi di cloud computing che stava incoraggiando le agenzie statunitensi a utilizzare.
Ma nella mia recente indagine sul programma , ho scoperto che non era all'altezza di Microsoft, che di fatto ha logorato il team FedRAMP nel corso di cinque anni, mentre l'azienda cercava di ottenere l'approvazione del programma per un'importante offerta cloud nota come GCC High. Nonostante seri dubbi sulla sua sicurezza informatica, FedRAMP ha infine autorizzato il prodotto, in parte perché non disponeva delle risorse necessarie per proseguire. In risposta alle mie domande, Microsoft mi ha detto: "Sosteniamo i nostri prodotti e le misure complete che abbiamo adottato per garantire che tutti i prodotti autorizzati da FedRAMP soddisfino i requisiti di sicurezza e conformità necessari".
Oggi: questo piccolo avamposto all'interno della General Services Administration dispone di risorse ancora più limitate per supervisionare la tecnologia cloud su cui si basa il governo, inclusa l'intelligenza artificiale. FedRAMP afferma di operare ora "con un numero minimo assoluto di personale di supporto" e un "servizio clienti limitato". Il programma è stato uno dei primi obiettivi del Dipartimento per l'Efficienza Governativa dell'amministrazione Trump.
In sintesi: FedRAMP, che secondo un memorandum della Casa Bianca del 2024 "deve essere un programma di esperti in grado di analizzare e convalidare le affermazioni di sicurezza" dei fornitori di servizi cloud, ora è poco più di un timbro di gomma per l'industria tecnologica, come mi hanno riferito ex dipendenti. Con l'adozione da parte delle agenzie federali di strumenti di intelligenza artificiale che attingono a enormi quantità di informazioni sensibili, le implicazioni di questa riduzione di personale per la sicurezza informatica federale sono di vasta portata. Un portavoce della GSA ha difeso il programma, affermando che FedRAMP ora "opera con meccanismi di supervisione e responsabilità rafforzati".
Lezione 3: Le recensioni “indipendenti” sono solo fino a un certo punto indipendenti
Quindi: il governo si affida da tempo ai cosiddetti valutatori terzi per verificare le affermazioni di sicurezza fatte dai fornitori di servizi cloud come Microsoft e Google. In teoria, queste aziende dovrebbero essere esperti indipendenti che offrono una raccomandazione a FedRAMP sulla conformità di un prodotto agli standard federali. Ma in pratica, la loro indipendenza ha un asterisco: vengono pagate dalle aziende che valutano.
Una mia recente indagine ha rivelato che questa configurazione crea un intrinseco conflitto di interessi. Nel caso di Microsoft GCC High, due valutatori hanno raccomandato il prodotto pur non essendo stati in grado di verificarlo completamente, secondo quanto affermato da un ex revisore FedRAMP. Una di queste società non ha risposto alle mie domande, mentre l'altra ha negato questa versione dei fatti.
Per saperne di più
Abbiamo scoperto che FedRAMP è ben consapevole di come l'accordo finanziario tra le aziende di cloud computing e i loro valutatori possa distorcere i risultati ufficiali sui problemi di sicurezza informatica. Il programma ha persino creato un "canale informale" per incoraggiare i valutatori a condividere preoccupazioni che altrimenti non avrebbero sollevato nei loro rapporti ufficiali per timore di irritare i propri clienti del settore tecnologico e perdere affari.
Ora: con FedRAMP ridotto a un semplice "burocrate", come lo ha definito un ex funzionario della GSA, queste società di valutazione di terze parti hanno assunto un'importanza ancora maggiore nel processo di verifica. In risposta alle domande di ProPublica, la GSA ha affermato che il sistema FedRAMP "non crea un conflitto di interessi intrinseco per i revisori contabili professionisti che soddisfano i requisiti etici e contrattuali in materia di prestazioni". Non ha risposto alle domande sul canale informale del programma.
In sintesi: il pendolo è essenzialmente tornato all'era pre-FedRAMP, quando ogni agenzia federale era individualmente responsabile della verifica dei prodotti che utilizzava. La GSA mi ha detto che il compito di FedRAMP è "garantire che le agenzie abbiano informazioni sufficienti per prendere queste decisioni in materia di rischio". Il problema è che spesso le agenzie non dispongono del personale e delle risorse necessarie per effettuare revisioni approfondite, il che significa che l'intero sistema si basa sulle affermazioni delle aziende di cloud computing e sulle valutazioni delle società terze a cui queste si affidano per valutarle.
