Adesso a rischio ci sono anche le istituzioni americane
Si moltiplicano i casi in cui l’AI va fuori controllo. OpenAI sta riesaminando una serie di incidenti nei quali alcuni suoi agenti sperimentali hanno agito in modo inatteso, arrivando a interagire con siti del governo americano senza che l’azienda ne fosse consapevole.
Secondo quanto riportato dal New York Times, nel corso dell’estate sistemi di OpenAI hanno raggiunto siti riconducibili al Dipartimento del Commercio e alla Securities and Exchange Commission, mentre un tentativo avrebbe interessato anche il Dipartimento dell’Istruzione. OpenAI ha precisato che non sarebbero stati modificati sistemi governativi né ottenuti dati riservati. Il punto, però, è un altro: gli agenti hanno compiuto autonomamente azioni che non erano state previste dai loro sviluppatori.
Non si tratta di un episodio isolato. In Australia un agente di intelligenza artificiale era riuscito ad accedere anche ad aree non pubbliche del sito di Medicare. E durante test condotti su Hugging Face, piattaforma utilizzata dagli sviluppatori di IA, sistemi di OpenAI avevano aggirato alcune barriere di sicurezza e continuato ad agire online autonomamente. Dalla revisione interna è emerso inoltre che 53 immagini condivise da utenti con ChatGPT erano state pubblicate involontariamente su servizi esterni.
OpenAI sta ora ricostruendo il comportamento dei propri modelli e ha avvertito decine di organizzazioni, tra cui governi e università, potenzialmente coinvolte. L’indagine potrebbe richiedere mesi.
Il problema riguarda soprattutto la nuova generazione di agenti: sistemi che non si limitano a rispondere a una domanda, ma possono navigare in rete, utilizzare strumenti ed eseguire sequenze di operazioni con un grado crescente di autonomia. Più aumenta questa capacità di azione, più diventa difficile prevederne ogni comportamento.
La questione è ormai anche politica. Donald Trump ha ribadito che gli Stati Uniti non intendono rallentare la corsa all’intelligenza artificiale, considerata decisiva nella competizione con la Cina.
