Il matematico canadese pensa che l’AI possa diventare una minaccia per l’umanità
Jacob Tsimerman ha 38 anni ed è uno dei matematici più importanti della sua generazione. A luglio ha ricevuto la Medaglia Fields, il riconoscimento più prestigioso della matematica, assegnato ogni quattro anni agli studiosi sotto i quarant’anni. Poche ore dopo ha però fatto un annuncio sorprendente: prenderà un periodo di aspettativa dall’Università di Toronto per entrare in OpenAI. Non per costruire modelli più potenti, ma per occuparsi della loro sicurezza. La ragione è altrettanto insolita: Tsimerman pensa che l’intelligenza artificiale possa diventare una seria minaccia per l’umanità.
La sua conversione è significativa perché arriva da uno scettico. Per anni Tsimerman aveva dubitato che una macchina potesse davvero possedere quella combinazione di intuizione, creatività e capacità di astrazione necessaria alla matematica di alto livello. Negli ultimi anni ha cambiato idea osservando la velocità dei progressi. Oggi ritiene che nel giro di pochi anni i sistemi di IA possano diventare stabilmente superiori agli esseri umani nel fare matematica. Ha persino smesso di accettare nuovi dottorandi che non fossero interessati all’intelligenza artificiale, perché non è più sicuro di quale sarà il futuro della professione.
Il punto di svolta è arrivato quando l’IA ha cominciato non soltanto a risolvere esercizi, ma a intervenire nella ricerca. Nel maggio scorso OpenAI ha annunciato che un proprio modello aveva confutato una congettura di geometria discreta sulla quale i matematici lavoravano da decenni. Tsimerman stesso ha partecipato alla verifica del risultato. In un’altra occasione ha chiesto a un modello di aiutarlo a generalizzare un argomento contenuto in un suo lavoro: la macchina gli ha segnalato un errore.
È qui che la vicenda individuale diventa una questione molto più grande. Se un’intelligenza artificiale è capace di produrre ragionamenti nuovi in matematica, può potenzialmente applicare capacità analoghe ad altri campi: programmazione, ricerca scientifica, strategia, sicurezza informatica. Il problema non è più soltanto ciò che l’IA sa fare, ma ciò che potrebbe imparare a fare senza che gli esseri umani siano in grado di prevederlo o controllarlo.
Tsimerman non appartiene però al fronte di chi vorrebbe fermare semplicemente la tecnologia. La sua scelta è esattamente opposta: entrare nel luogo in cui i sistemi più avanzati vengono costruiti per comprenderli dall’interno. Vuole applicare alla sicurezza dell’IA gli strumenti della matematica, cercando forme di verifica più rigorose rispetto ai test empirici oggi utilizzati. In altre parole, non accontentarsi di osservare che un sistema sembra comportarsi correttamente, ma tentare di capire se sia possibile dimostrare qualcosa sul suo comportamento.
La questione sollevata dal matematico canadese riguarda quindi il rapporto fra potenza e controllo. Per secoli gli strumenti costruiti dall’uomo sono rimasti subordinati alle capacità cognitive di chi li utilizzava. L’intelligenza artificiale introduce una possibilità radicalmente diversa: strumenti capaci di superare i propri creatori almeno in alcuni domini intellettuali e di accelerare ulteriormente il proprio contributo alla produzione di conoscenza.
Il paradosso della storia di Tsimerman sta tutto qui. Uno degli uomini appena consacrati come vertice dell’intelligenza matematica umana decide di dedicare il proprio talento non alla prossima grande congettura, ma al problema di come convivere con macchine che potrebbero presto fare matematica meglio di lui. Non è una resa alla tecnologia. È il riconoscimento che la domanda decisiva dell’era dell’intelligenza artificiale potrebbe non essere più quanto intelligenti riusciremo a rendere le macchine, ma se saremo abbastanza intelligenti da mantenerne il controllo.
