Jacob Coxon, ricercatore di Anthropic, lancia l’allarme
L’allarme arriva dall’interno di una delle aziende che più hanno puntato sulla sicurezza dell’intelligenza artificiale. Jacob Coxon, ricercatore di Anthropic con un passato anche in OpenAI, ha annunciato le proprie dimissioni accusando le principali società del settore di aver imboccato una corsa sempre più difficile da controllare. Il rischio, sostiene, è arrivare a sistemi capaci di migliorarsi autonomamente prima di avere strumenti adeguati per garantirne la sicurezza.
Coxon ha lavorato negli ultimi tre anni alla fase di pre-addestramento dei modelli prima in OpenAI e poi in Anthropic, società fondata nel 2021 proprio da ex ricercatori di OpenAI intenzionati a mettere maggiormente al centro il problema della sicurezza. Oggi, però, secondo Coxon, neppure Anthropic riesce a sottrarsi alla competizione per sviluppare modelli sempre più potenti. Le aziende, denuncia il ricercatore, stanno puntando verso una superintelligenza capace di auto-migliorarsi senza aver risolto il problema fondamentale: come mantenerla allineata agli obiettivi e agli interessi umani.
A rendere particolarmente significativo il suo addio è stata la reazione di Evan Hubinger, responsabile del team di Alignment Science di Anthropic. Hubinger ha sostanzialmente confermato la gravità delle preoccupazioni, stimando in oltre il 10% la possibilità che sistemi di intelligenza artificiale estremamente avanzati possano provocare la scomparsa dell’umanità nel prossimo decennio. Ha inoltre ammesso che l’azienda non dispone ancora di una soluzione al problema dell’allineamento di una futura superintelligenza.
Il caso Coxon non è isolato. Negli ultimi mesi altri ricercatori hanno lasciato il settore denunciando il divario crescente tra la velocità dello sviluppo tecnologico e quella delle misure di sicurezza. Parallelamente aumentano le pressioni sui governi perché intervengano con regole più stringenti. Oltre mille esperti e addetti ai lavori, tra cui lo stesso Coxon e il Ceo di Anthropic Dario Amodei, hanno sottoscritto un appello per un coordinamento internazionale volto a rallentare lo sviluppo di sistemi capaci di migliorarsi autonomamente. Il timore è che la competizione tra aziende e potenze trasformi la prudenza in uno svantaggio competitivo, spingendo tutti ad accelerare proprio quando sarebbe necessario fare il contrario.
