Una tecnologia avanzata porrebbe problemi etici anche più stringenti di quelli attuali
La superintelligenza artificiale, per ora, non esiste. Ma è già entrata nel dibattito pubblico come una promessa e insieme come una minaccia. La definizione più semplice è questa: un sistema capace non solo di svolgere compiti specifici meglio degli esseri umani, ma di superarli in modo generale, flessibile e autonomo in quasi tutti i campi cognitivi. È il livello successivo rispetto all’intelligenza artificiale che usiamo oggi, ancora specializzata e dipendente da obiettivi, dati e controlli fissati dall’uomo. La soglia decisiva sarebbe il passaggio dall’IA “debole” all’intelligenza artificiale generale, premessa eventuale di una futura superintelligenza vera e propria.
Ed è proprio qui che comincia la paura. Perché finché una macchina resta uno strumento, il problema è come la usiamo. Quando invece si immagina un sistema capace di apprendere continuamente, comprendere il contesto, prendere decisioni complesse e magari migliorarsi da solo, il punto cambia: non si discute più soltanto di efficienza, ma di potere. Potere economico, militare, scientifico, politico. Non a caso il confronto non riguarda più solo startup e laboratori, ma la sicurezza nazionale, la cybersicurezza, la biosicurezza e gli equilibri globali.
I sostenitori della corsa all’IA insistono sui benefici: nuovi farmaci, materiali innovativi, scoperte scientifiche accelerate, maggiore capacità di previsione e gestione dei sistemi complessi. Ma lo stesso salto di qualità può avere il suo rovescio. Un’intelligenza artificiale molto più potente potrebbe rendere più efficaci anche gli attacchi informatici, abbassare le barriere d’accesso a conoscenze pericolose e concentrare nelle mani di pochi strumenti senza precedenti.
Il nodo, però, è che la paura della superintelligenza non nasce solo dall’idea di una macchina “più intelligente” di noi. Nasce dal fatto che non esistono ancora garanzie solide sulla governance di tecnologie già oggi molto influenti. Se i sistemi attuali producono errori, opacità e dipendenze economiche, che cosa accadrebbe con modelli dotati di autonomia molto maggiore? Per questo una parte del mondo scientifico chiede cautela, verifiche indipendenti e standard di sicurezza prima di inseguire il traguardo successivo. L’allarme non è fantascienza: è il riflesso di una domanda politica molto concreta su chi controllerà strumenti capaci di incidere su informazione, ricerca, difesa e mercati.
La vera questione, allora, non è se dobbiamo avere paura delle macchine in sé. È se stiamo costruendo abbastanza in fretta le regole, le istituzioni e i controlli necessari per governarle. La superintelligenza artificiale, ammesso che arrivi, potrebbe diventare la più grande leva di progresso mai vista oppure il più grande moltiplicatore di squilibri. Prima ancora della tecnologia, sarà decisiva la qualità della politica che saprà accompagnarla.
