Le tecnologie più moderne imitano alla perfezione il comportamento umano
L’AI può fare molte cose, ma fra queste ce ne sono alcune anche poco positive se non addirittura pericolose come falsificare sondaggi online e compromettere l’affidabilità della ricerca sociale, politica e scientifica. Secondo un allarme lanciato da ricercatori della Scuola IMT di Lucca e dell’Università di Cambridge in un recente commento pubblicato su Nature, l’avanzata dei sistemi di AI rischia di “inquinare” i risultati delle indagini basate su risposte fornite dagli utenti.
Il problema nasce dal fatto che oggi i modelli di AI generativa, come quelli utilizzati per chatbot e assistenti testuali, sono ormai in grado di simulare risposte umane in modo estremamente convincente. Questi sistemi possono generare risposte fluide, coerenti e contestualmente sensate, in alcuni casi persino superando le capacità di scrittura di molte persone reali. Gli esperti stimano che tra il 30% e il 90% delle risposte raccolte nei sondaggi online potrebbe essere falso o fraudolento, cioè generato da algoritmi piuttosto che da esseri umani reali.
Non è un dettaglio tecnico di poco conto: bastano poche percentuali di risposte false (bastano anche tra il 3% e il 7%) perché l’intera struttura statistica di una ricerca venga distorta, invalidando conclusioni e interpretazioni. Per esempio, in ambito politico, economico o sociale, un piccolo numero di risposte “false” inserite da AI potrebbe alterare un trend di opinione o far sembrare maggioritaria una visione che non lo è.
Il cuore della questione è che the tradizionali metodi di rilevamento dei bot, basati su controlli di qualità come verifiche comportamentali, test di attenzione o pattern linguistici, non sono più efficaci di fronte a questi nuovi sistemi. Le AI moderne possono imitare perfettamente il comportamento umano, camuffare tempi di risposta naturali, gestire coerenza narrativa e persino replicare profili demografici plausibili.
Di fronte a questa minaccia, gli studiosi propongono strategie difensive più sofisticate: analisi dei metadati comportamentali (come velocità di digitazione o pattern di utilizzo della tastiera), strumenti di verifica dell’identità degli utenti, limiti al numero di sondaggi a cui un singolo partecipante può rispondere, e metodologie di campionamento più robusti e verificabili. Queste tecniche potrebbero aiutare a distinguere risposte umane da quelle artificiali in modo più affidabile.
Il fenomeno solleva inoltre una riflessione più ampia su fiducia, democrazia e ricerca scientifica nell’era digitale: se la base su cui costruiamo conoscenza (i dati delle persone) può essere facilmente impersonata da algoritmi sofisticati, allora il modo in cui comprendiamo l’opinione pubblica, misuriamo comportamenti sociali e prendiamo decisioni basate sui dati è messo in discussione. La sfida non è solo tecnologica: è anche etica e metodologica, e richiede un ripensamento profondo delle piattaforme di ricerca e dei sistemi di verifica che consideravamo affidabili fino a pochi anni fa.
