IA: SIMULAZIONE DI COMPETENZA O DEMOCRATIZZAZIONE DELLA CONOSCENZA?

https://www.nature.com/articles/d41586-026-01947-1

 

Pare che dopo le allucinazioni delle IA che in campo legale citavano la giurisprudenza sbagliata o inventata siamo arrivati agli effetti di secondo ordine: i medici che in diagnostica usano l'IA privati della stessa dimostrano di aver perso capacità diagnostiche. Il tema è citato in un post di Walter Quattrociocchi che mi è stato girato da un lettore. Ne cito una parte:

 

C'è una narrativa sull'intelligenza artificiale che, a mio avviso, sta iniziando a produrre più danni della tecnologia stessa. È quella secondo cui gli LLM, per definizione generatori di testo su base statistica, democratizzerebbero la conoscenza, abbasserebbero le barriere dell'apprendimento, e addirittura renderebbero tutti più competenti e ci accompagnerebbero verso una società più capace.

È una narrazione completamente infondata, a tratti folle, ma perfettamente coerente con l'entusiasmo della grandi platee che vede nell’AI finalmente una possibilità di un qualche riscatto sociale. Una rivalsa che porta ad una visione quasi messianica che accompagna ogni grande innovazione tecnologica, ma sempre meno coerente con ciò che le evidenze empiriche stanno iniziando a mostrarci.

Nel giro di pochi mesi si sono accumulati lavori che documentano l'erosione del pensiero critico, il deskilling di medici che peggiorano le proprie performance una volta rimossi i sistemi di supporto, sviluppatori che apprendono meno quando programmano con gli assistenti AI, una crescente difficoltà nel riconoscere la disinformazione dopo un uso prolungato degli strumenti generativi, una progressiva omologazione del linguaggio. Tutto accompagnato da un hyperscaling del consumo energetico necessario a sostenere una produzione senza precedenti di contenuti. Continuiamo però a discutere di ciascuno di questi risultati come se fosse un fenomeno isolato, quando tutto lascia pensare che siano semplicemente manifestazioni diverse della stessa trasformazione.

 

Quattrociocchi ha lanciato un appello per un approccio realistico al tema. Iniziativa apprezzabile e necessaria. E il parlare di "narrazione infondata, a tratti folle" è pienamente giustificato. La democratizzazione della conoscenza tramite LLM è un concetto talmente assurdo che viene da chiedersi chi abbia potuto produrre una tale idiozia: non esiste conoscenza senza comprensione, e produrre artefatti tramite LLM, in genere, non è un processo che produce comprensione. E' la versione aggiornata delle lauree su Google e del copia/incolla da wikipedia, niente di nuovo. Non era democratizzazione della conoscenza quella, non lo è oggi. 

Poi c'è una differenza sostanziale tra produrre testo e usare uno strumento per produrlo. La scrittura è, in un modo o nell'altro, uno specchio dell'individuo, del suo pensiero. Usare uno strumento altro per produrre testo da questo punto di vista è in primo luogo una finzione, in secondo luogo un'abdicazione: si rinuncia alla propria voce per prendere in prestito quella frutto di un algoritmo e lo si fa di buon grado. Inoltre lo si fa contemporaneamente a molti altri individui e il risultato è che un insieme di innumeri voci, significative o insignificanti, belle o brutte, vengono sostituite da un'unica voce, artificiale, uniforme. Un colossale processo di omologazione.

 

Vale però la pena notare dove questa plausibilità degli artefatti IA è meglio smerciabile: nei contesti separati dalla realtà. Quindi funziona benone su riviste peer reviewed di fascia bassa, dove contano coerenza e citazioni, e piattaforme social, dove il contenuto non viene valutato per la sua sostanza ma per la sua circolabilità, per la sua capacità di produrre engagement. Ma la simulazione della conoscenza e della competenza fallisce miseramente nel mondo reale, quando per fare e risolvere problemi la simulazione non è sufficiente (ne parlavo giusto un anno fa). E' nella realtà che la mancanza de lemaledettebasi non può essere mascherata. Quindi la ricerca di riscatto sociale di cui parla Quattrociocchi è puramente illusoria, può avvenire, se avviene, solo nel mondo dei segni, del simulacro.

 

Detto questo si tratta di strumenti estremamente versatili che possono essere usati nei modi più diversi, e oggi la percentuale di allucinazioni in diversi campi è drasticamente calata. Ma non ci si deve illudere.  

Ho sempre trovato azzeccato il primo slogan pubblicitario di Claude: your thoughts, augmented. Ma si trattava, figuratamente, di un potenziamento proporzionale, e aumentando del 10% 0,10 si ottiene 0,11 - non so se rendo l'idea: non si cava sangue dalle rape, ma ChatGPT ne può estrarre sangue simulato.

In più il prodotto di qualsiasi LLM continua ad avere un tono esangue (ovviamente), uniforme, liscio. Che può funzionare per rispondere ad una mail di lavoro, ma quanto alla produzione di contenuti con una qualche pretesa di creatività... lì entrano in ballo meccanismi del tutto diversi.

 

L'hype sulle IA ha raggiunto un nuovo massimo in questa primavera, con gli USA che hanno vietato la distribuzione di Claude Fable 5 ai non americani, le notizie su 50 milioni di linee di codice migrate in un giorno e così via. Ma il punto continua ad essere la distinzione tra la tecnologia in sé, l'uso che se ne fa e il discorso pubblico su di essa. E gli ultimi due termini del problema sono sempre più preoccupanti.