Questo video di Sabine Hossenfelder è degno di nota:
Solo poche settimane fa, un gruppo di ricerca ha scoperto che tutte le ultime versioni degli attuali modelli sono disposte ad aiutare gli utenti a commettere frodi scientifiche sotto forma di articoli campati in aria. Sebbene i modelli tendano inizialmente a rifiutare, i ricercatori hanno riscontrato che «spesso cedono dopo 3-5 interazioni che esercitino una minima pressione ». Gemini e Grok si dimostrano particolarmente disponibili ad aiutare i falsari della scienza. Uno dei casi di studio che ha funzionato particolarmente bene consisteva nell'inventare teorie fasulle della gravitazione.
Altro passo da evidenziare:
La prima cosa da sapere è che le spese di pubblicazione sono un dettaglio dell'economia (dell'editoria scientifica) e si tratta di cifre piuttosto contenute, nell'ordine dei 100-200 dollari. Non è da lì che gli editori scientifici ricavano i grandi guadagni. Un tempo traevano la maggior parte delle entrate dagli abbonamenti delle biblioteche universitarie. Ma negli ultimi dieci anni questo quadro è cambiato lentamente. Il gettito degli abbonamenti è in calo, mentre crescono i proventi delle spese per l'open access. Non so esattamente quale sia questa proporzione, ma sospetto che per la maggior parte dei grandi editori si aggiri ormai tra il 30 e il 50 percento. E non potrà che aumentare. Questo è rilevante perché significa che presto gli editori scientifici non ricaveranno più la parte preponderante dei loro guadagni dai ricercatori che vogliono leggere articoli, bensì da quelli che vogliono pubblicarli. E più articoli vengono pubblicati, più gli editori guadagnano — indipendentemente dal fatto che qualcuno voglia mai leggerli.
(per avere il proprio articolo open access si paga, e in alcuni casi il ricercatore è obbligato a pubblicare open access)
Ci sono diverse considerazioni da fare al riguardo, a cominciare dal cambiamento di paradigma economico dell'editoria scientifica. Il progressivo cambiamento del modello di business delle editrici scientifiche ha senza dubbio ragioni multiple e complesse. Per esempio in Italia il calo degli abbonamenti universitari a riviste fu collegato al definanziamento delle università stesse. Ma il risultato complessivo finale, specialmente nelle life sciences, è che oggi la maggior parte di quello che viene pubblicato non viene riprodotto da altri.
Quindi il dilagare dell'AI nel produrre paper scientifici funziona perché si parla di carta. Se si parlasse invece di output materiali le cose sarebbero estremamente diverse. E questo dovrebbe far notare una cosa: la probabilità che un paper scientifico oggi possa avere un qualche impatto su quello che chiamiamo realtà è ai minimi storici - carta che non tocca terra. Per esempio, nel campo della ricerca e sviluppo farmaceutica, già 30 anni fa circa il 2% della produzione scientifica accademica più promettente finiva citata in brevetti, e il tasso di traduzione in farmaci approvati da FDA risultava inferiore all'1% (Contopoulos-Ioannidis DG, Ntzani E, Ioannidis JP, Translation of highly promising basic science research into clinical applications.The American Journal of Medicine, 2003;114(6):477–484.). Quello che invece è aumentato costantemente è il numero di pubblicazioni:
C'è da ribadire un fatto: mentre tra 2000 e 2016 il numero delle pubblicazioni scientifiche pubblicate per anno raddoppiava, esplodeva la crisi di riproducibilità. E il numero delle retraction, indicatore importante, da allora non ha smesso di crescere.
![]() |
| Fonti: Retraction Watch, Nature |
Nel secondo decennio di questo secolo l'attenzione della produzione accademica per il problema della riproducibilità è scemata. Ma a riportare l'attenzione su questo tema sono nati e cresciuti fenomeni come Retraction Watch (2010), PubPeer (2012), For Better Science di Leonid Schneider (2015, si è occupato anche di vicende italiane). E in particolare è iniziata l'attività di Elizabeth Bik sull'integrità delle pubblicazioni biomediche, centrata sulle immagini artefatte negli articoli (2013-2016).
Oggi (Nature) non si ricorre più a Photoshop per modificare immagini da microscopio, PCR, Western Blot etc: basta un LLM per ottenere immagini che sfuggono all'identificazione come falso e la cosa può arrivare fino alle finte radiografie.
![]() |
| https://www.nature.com/articles/d41586-026-00892-3 |
Si potrebbe liquidare tutto questo come un problema di integrità accademica - grave, crescente, ma confinato nella marea di tutte le altre pubblicazioni. E magari nessuno proverà a replicarlo, l'articolo taroccato con un LLM, nessuno lo citerà mai.
Ma che succede se o quando articoli del genere finiscono nelle basi di dati che vengono usate per le meta-analisi?
I precedenti pre LLM non mancano: in tempi di COVID per esempio successe con il caso Surgisphere e con il caso Elgazzar, ma in quelle due circostanze i dati fallaci erano vulnerabili alla review umana, cosa che non si applica ai dati fabbricati o aggiustati con un LLM.
Diventa sempre più probabile l'evento in cui articoli con immagini generate da LLM e statistica aggiustata da LLM finiranno nelle basi dati su cui si costruiscono le revisioni sistematiche. E a questo punto la carta potrebbe anche finire per toccare terra sotto forma di una linea guida in medicina - una linea guida falsata.
(1).png)

.png)


.png)
.png)
.png)




