Quasi quarant’anni fa, la calda estate italiana fu sconvolta da un ritrovamento apparentemente eccezionale: in un canale di Livorno furono ripescate alcune teste scolpite, che alcuni tra i più noti critici d’arte dell’epoca, tra cui il notissimo Giulio Carlo Argan, non esitarono a riconoscere come opere perdute di Amedeo Modigliani.
La verità era ancora più clamorosa: le teste erano state scolpite da tre giovanotti in vena di burle e poi scaricate nel canale per mettere alla prova le capacità dei critici, ed insieme la credulità popolare. Uno straordinario esempio dell’inclinazione tutta livornese per gli scherzi anche pesanti.
La produzione scientifica e le burle degli scienziati
La voglia di scherzare contagia anche altri campi, come ad esempio quello della produzione scientifica. In un precedente articolo abbiamo parlato dell’esistenza dei premi IgNobel, attribuiti ai lavori scientifici più stupidi ed inutili prodotti nell’anno precedente. E gli scherzi sono una caratteristica di scienziati anche molto famosi, come il vulcanico e compianto fisico americano Richard Feynman.
Proprio per una burla, tre dottorandi del prestigioso MIT di Boston realizzarono nel 2005 un programma informatico denominato SCIgen, tuttora disponibile online, che consente di redigere automaticamente articoli scientifici, i quali non hanno tuttavia alcun senso.
Lo scopo dei burloni, esattamente come gli scavezzacolli livornesi, era quello di divertirsi alle spalle della comunità scientifica, dimostrando che alcuni congressi accettavano indiscriminatamente qualunque articolo senza sottoporlo a revisione preventiva. Come per il famigerato scherzo artistico, tuttavia, la loro iniziativa ha avuto delle conseguenze nel mondo reale che permangono fino ad oggi.
In un articolo comparso sulla prestigiosa rivista scientifica Nature, l’editorialista Richard Van Noorden ha messo in evidenza come in alcuni campi di ricerca scientifica, particolarmente ingegneria e computer science, esistano su riviste specializzate numerosi articoli generati automaticamente attraverso il software SCIgen e che non hanno alcun senso compiuto.
Detta così, sembrerebbe una barzelletta, se non fosse che questi articoli sono stati pubblicati nel tempo su una serie di giornali indicizzati, e sono entrati a far parte degli atti congressuali di un certo numero di conferenze. Abbiamo altrove discusso come la credibilità di un paper scientifico dipenda da quella della rivista su cui è pubblicato, attraverso il sistema degli Impact Factor. L’affidabilità di tale meccanismo di valutazione dipende dalla serietà del processo di revisione.
Abbiamo messo a tal proposito in evidenza che dove il processo di revisione è di scarsa qualità o, peggio, ci si trova di fronte alle cosiddette riviste predatorie che pubblicano qualunque cosa a pagamento, il problema diventa serio.
Publish or perish
Il meccanismo perverso alla base di questo tipo di operazioni è un frutto indesiderato della politica di publish or perish (pubblica o perisci) invalsa soprattutto nel sistema universitario di stampo anglosassone – in Italia, come tristemente hanno evidenziato cronache anche recenti, vigono spesso altre logiche. Uno studioso che sappia che il mantenimento o l’ottenimento di un ruolo in ambito accademico dipende dal numero di articoli che pubblica nell’unità di tempo, sarà più portato ad occuparsi di argomenti triviali da pubblicare su riviste compiacenti, se non proprio a falsificare le proprie ricerche.
Dall’analisi riportata su Nature, che fa riferimento a sua volta alle ricerche di due studiosi francesi, risulta che la maggior parte degli articoli falsi pubblicati provengono da fonti cinesi o indiane. Secondo gli autori, sebbene in seguito alle proprie ricerche essi abbiano provveduto a segnalare l’inconsistenza di quanto pubblicato alle riviste interessate, solo una parte di esse ha effettivamente provveduto a ritirare gli articoli.
Come conseguenza, persistono un certo numero di studiosi che hanno dato forza e spessore al proprio curriculum accademico pubblicando articoli falsi. Sulla base di questo, essi ricevono vantaggi personali, e gonfiano artatamente le statistiche riguardanti la produzione scientifica degli atenei a cui appartengono.
L’Intelligenza Artificiale e gli articoli scientifici
La riflessione su che cosa si possa ottenere attraverso uno scherzoso programmino redatto quasi 20 anni fa, pone un interrogativo importante: che cosa sarà possibile realizzare quando i sistemi di intelligenza artificiale saranno in grado di analizzare grandi masse di dati e generare automaticamente degli articoli scientifici?
Saremo di fronte ad un mondo in cui le istituzioni scientifiche più grandi saranno in grado di produrre per i loro appartenenti quelle pubblicazioni così necessarie a determinarne la credibilità, senza che costoro abbiano minimamente messo le mani sui lavori stessi?
Come per altre applicazioni dell’IA, questo aspetto dovrà essere attentamente studiato nei prossimi anni, e dovrà essere messa in piedi una struttura di controllo capace di rilevare l’uso improprio di questo tipo di sistemi.
Concludiamo certificando che questo articolo è stato prodotto da un essere umano.
O no?
Articolo pubblicato originariamente su infosec.news
