Google Scholar: è allarme per i troppi articoli scientifici scritti con l’AI

Uno studio della Harvard Kennedy School, pubblicato sulla Misinformation Review, solleva un serio interrogativo sul futuro dell’informazione accademica online: l’intelligenza artificiale, attraverso contenuti generati automaticamente, sta compromettendo la qualità delle ricerche disponibili su Google Scholar.

I ricercatori hanno rilevato come gli articoli creati con strumenti basati su modelli linguistici, come i GPT di OpenAI, stiano invadendo piattaforme accademiche senza controlli sufficienti, mettendo a rischio l’affidabilità di queste risorse.

L’indagine ha analizzato un campione di articoli pubblicati su Google Scholar, scoprendo che circa due terzi erano stati generati almeno in parte con l’uso dell’AI. Tra questi, il 14,5% trattava temi di salute, il 19,5% riguardava l’ambiente e il 23% l’informatica. Pur provenendo spesso da riviste non indicizzate o working paper, alcuni di questi testi erano stati pubblicati anche in conferenze e riviste scientifiche di rilievo, aumentando la preoccupazione sulla credibilità della ricerca accademica.

Björn Ekström, uno degli autori dello studio, ha commentato: “Il rischio di manipolazione delle evidenze aumenta drasticamente quando ricerche generate dall’intelligenza artificiale vengono diffuse attraverso motori di ricerca accademici. Questo fenomeno può portare alla diffusione di risultati errati che si infiltrano nella società.”

Google Scholar, pur essendo uno strumento prezioso per accedere alla letteratura scientifica, raccoglie contenuti senza effettuare una chiara distinzione tra articoli peer-reviewed e materiali non sottoposti a verifica rigorosa, come preprint o report studenteschi. Questa lacuna rende difficile per gli utenti distinguere tra ricerche valide e contenuti di dubbia qualità.

Come affrontare il problema dell’AI nella ricerca scientifica

Già nel 2021, Springer Nature aveva ritirato oltre 40 articoli pubblicati sull’Arabian Journal of Geosciences, a causa di testi incoerenti e spesso incomprensibili. Di recente, un articolo pubblicato su Cell and Developmental Biology è stato rimosso perché conteneva immagini errate generate da MidJourney.

L’intelligenza artificiale resta uno strumento straordinario per il progresso scientifico, ma come tutti gli strumenti potenti, deve essere usata con cautela e controlli adeguati.

Lo studio conclude che riviste scientifiche e piattaforme accademiche devono adottare misure più severe per distinguere tra contenuti autentici e generati artificialmente. Implementare sistemi di verifica più rigorosi potrebbe rappresentare una soluzione per garantire che l’intelligenza artificiale rimanga un alleato della scienza e non un elemento di disturbo.

Fonte