L’intelligenza artificiale generativa trova sempre più spazio nell’elaborazione di informazioni che riguardano luoghi, città e relazioni spaziali.
I grandi modelli linguistici (LLM), i modelli multimodali e quelli sviluppati specificamente per applicazioni geospaziali possono infatti svolgere attività che coinvolgono conoscenze geografiche e analisi dello spazio.
Questa evoluzione ha portato l’attenzione anche su un fenomeno specifico: la geo-hallucination o allucinazione geospaziale.
Che cos’è la geo-hallucination?
Con geo-hallucination s’intende la produzione, da parte di un sistema d’intelligenza artificiale, di informazioni geografiche o spaziali incoerenti, inesatte oppure fabbricate, ma presentate in una forma apparentemente credibile.
Xiao Huang, ricercatore specializzato in GeoAI (Geospatial Artificial Intelligence) e Assistant Professor presso il Department of Environmental Sciences della Emory University, negli Stati Uniti, ha affrontato questo fenomeno nei suoi studi. La sua attività di ricerca si concentra sull’incontro tra geografia, dati geospaziali e intelligenza artificiale.
Nel suo articolo Geo-hallucination in urban analytics: What it is and why it matters, pubblicato online nel 2025 sulla rivista scientifica Environment and Planning B: Urban Analytics and City Science, Huang esamina la geo-hallucination nel contesto dell’analisi urbana e dei sistemi di intelligenza artificiale che elaborano informazioni spaziali.
Un aspetto importante riguarda la distinzione tra la geo-hallucination e i tradizionali errori che possono verificarsi nella GIScience durante la raccolta o l’elaborazione dei dati. Nel caso della geo-hallucination, il problema riguarda invece ciò che il modello genera e il modo in cui rappresenta o elabora le informazioni spaziali.
In termini concreti, un modello può fornire una risposta linguisticamente convincente ma non corrispondente alla realtà geografica. La letteratura sulle allucinazioni geospaziali prende in considerazione, per esempio, la generazione di punti di interesse inesistenti, indirizzi o strade non corretti e relazioni spaziali che non trovano corrispondenza nei dati reali.
Perché è un fenomeno particolare?
Numerosi studi affrontano già il tema delle allucinazioni dei grandi modelli linguistici, un modello può produrre informazioni non corrette pur presentandole in maniera plausibile. Nel caso della geo-hallucination, la questione riguarda specificamente la conoscenza e il ragionamento geospaziale.
Questo aspetto è particolarmente importante perché le informazioni geografiche non riguardano soltanto i nomi dei luoghi. Comprendono anche relazioni spaziali, distanze, posizioni, attributi geografici e rapporti tra diversi elementi dello spazio.
Di conseguenza, una risposta può risultare perfettamente leggibile e apparentemente logica pur rappresentando in maniera non corretta lo spazio reale.
Cosa mostrano gli studi sui grandi modelli linguistici?
Nel 2025 Shengyuan Wang, Jie Feng, Tianhui Liu, Dan Pei e Yong Li hanno pubblicato, nei Findings of the Association for Computational Linguistics, EMNLP 2025 uno studio dedicato alle allucinazioni della conoscenza geospaziale negli LLM.
Gli autori hanno sviluppato un sistema di valutazione basato su knowledge graph geospaziali strutturati, con l’obiettivo di verificare in maniera controllata la correttezza delle conoscenze geospaziali generate dai modelli. I ricercatori hanno valutato 20 grandi modelli linguistici e hanno rilevato la presenza di allucinazioni nelle loro conoscenze geospaziali.
Il lavoro è significativo perché mostra la necessità di valutare le capacità geografiche dei modelli con strumenti specifici, invece di considerare soltanto la qualità linguistica delle loro risposte.
La geo-hallucination nell’analisi urbana
Il fenomeno assume particolare rilevanza quando ricercatori e professionisti utilizzano l’intelligenza artificiale per analizzare le città e gli ambienti urbani.
Nel suo lavoro, Xiao Huang affronta la geo-hallucination attraverso attività legate alla percezione, alla navigazione e alla produzione di mappe, discutendo le implicazioni che il fenomeno può avere sulla produzione di conoscenza urbana.
L’elemento centrale riguarda il rapporto tra i contenuti generati dal modello e lo spazio reale che tali informazioni dovrebbero rappresentare. Un sistema generativo può infatti produrre contenuti plausibili dal punto di vista linguistico senza garantirne automaticamente la correttezza geografica precisa.
Per questo motivo, diventa particolarmente importante verificare le informazioni quando questi sistemi operano in contesti nei quali la componente spaziale svolge un ruolo rilevante, come la cartografia, l’analisi territoriale e le applicazioni urbane.
La ricerca sta sviluppando sistemi specifici per misurare e ridurre le allucinazioni geospaziali.
Nel lavoro presentato a EMNLP 2025, Wang e colleghi propongono un metodo denominato Dynamic Factuality Aligning, basato sulla Kahneman-Tversky Optimization (KTO), con l’obiettivo di migliorare l’allineamento del modello alle informazioni geospaziali fattuali.
Questi studi mostrano l’importanza di sviluppare sistemi di valutazione specifici per la conoscenza geografica. Nello sviluppo e nell’utilizzo della GeoAI, la componente umana mantiene un ruolo importante.
Gli strumenti d’intelligenza artificiale possono supportare l’analisi di grandi quantità di dati geospaziali, ma occorre valutarne i risultati considerando la qualità delle fonti, il contesto geografico e le finalità del loro utilizzo.
La supervisione di persone con competenze adeguate può contribuire a individuare incoerenze o informazioni prive di un adeguato riscontro nei dati, soprattutto quando gli output dei modelli supportano analisi e decisioni sul territorio.
Il lavoro di ricercatori come Xiao Huang pone quindi una questione centrale per il futuro della GeoAI, non soltanto quanto questi sistemi siano capaci di elaborare informazioni sullo spazio, ma anche come verificarne l’affidabilità e come integrare le capacità dell’intelligenza artificiale con il giudizio e le competenze umane.
La sfida non consiste quindi nel sostituire l’interpretazione umana con quella automatizzata, ma nel costruire un rapporto efficace tra le due.
In questo senso, la GeoAI rappresenta uno strumento di supporto alla conoscenza geografica, mentre la verifica, l’interpretazione e la valutazione critica dei risultati restano aspetti fondamentali per un suo utilizzo affidabile e consapevole.