Domenico Lombardi.

L’intelligenza artificiale attuale è, nella sua forma più diffusa, un Large Language Model (LLM): un sistema che genera risposte costruendo frasi parola dopo parola, sulla base di calcoli probabilistici che stimano quale termine possa seguire il precedente per produrre un discorso coerente. Alcuni sistemi sono inoltre in grado di ricordare informazioni sull’interlocutore e adattare il tono e il contenuto delle risposte al contesto della conversazione.

Questo meccanismo produce spesso risultati convincenti e scorrevoli, ma introduce anche un equivoco fondamentale: la risposta generata può risultare soddisfacente senza essere necessariamente vera o verificata.

Qualche giorno fa, leggendo un libro di narrativa contemporanea, mi ha colpito un passaggio dedicato a una bambina che ascoltava sempre tutti limitando le risposte solo se interessata all’argomento.

La metafora dell’autrice afferma che, per poter parlare autenticamente di qualcosa, è necessario che quella cosa susciti in noi interesse reale.

Questa immagine offre una allegoria utile per comprendere il funzionamento dell’intelligenza artificiale contemporanea: un sistema basato su modelli linguistici non “parla” perché interessato all’argomento, ma perché riceve una domanda (input) per cui deve generare una risposta (output) coerente. 

Il dialogo con l’intelligenza artificiale nasce quindi dall’interesse umano, mentre la risposta della macchina nasce da un processo di generazione linguistica, non da partecipazione o comprensione. In questo senso, la conversazione con l’IA può sembrare simile a quella descritta dall’autrice: una risposta sempre presente e formalmente adeguata, ma non necessariamente fondata su un’autentica relazione con il contenuto.

Il problema emerge quando questa coerenza viene scambiata per affidabilità. 

Nella mia esperienza professionale, mi è capitato di porre domande tecniche a sistemi di intelligenza artificiale e di ricevere risposte che citavano articoli di legge o sentenzeperfettamente plausibili nella forma, ma inesistenti. Il risultato era convincente, ma a fronte di verifica, falso.

Questo limite è intrinseco allo stato attuale della tecnologia. L’intelligenza artificiale non possiede consapevolezza, esperienza o responsabilità interpretativa: rielabora informazioni disponibili e produce testi coerenti, non giudizi fondati su un’autonoma comprensione del reale. Su questo si innesta un problema – allo stato delle cose ancora più importante. Escludendo al momento, per complessità della trattazione in questo contesto attuale, i limiti previsti in fase di programmazione alle risposte delle IA. Argomento vasto che richiede di essere trattato a parte.

Piccolo approfondimento

L’auto-avvelenamento delle IA (model self-poisoning o model collapse)

Un problema emergente nella machine learning engineering riguarda ciò che accade quando i modelli iniziano ad addestrarsi su dati generati da altri modelli – o per dirla semplicemente – quando le IA recuperano in rete informazioni ridondanti ma non corrette. 

Di fatto avviene una degradazione progressiva della qualità del modello causata dal riutilizzo circolare di contenuti sintetici (prodotti o richiesti all’IA) come dati di training,

in un modo facilmente comprensibile. 

Un primo modello, addestrato su dati umani, produce risposte. Queste risposte, sottoforma di articoli, immagini, codici ecc. finiscono online e un nuovo modello raccoglie i dati dal web includendoli.

Il modello apprende quindi dati meno informativi, più mediati e ridondanti. Iterando, il ciclo causa perdita di diversità e precisione, per la perdita della verità di base o ground truth.

Senza questa verità di base non possiamo valutare se i modelli siano corretti e non possiamo addestrare bene il sistema con il rischio concreto di farlo apprendere da dati distorti o sintetici.

A questo si aggiunge un problema che cresce in silenzio; più le IA producono contenuti, più quei contenuti diventano materia prima per i modelli successivi. Il risultato è un’opacità crescente tra dato umano e sintetico, ovvero, tra conoscenza e simulazione di conoscenza.

Questo non è solo un problema tecnico, ma si estende fino a diventare un problema ecologico dell’informazione perché, se l’ecosistema informativo viene saturato da contenuti sintetici, anche i modelli migliori diventano autoreferenziali. 

Sul piano di realtà

Per molti utenti, soprattutto i meno esperti, questi sistemi appaiono come una sorta di “scatola nera” che comprende la domanda, il senso generale, il contesto, l’uso e i desideri dell’utente. Capace di fornire risposte immediate e apparentemente complete. In realtà, si tratta di strumenti potenti ma privi di valutazione critica autonoma.

Nel dialogo con l’intelligenza artificiale può nascere l’impressione di ricevere conferme più che contraddizioni, ma questo non dipende da una volontà della macchina di adularel’interlocutore. Dipende piuttosto da come questi sistemi vengono progettati e programmati: sono ottimizzati per produrre risposte linguisticamente coerenti, utili e comprensibili, riducendo conflitti gratuiti o affermazioni provocatorie. 

Quando però le informazioni disponibili sono incomplete o ambigue, il sistema può generare contenuti plausibili senza reale verifica. 

È qui che emerge uno dei limiti più importanti dell’intelligenza artificiale contemporanea: la plausibilità formale può sostituire, almeno in apparenza, la verifica sostanziale. Una risposta può suonare corretta, essere ben costruita e perfino convincente, pur non avendo un fondamento reale controllato.

Il confronto con un interlocutore umano resta, sotto questo aspetto, profondamente diverso. Una persona colta e onesta intellettualmente può offrire interpretazioni divergenti, talvolta persino scomode o provocatorie, costringendoci a rielaborare le nostre convinzioni. Questo attrito è spesso il motore del pensiero critico. Nel dialogo con l’intelligenza artificiale, invece, il rischio è quello di ricevere conferme più che contraddizioni.

Si potrebbe definire questo fenomeno come una forma di “avvelenamento del pensiero”: l’impressione di progresso intellettuale che in realtà lascia immutato l’assunto iniziale. Il pensiero sembra evolvere, ma resta ancorato alla posizione di partenza.

Ciò non significa negare l’utilità dell’intelligenza artificiale. Al contrario, essa può diventare uno strumento straordinario di supporto alla scrittura e all’organizzazione delle idee. 

Un tempo, la lentezza della scrittura manuale costringeva a riflettere mentre si componeva il testo. Oggi è possibile annotare rapidamente pensieri, intuizioni e frammenti di ragionamento, anche in modo disordinato, e successivamente utilizzare l’intelligenza artificiale per riorganizzarli, collegarli e renderli leggibili.

In questo senso, la creatività e l’intuizione restano umane, mentre la macchina diventa uno strumento di composizione e di ordine. La tecnologia accelera il processo, ma non sostituisce l’origine del pensiero.

Almeno per ora, l’incombenza della riflessione resta interamente dell’uomo. Ed è proprio in questa distinzione che si trova l’equilibrio più sano nel rapporto con l’intelligenza artificiale: usarla come strumento, senza confondere la fluidità delle risposte con la profondità della comprensione.

La sfida non è chiedere alle macchine di pensare, ma ricordare che il pensiero, quello vero, resta una responsabilità umana