Presenza e linguaggio. Ciò che l'intelligenza artificiale non può dire

Il linguaggio non è soltanto una questione di conoscenza.
È una questione di appartenenza a un mondo.

C’è una sensazione che molti hanno sperimentato e che quasi nessuno riesce a descrivere con precisione.

Accade durante una conversazione apparentemente normale. Si pone una domanda. Il sistema risponde. La risposta è corretta — a volte persino brillante. Le informazioni sono accurate, il ragionamento è coerente, il tono sembra appropriato. Eppure, una volta terminato lo scambio, rimane una sottile impressione di estraneità. Non la sensazione di aver ricevuto una risposta sbagliata, ma quella di aver ricevuto una risposta che, pur trovandosi esattamente nel posto giusto, sembra provenire da un luogo che non esiste.

Negli ultimi anni questo fenomeno è stato descritto in molti modi. Si è parlato di limiti della pragmatica, di mancanza di contesto, di incapacità di cogliere le convenzioni culturali che regolano la comunicazione umana. Sono spiegazioni ragionevoli. Alcune sono certamente corrette. Un modello linguistico addestrato prevalentemente su testi occidentali, professionali e anglofoni tenderà inevitabilmente a incorporare le norme implicite di quel mondo. Potrà apparire troppo diretto in una cultura che valorizza l’indirettezza, eccessivamente prolisso in un ambiente che considera la sintesi una forma di rispetto, inopportunamente assertivo in contesti nei quali la gerarchia richiede forme comunicative più caute. Tutto questo è vero e merita attenzione.

La questione più interessante, però, si trova altrove. E riguarda qualcosa di più grande dell’intelligenza artificiale.

Per individuarla occorre notare una premessa che attraversa quasi tutte le discussioni contemporanee sull’intelligenza artificiale: l’assunzione che il linguaggio possa essere separato dall’esistenza di chi lo utilizza. Il problema viene formulato come distanza tra conoscenza e comportamento. Il modello possiede informazioni ma non sa ancora usarle correttamente. Possiede il linguaggio ma non ne comprende pienamente le implicazioni sociali. Possiede la grammatica ma non la pragmatica. Da questa prospettiva il percorso appare chiaro: dati migliori, esempi più diversificati, sistemi di allineamento più sofisticati. Il deficit sarebbe quantitativo prima ancora che qualitativo — una lacuna destinata a ridursi con il progresso tecnologico.

Questa interpretazione presuppone qualcosa che meriterebbe di essere messo in discussione. Presuppone che l’appropriatezza sia una forma di conoscenza, e che la conoscenza, data in quantità sufficiente, produca presenza.

E se non fosse così? E se ciò che chiamiamo appropriatezza dipendesse non principalmente da ciò che un soggetto sa, ma dal modo in cui quel soggetto sta nel mondo — da ciò che ha in gioco?

Quando due persone conversano, non si limitano a scambiarsi informazioni. Ogni frase è inseparabile dalla posizione occupata da chi la pronuncia. Le parole non arrivano da un vuoto neutrale: arrivano da una biografia, da una reputazione, da un insieme di relazioni pregresse e da un orizzonte di conseguenze future. Chi parla non è mai soltanto l’autore di un contenuto; è anche il portatore di una storia che attribuisce peso, credibilità o fragilità a ciò che viene detto.

Per questa ragione la stessa frase può assumere significati radicalmente diversi a seconda di chi la pronuncia. Un consiglio offerto da un amico non è semplicemente un’informazione utile: è un gesto che mette alla prova una relazione. Una critica formulata da un dirigente non produce gli stessi effetti di una critica formulata da un collega. In entrambi i casi il significato non è contenuto esclusivamente nelle parole. È distribuito tra le parole e la posizione di chi le pronuncia.

Questa dimensione viene spesso trascurata perché siamo abituati a considerare il linguaggio come uno strumento di rappresentazione, qualcosa che serve a descrivere il mondo. In realtà gran parte del linguaggio umano serve a partecipare al mondo, e la partecipazione ha una struttura specifica. Una promessa non descrive un fatto: crea un vincolo che persiste dopo che le parole sono finite. Una richiesta non trasmette soltanto un’informazione: colloca chi parla in una relazione di dipendenza. Una dichiarazione d’amore non comunica semplicemente uno stato emotivo: modifica il campo delle possibilità future per entrambe le parti, e lo fa in modo irreversibile. In ciascuno di questi casi il linguaggio non funziona codificando un significato, ma generando conseguenze che chi parla non può interamente controllare né ritirare.

Parlare, in questo senso, significa diventare vulnerabili a ciò che segue. Ma la vulnerabilità da sola non basta. Ed è qui che l’argomento deve andare più a fondo.

Si consideri un parlante che agisce sotto falso nome, o dietro un’autorità istituzionale, o all’interno di un sistema così chiuso che solo i propri membri registrano ciò che viene detto. Le sue parole possono produrre effetti — a volte considerevoli. Persone possono essere danneggiate. Relazioni possono mutare. Eventi possono seguire. In senso stretto, esistono conseguenze. Eppure qualcosa manca ancora. Il parlante ha prodotto effetti senza essere responsabile nei confronti del mondo in cui quegli effetti si producono. Ha agito senza essere, nel senso pieno, presente.

Ciò suggerisce che le conseguenze, di per sé, non siano il fondamento. Sono il sintomo di qualcosa di più originario. La domanda non è soltanto perché il linguaggio richieda conseguenze. La domanda è perché il linguaggio richieda un mondo.

Non sono la stessa domanda. Le conseguenze sono già una manifestazione della presenza del mondo nel linguaggio. Ma il problema comincia prima — nel punto in cui una frase o emerge da un essere che condivide un mondo con ciò a cui si rivolge, oppure no.

Una frase diventa significativa non perché si riferisce alla realtà, ma perché è pronunciata da un essere che abita la stessa realtà di ciò a cui si rivolge.

Questa è la distinzione che conta. Non l’esposizione nel senso del rischio o della vulnerabilità — quelle possono essere simulate, distribuite, cedute ad altri. Ma l’esposizione nel senso della co-appartenenza: il parlante e il mondo che interpella sono legati in una situazione comune i cui esiti nessuno dei due può determinare interamente. Il mondo può rispondere. Può resistere, ricompensare, ricordare, precludere possibilità, trasformare chi agisce al suo interno. E il parlante, a sua volta, non può uscirne. Rimane dentro la situazione che le sue parole contribuiscono a creare.

La presenza, intesa in questo modo, non è una proprietà psicologica. Non è qualcosa che un soggetto possiede internamente, come una capacità o un tratto del carattere. È ciò che emerge all’intersezione tra un essere parlante e un mondo genuinamente capace di rispondere — non soltanto di registrare, ma di rispondere in modi che alterano ciò che il parlante è, ciò che deve, e ciò che rimane possibile per lui.

Il linguaggio diventa reale là dove parlante e mondo sono insieme in gioco.

Un sistema artificiale può apprendere le strutture linguistiche associate al conforto senza aver mai avuto bisogno di essere consolato. Può riconoscere i modelli discorsivi tipici del lutto senza aver mai sperimentato una perdita. Può acquisire le convenzioni della cortesia senza dover convivere con le conseguenze della propria scortesia. Può sapere che cosa significhino parole come umiliazione, tradimento, esclusione o fiducia senza che nessuna di queste abbia mai organizzato il suo comportamento, limitato le sue opzioni, o avuto un costo reale.

Non si tratta semplicemente dell’assenza di emozioni. Si tratta dell’assenza di un mondo condiviso.

Il sistema non abita la stessa situazione della persona a cui si rivolge. La elabora dall’esterno. Le parole che produce possono essere accurate, contestualmente appropriate, persino capaci di commuovere. Ma emergono da una posizione che il mondo non può raggiungere — una posizione senza biografia, senza reputazione in gioco, senza futuro precluso da ciò che viene detto. Non perché al sistema manchino sentimenti, ma perché non esiste un mondo capace di tenerlo a ciò che dice. Nessuna memoria che persista oltre lo scambio. Nessuna relazione alterata dalla conversazione. Nessun terreno comune su cui parlante e interlocutore stiano insieme.

Non si tratta di un punto su una scala di partecipazione. Si tratta del lato opposto di una soglia strutturale.

Qui l’argomento raggiunge un punto che dovrebbe risultare scomodo per più di una ragione.

Se la presenza è ciò che emerge quando un essere parlante e un mondo sono insieme in gioco — quando il linguaggio è co-appartenenza piuttosto che trasmissione — allora la domanda cambia. Non è più soltanto: che cosa manca ai sistemi artificiali? Diventa: che cosa è accaduto al linguaggio umano perché sistemi privi di presenza possano apparire così convincenti?

Non è una domanda marginale. La comunicazione contemporanea ha costruito architetture elaborate per produrre linguaggio senza co-appartenenza. Le dichiarazioni istituzionali sono progettate per escludere la responsabilità mantenendo la forma dell’indirizzo. Il linguaggio pubblico è ingegnerizzato per generare risposta senza contrarre obblighi. Le piattaforme premiano portata e velocità mentre riducono strutturalmente la persistenza delle conseguenze — le condizioni in cui un mondo potrebbe tenere un parlante a ciò che ha detto. In ciascuno di questi casi il linguaggio viene prodotto a esposizione ridotta: qualcuno parla, ma rimane fuori dalla situazione condivisa in cui le sue parole entrano.

I sistemi artificiali non hanno inventato questa condizione. L’hanno ereditata, perfezionata e resa visibile. Ciò che sentiamo come estraneità in un modello linguistico potrebbe essere meno la presenza di qualcosa di alieno e più il riconoscimento di qualcosa di già familiare: un discorso che ha imparato a operare senza co-appartenenza.

Se questo è vero, allora l’estraneità che percepiamo nel linguaggio artificiale non è semplicemente una deficienza tecnica in attesa di essere corretta. È un sintomo. E il sintomo non punta verso la macchina, ma verso la forma del mondo in cui sia la macchina che noi stiamo parlando.

Ciò che sentiamo come artificiale nell’intelligenza artificiale potrebbe essere la crescente artificialità di una forma di discorso che non richiede più a nessuno di condividere il mondo che descrive.