Grok, Gemini, Claude, ChatGPT... non sono ciò che pensi

Sai cosa stai davvero usando quando “parli con un’IA”?

Per un certo periodo abbiamo raccontato i chatbot come se fossero una cosa semplice: un cervello artificiale, una super-enciclopedia, un “Google che parla”, un’autocompletamento diventato improvvisamente mago.

È sicuramente una narrazione comoda. Ed è anche la ragione per cui tanta gente rimane delusa (o spaventata) dopo dieci minuti d’uso: perché l’aspettativa è sbagliata.

La verità è più interessante — e anche più utile: ChatGPT, Claude, Gemini, Grok non sono “un’IA”. Sono un sistema stratificato, un prodotto composto da più livelli, dove il modello linguistico è solo il motore centrale. E spesso non è nemmeno la parte che determina davvero l’esperienza finale. Vediamo di chiarire meglio.

Il primo equivoco: “sono una biblioteca digitale”

No. Un grande modello linguistico non funziona come un archivio che “ha letto tutto” e poi ti cita la pagina corretta.

Durante l’addestramento assorbe enormi quantità di testo e impara regolarità statistiche del linguaggio: quali concetti tendono a stare insieme, quali frasi seguono altre frasi, che forma hanno gli argomenti, quali stili “suonano” credibili.

Il risultato è che sa parlare bene di tante cose, spesso anche molto bene. Ma non significa che “contenga” la verità come un’enciclopedia. E soprattutto non significa che sappia sempre distinguere tra vero, verosimile e inventato. 

Il secondo equivoco: “È solo autocomplete”

Anche qui: sì e no.

• Sì, perché il principio di base è predire il prossimo “pezzo” di testo (token).
• No, perché con l’architettura giusta quella predizione diventa capace di fare cose che sembrano ragionamento, pianificazione, sintesi, stile, traduzione, spiegazione.

La svolta che ha reso possibile questa scala è l’architettura Transformer, introdotta con Attention Is All You Need: il “trucco” è l’attenzione, cioè la capacità del modello di pesare dinamicamente quali parti del contesto contano davvero mentre genera la risposta. 

Quindi: non è un “autocomplete stupido”. Ma non è nemmeno una mente che “sa”. È un sistema che produce linguaggio altamente coerente.

Il punto centrale: non stai usando “un modello”, stai usando un prodotto

Qui arriva la parte più importante. Quando apri ChatGPT o Claude o Gemini, tu non stai parlando con il modello base. Stai parlando con una macchina composta da strati. Immaginala così:

A — Il “motore” (foundation model)

È il modello pre-addestrato: grande, generalista, potente. Da solo però può essere:

• poco utile (risposte dispersive)
• poco affidabile
• troppo “libero” nel tono e nei contenuti

B — L’addestramento “a fare l’assistente”

Qui entra il cosiddetto instruction tuning e soprattutto RLHF (Reinforcement Learning from Human Feedback): persone valutano risposte, preferenze e comportamenti, e il modello viene ottimizzato per essere più utile, più educato, più aderente alle aspettative.

Questo passaggio ha dimostrato una cosa brutale: un modello più piccolo ma allineato può piacere più di un modello gigantesco ma “grezzo”. 

Anthropic ha anche formalizzato un approccio simile ma con principi espliciti (“Costituzione”), il filone della Constitutional AI: invece di dipendere solo da giudizi umani, il sistema si guida con regole e auto-revisione. 

C — Il “copione” invisibile (system prompt / system message)

Qui succede una cosa poco intuitiva: sopra il modello c’è spesso un insieme di istruzioni “madri” che definiscono tono, regole, priorità, limiti e comportamento.

È il motivo per cui due strumenti “con lo stesso cervello” possono comportarsi in modo diverso: non cambia solo il modello, cambia il copione. 

D — Sicurezza e filtri

C’è poi un livello di policy e controlli: ciò che viene bloccato, ciò che viene riscritto, ciò che viene deviato. Con modelli sempre più persuasivi, questo non è un dettaglio: è parte del prodotto. 

E — Strumenti esterni (browser, code, RAG, tool)

Molti sistemi non “rispondono” solo col modello: recuperano documenti, fanno ricerche, usano strumenti.

La tecnica più citata qui è la Retrieval-Augmented Generation (RAG): invece di affidarti solo a ciò che il modello ha assorbito in addestramento, gli dai testi esterni pertinenti e lui costruisce la risposta su quelli. È uno dei modi più concreti per ridurre errori e allucinazioni (anche se non le elimina). 

F — Memoria, personalizzazione, “stile”

Infine: memoria conversazionale, preferenze, profili, settaggi, routing tra modelli diversi, ecc.

Risultato: l’utente percepisce un’entità coerente (“Claude è così”, “ChatGPT è cosà”), ma in realtà sta vedendo l’effetto complessivo di un sistema orchestrato.

Ecco perché “non sono ciò che pensi”: non sono un essere, non sono un’enciclopedia, non sono un semplice autocomplete. Sono stack.

L’allucinazione non è un bug strano: è una proprietà naturale del sistema

Il modello è ottimizzato per produrre testo coerente. Se gli manca un pezzo, spesso preferisce completare invece di fermarsi. Per questo le “allucinazioni” — contenuti plausibili ma falsi — sono un problema strutturale, studiato e tassonomizzato in letteratura. 

OpenAI lo dice in modo molto diretto: i modelli possono essere potenti ma non completamente affidabili, e in contesti “ad alto rischio” serve protocollo, verifica e grounding. 

Perché Grok, Gemini, Claude, ChatGPT sembrano “personalità diverse”

Perché in parte lo sono — ma non nel senso umano. Le differenze che percepisci dipendono soprattutto da:

• scelte di addestramento (RLHF vs approcci costituzionali) 
• system prompt e politiche interne 
• integrazione con strumenti (search, retrieval, ecc.) 
• politiche di sicurezza e mitigazioni 

E anche da una cosa più “politica” che tecnica: ogni prodotto decide che tipo di utente vuole servire e quali rischi è disposto ad accettare.

La lettura utile: come usarli senza fraintendimenti

Se capisci lo stack, smetti di chiedere al sistema ciò che non è progettato per darti.

1 — Chiedi “processo” più che “verità”

Invece di “dimmi la risposta”, funziona meglio:

• “fammi le ipotesi”
• “mostrami i passaggi”
• “indicami dove potresti sbagliare”

2 — Dai contesto e vincoli (tu diventi parte del sistema)

Il modello è sensibile a contesto e istruzioni: più sei preciso, più riduci ambiguità. 

3 — Per i fatti, usa grounding (documenti, fonti, RAG, link)

Quando serve accuratezza, porta dentro le fonti o usa strumenti che recuperano fonti. 

4 — Non scambiare “sicurezza” per “incompetenza”

A volte un rifiuto non è “non lo sa”: è policy. A volte una risposta morbida non è prudenza: è allineamento.

Il rischio vero è l’antropomorfismo

La cosa più ingannevole è l’effetto “persona”. Noi leggiamo coerenza e la trasformiamo in identità. Ma qui la coerenza può nascere da:

• addestramento
• prompt
• filtri
• memoria
• stile imposto

È uno specchio linguistico molto raffinato. E proprio perché è raffinato, può sembrare più “soggetto” di quanto sia. Questo non lo rende inutile. Lo rende potente. E quindi va capito.