Calvi & Partners
Quaderno di ricerca 08
08
La macchina ontologica.
Prima di poter governare qualcosa, un’organizzazione deve riuscire a farla esistere nel proprio sistema di categorie.
Cliente, rischio, frode, opportunità, anomalia, talento, affidabilità, performance: le organizzazioni governano il mondo attraverso categorie.Quando i sistemi intelligenti partecipano alla costruzione di quelle categorie, non classificano più soltanto oggetti già esistenti.Contribuiscono a stabilire quali oggetti l’organizzazione è in grado di riconoscere.
01
Prima
dei dati
I dati non arrivano prima delle categorie. Arrivano dopo.
Per trasformare il mondo in dati occorre prima stabilire che cosa contare, che cosa distinguere, quali eventi considerare equivalenti e quali differenze trattare come significative.Ogni dataset presuppone quindi una qualche ontologia, esplicita o implicita.
Il problema non comincia quando il modello interpreta i dati. Comincia prima: nel momento in cui una realtà continua viene divisa in oggetti, classi, attributi e relazioni che possono essere rappresentati.
Mondo
Fenomeni continui, ambigui e spesso non perfettamente separabili.
Ontologia
Definisce quali entità, proprietà e relazioni sono considerate significative.
Dati
Il mondo viene misurato attraverso la struttura delle categorie disponibili.
Modello
Le relazioni tra categorie diventano classificazioni, previsioni o rappresentazioni.
Decisione
L’organizzazione agisce su ciò che il sistema è riuscito a rappresentare.
Istituzione
Le categorie iniziano a produrre processi, ruoli, incentivi e strutture permanenti.
02
Produzione delle
categorie
L’intelligenza artificiale può scoprire strutture che nessuno aveva deciso di cercare.
Clustering, embeddings, classificazione automatica e sistemi di rappresentazione possono individuare somiglianze e differenze non previste dalle tassonomie costruite manualmente.Questa capacità può produrre conoscenza nuova.Ma può anche produrre nuove categorie operative.
Scoprire
Il sistema individua regolarità che non erano comprese nelle classificazioni originarie dell’organizzazione.
Nominare
La regolarità riceve un’etichetta e diventa un oggetto riconoscibile nel linguaggio operativo.
Misurare
L’organizzazione costruisce indicatori, soglie e confronti intorno alla nuova categoria.
Governare
Risorse, incentivi, responsabilità e processi iniziano a essere organizzati in funzione della categoria.
03
Sedimentazione
ontologica
Una classificazione può iniziare come ipotesi e terminare come realtà istituzionale.
Quando una categoria viene utilizzata abbastanza a lungo, l’organizzazione può smettere di percepirla come costruzione.Diventa parte della struttura attraverso cui persone, procedure e sistemi interpretano il mondo.
La sedimentazione ontologica avviene quando una rappresentazione smette di essere percepita come modello e comincia a essere trattata come realtà.
Il potere non consiste soltanto nel decidere che cosa è vero. Comincia prima: nel decidere quali cose possono diventare oggetto di verità.
04
Debito
ontologico
Un’organizzazione può continuare a utilizzare categorie che non sa più spiegare.
L’efficienza iniziale di una classificazione automatica può nascondere un costo crescente: la perdita della capacità di ricostruire perché una determinata categoria esista, quali presupposti incorpori e se continui ad avere senso.
Origine perduta
Nessuno ricorda più in quale contesto la categoria sia nata e quale problema dovesse originariamente risolvere.
Significato opaco
La categoria continua a essere utilizzata, ma il suo significato operativo non coincide più con una definizione condivisa.
Dipendenza concettuale
Cambiare la categoria diventa difficile perché processi, sistemi, metriche e responsabilità sono ormai costruiti intorno ad essa.
Il debito tecnico rende difficile modificare un sistema. Il debito ontologico rende difficile capire quale realtà quel sistema presuppone.
05
Non-rappresentazione
Ciò che non entra nelle categorie del sistema può continuare a esistere e diventare comunque istituzionalmente invisibile.
06
Governare
l’ontologia
Non basta chiedere se una classificazione è accurata. Bisogna poter discutere perché quella classificazione debba esistere.
Il problema più profondo dell’intelligenza artificiale potrebbe non essere che le macchine arrivino a comprendere il nostro mondo. Potrebbe essere che noi cominciamo a vivere sempre più nel mondo che esse sono capaci di rappresentare.
Ogni organizzazione governa attraverso categorie.L’intelligenza artificiale rende possibile costruirne di nuove con una velocità, una granularità e una complessità prima difficilmente raggiungibili. La questione di governance non sarà quindi soltanto se i modelli vedano correttamente ciò che esiste.Sarà anche chi possiede il potere di stabilire che cosa, per l’organizzazione, possa esistere abbastanza da diventare oggetto di conoscenza e decisione.