In Italia, il campo della ricerca dedicato a intrecciare il mondo dell’intelligenza artificiale (IA) con l’etica e il diritto, risulta ancora in fase embrionale. Si aprono nuove sfide e c’è più di una opportunità per approfondire la tematica dell’IA, i rischi connessi e le misure di precauzione necessarie per tutelare l’individuo.
Il dialogo tra IA, Etica e Diritto
I problemi giuridici ed etici derivanti dall’impiego di sistemi IA comportano di confrontarsi con questioni delicate. Ad esempio, quali sono le implicazioni legali nel caso in cui un sistema intelligente causi un danno? E chi ne è responsabile? Allo stesso tempo, emerge la necessità di instillare nell’IA principi etici e norme giuridiche, ponendo nuove sfide etiche e legali.
Il caso di un veicolo autonomo illustra perfettamente questo punto: deve rispettare il codice della strada, ma dovrebbe anche essere in grado di violarlo, se necessario, per evitare un incidente. Si tratta quindi di progettare soluzioni IA in campo legale, le cosiddette “legal technologies”, per identificare violazioni compiute non solo dagli utenti delle tecnologie, ma anche dall’IA stessa.
La normativa sull’IA: tra storia e attualità
Contrariamente a quanto si potrebbe pensare, la regolamentazione sull’IA affonda le radici radici fin nel 2016, con l’adozione del GDPR (General Data Protection Regulation) da parte dell’UE, sebbene il termine “intelligenza artificiale” non fosse allora esplicitamente menzionato. Di grande rilevanza oggi è l’Eu AI Act, messo a punto dalla Commissione Europea, che entrerà in vigore nel 2024. Questa legge introduce una classificazione dei rischi associati all’IA, in un tentativo di garantire l’affidabilità e la sicurezza dei sistemi attraverso controlli e procedure di conformità pre-immissione sul mercato.
Autocertificazione e rischi nascosti: l’ombra del futuro
Nonostante la teoria sembri rassicurante, ci sono dei potenziali ostacoli da non sottovalutare. La maggior parte dei sistemi ad alto rischio sarà soggetta ad autocertificazione da parte dei produttori, il che potrebbe nascondere le eventuali responsabilità e affidare la gestione dei rischi solo ex post, attraverso le assicurazioni. Di conseguenza, si prospetta l’apertura di un vasto mercato assicurativo sull’IA, con premi proporzionali al rischio.
I limiti della normativa e le tecnologie mascherate
L’AI Act proibisce in teoria la produzione o la vendita di sistemi IA destinati a manipolare il comportamento umano. Tuttavia, eludere tale divieto è possibile attraverso la vendita di sistemi IA generici che possono essere successivamente riconfigurati dagli utilizzatori. Un esempio di questa problematica è rappresentato dagli stalkerware, software legali utilizzati per monitorare le attività degli utenti, che possono essere facilmente riconfigurati per scopi manipolativi.
Il Selvaggio West dell’intelligenza artificiale?
L’IA Act stabilisce norme e principi generali, ma non ci dice come applicare concretamente questi principi. Ci troviamo quindi di fronte a una specie di “Far West” della IA, con molte questioni ancora da risolvere. Ad esempio, stiamo cercando di capire come assegnare punteggi di affidabilità e di spiegabilità a un sistema IA.
L’IA e l’uomo: chi corre più veloce?
Le norme attuali hanno una flessibilità che può sembrare vaga, ma che in realtà è proiettata verso il futuro e pone nuove sfide verso gli sviluppi tecnologici che ancora non conosciamo. Tuttavia, è evidente che la tecnologia procede a un ritmo ben più sostenuto.
Un confronto internazionale: Stati Uniti ed Europa
In termini di regolamentazione, l’Europa ha un vantaggio rispetto agli Stati Uniti, nonostante quest’ultimi siano più competitivi nel mercato dell’IA. Infatti, il modello del GDPR è stato adottato anche in altri Paesi, come la California e il Brasile. Gli Stati Uniti, tuttavia, non hanno una regolamentazione generale sull’IA e consentono molte più libertà rispetto all’Europa.
Le lacune normative e le sfide future
Esiste un quadro giuridico frammentario con molte norme e proposte di regolamenti e direttive, che crea incertezza nel comprendere se ci siano lacune normative o problemi specifici da affrontare. Oltre all’AI Act, c’è il problema dell’automazione, che non è più limitata alla sola robotica e alle catene di montaggio, con la conseguenza che molti posti di lavoro qualificati sono a rischio.
L’imperscrutabilità della IA e le sue conseguenze
Quando utilizziamo metodi come le reti neurali, specialmente quelle profonde, non abbiamo la capacità di comprendere cosa avviene all’interno del sistema. Questo comporta un problema per chi vuole esercitare i propri diritti contestando le decisioni dell’IA. Per esempio, se l’IA mi nega un credito perché mi considera un debitore a rischio, e non è chiaro il perché, come posso contestare questa decisione e proteggermi?
L’IA e le decisioni discriminatorie
La discriminazione da parte degli algoritmi è un problema reale. Essa può manifestarsi in modo diretto, basandosi su caratteristiche vietate come la razza, l’etnia o il genere, o in modo indiretto, attraverso l’uso di caratteristiche che funzionano come indicatori di queste caratteristiche protette.
L’autonomia decisionale della IA
Il grado di autonomia della IA varia a seconda della tecnologia e dell’ambito di applicazione. Ad esempio, Watson, un sistema utilizzato in campo medico, ha un alto grado di autonomia decisionale, ma non è lui a implementare le sue determinazioni. Al contrario, nel caso dei veicoli autonomi, la macchina potrebbe prendere tutte le decisioni ed eseguirle autonomamente.
Gli esperti preoccupati e il futuro dell’IA
La rapida crescita dell’IA sta generando molte preoccupazioni tra gli esperti del settore. Le tecnologie di IA stanno progredendo a un ritmo esponenziale e non possiamo fare previsioni precise, nemmeno a breve termine. La cosa certa è che stiamo assistendo a nuove sfide sviluppi che pochi anni fa non avremmo nemmeno immaginato.
