Etica, morale e legge della tecnologia

È davvero possibile stabilire un’etica globale delle tecnologie e dell’intelligenza artificiale?

Illustrazione di Daniel Stolle

Sto attraversando una mini crisi definitoria. Purtroppo, passare dal chiedersi “chi sono?” a “di cosa mi occupo?” o, detta in termini più contemporanei, da “come mi chiamo?” a “qual è il mio job title?”, è un processo velocissimo, considerato quanto tendiamo a identificarci nel nostro lavoro. È da un po’ che quando mi trovo in contesti professionali ed estremamente pratici, per spiegare di cosa mi occupo e su cosa mi sono formata faccio fatica a parlare di “etica” della tecnologia, degli algoritmi e dell’intelligenza artificiale. Ho studiato Filosofia, soprattutto politica ed etica, e ora sto accostando ai principi la parte empirica delle scienze sociali. Ho lavorato come “eticista” dei dati, valutato progetti digitali dal punto di vista “etico”, ma non ho mai contribuito al “sommo bene”. È un termine pesante di cui farsi carico, e me ne rendo conto sempre di più, ma così è stato definito il campo di ricerca e lavoro in cui mi sono specializzata: etica delle tecnologie.

L’etica è una materia complessa, e gigantesca. A partire dai poemi epici e dalla mitologia, che narravano di valori e qualità superiori, la filosofia si è dotata di una riflessione interna con il pensiero morale greco. Socrate ha formulato i principi morali in contrapposizione al relativismo dei Sofisti, insistendo su una scala di valori il più universale possibile. Questo ha permesso a Platone di formulare una metafisica politica, distinguendo le società in base al loro grado di moralità (dove vinceva l’aristocrazia). Ma fu Aristotele a introdurre l’eudaimonia, il bene supremo, raggiungibile individualmente solo attraverso una vita etica e critico rispetto alle pretese platoniche di individuare un unico bene collettivo. Questo stato di grazia a cui tendere, la felicità ultima, era per Aristotele composta da diversi fini, o “beni singoli”: ogni azione umana doveva essere portata avanti seguendo un’etica personale e coltivando la virtù — la giustizia era una di queste — per tendere verso la propria eudaimonia.

Arrivò poi la legge morale medievale, che identificava nella teoria di Dio le virtù fondamentali. Ma è stato Kant a rendere palese la differenza tra morale e giustizia: la prima deriva da un imperativo categorico, un senso del dovere guidato da una rigorosa volontà umana che però risponde a dei principi morali su cui tutti dovrebbero ritrovarsi d’accordo, e quindi verso l’universalità. Su queste basi si è fatto strada a partire dal XIX secolo il dibattito più rilevante della materia: da quale prospettiva giudicare se un comportamento è giusto o sbagliato? Di prospettive, nei secoli, se ne sono sviluppate parecchie. Queste sono solo le più comuni:

1. L’etica normativa. È la più comune perché categorizza il “buono”, il “cattivo”, il “giusto” come principi e norme prescrittive. Non è considerata tendenzialmente soggettiva, ma di validità generale. Rubare è sbagliato.
2. L’etica deontologica. Valuta la correttezza delle azioni in base alle caratteristiche che possono influenzare l’azione stessa (l’imperativo categorico kantiano). Le motivazioni che spingono le aziende a fare green-washing.
3. L’utilitarismo. È il bene della maggioranza, generalmente disinteressato dal “caso singolo” che mira a identificare il bene per il maggior numero di persone.
4. L’etica consequenzialista. Determina la correttezza delle azioni in base alle conseguenze prevedibili. L’impatto che un’azione può avere sulla società, o sulla natura.
5. L’etica della virtù. A guidare l’azione sono delle virtù specifiche, come quelle individuate da Platone ed espanse da Aristotele. Quindi non basta la moralità dell’azione, che va dimostrata da un atteggiamento vitale.

Questi sono alcuni dei diversi approcci etici riconosciuti dalla cultura filosofica occidentale, e quindi dall’elenco mancano l’etica cristiana ed ebraica, il confucianesimo, la filosofia indiana… Oltre le sue articolazioni più generali, l’etica può essere intesa e applicata in molti modi diversi. Come capirete, non è un territorio banale. Stiamo giocando con la semantica, e quindi con la filosofia, e quindi con i concetti. Ci sono però alcune definizioni necessarie per muoversi in questo campo dove si alternano sinonimie spesso imprecise.

Mio disegnino sull’iPad :)

Se c’è una cosa che l’etica non è, è la legge.

«Get ethicists to spot ethical risks,
get lawyers to spot legal risks».

Reid Blackman

Se si è etici si può rispettare la legge. Se si è morali si può essere etici. Inoltre, se si è morali si può rispettare la legge. Ma non è assolutamente scontato essere tutti e tre insieme. Su questa triangolazione si è fatto strada il Novecento.
Alcune persone parlano della loro etica personale, altre di un insieme di morali, e tutti in una società sono governati dallo stesso insieme di leggi. Quando percepiamo un conflitto tra la legge e i nostri valori personali o un sistema morale in cui ci identifichiamo, agiamo, individualmente o collettivamente, fino a praticare azioni di disobbedienza civile. Avvertendo quel distacco o conflitto, siamo in grado di distinguere queste classi di valori.
Trovarsi in disaccordo di fronte a una norma è comune: è il motore della politica e dell’ideologia. La legge, quindi, ha molto a che fare anche con queste. L’atto normativo è un processo complicato, ma sicuramente è un’operazione che il soggetto recepisce passivamente perché arriva dall’esterno. L’etica e la morale, invece, possono avere una fonte sia esterna (ad esempio i codici di condotta nei luoghi di lavoro o i principi nelle religioni) sia interna. Le leggi, soprattutto nelle fasi costituenti, possono essere un’emanazione etica o morale, ma la legge non è sempre etica, e l’etica non è sempre legge, almeno nello stato sociale e di diritto. E per fortuna. Quando morale e legge coincidono parliamo di Stato etico, teorizzato molto tempo fa da Hobbes e poi da Hegel come un assetto politico e istituzionale in cui il “bene supremo” — di origine platonica — viene rintracciato proprio nello Stato, che ogni cittadina e cittadino deve considerare fine ultimo e arbitro del bene. Quando una persona specializzata in diritto è chiamata a esprimersi sull’etica, le due rischiano di sovrapporsi: mentre compito del/della giurista è lavorare sulle e con le leggi a prescindere dalla loro opinione su di esse, questo con l’etica e la morale non è possibile.

L’etica e la morale, invece, a volte possono coincidere. Dobbiamo assolutamente evitare però di sovrapporle a prescindere.

Etica e morale non sono la stessa cosa, nonostante distinguerle concettualmente sia molto complicato. La morale guarda ai principi del comportamento, alla giustizia e all’errore, ma con un obiettivo il più universalistico possibile. Il filosofo tedesco Friedrich Nietzsche ha dedicato un’intera opera (Genealogia della morale), e probabilmente il suo intero pensiero, per contrastare questa pretesa di verità oggettiva e universale. Arthur Schopenhauer, ad esempio, considerava “un danno senza rimedio, un inconveniente indeclinabile” il costante conflitto tra la religione e l’aspirazione verso la verità.

Molta della confusione che si fa usando i due termini come sinonimi deriva probabilmente dalle origini dei due sostantivi. Come scriveva Cicerone nel De Fato, i greci parlavano di ethos riferendosi al comportamento, ciò che i latini erano abituati a chiamare “scienza dei costumi”. Proponeva così di chiamarla “filosofia morale”, disciplina che tutt’ora continua a esistere sotto questo nome. L’Accademia della Crusca fa anche notare che la distinzione si complica ulteriormente essendo “morale” una parola polirematica, ma risolve la confusione evidenziando che la morale ha molto a che fare con il giudizio e la metafisica, che poi è il motivo per cui Nietzsche la ripudiava e Kant, invece, ci si è dedicato interamente.

Possiamo dire allora che la morale è il complesso di consuetudini e norme (ma non necessariamente leggi), il modello che una persona o una collettività considera come giuste e necessarie. Per questo motivo, spesso la morale è identificata con la religione.

L’etica, invece, è l’insieme dei principi morali che regolano il comportamento pratico di una persona o lo svolgimento di un’attività. Questo è il senso che Aristotele per primo voleva affidarle. È quindi strettamente legata alla morale, ma per come la vedo io esprime la sua applicazione contestualizzata. Non per forza, oltretutto, bisogna aderire esplicitamente a una morale per sviluppare un’etica del sè, o del fare. L’etica esiste necessariamente nella sua contestualizzazione. Esiste quando viene negoziata con altri valori e fattori, e situata in contesti culturali, geografici, normativi e politici specifici.

Interpretando criticamente molti dei danni — perlopiù escludenti — che storicamente sono stati fatti appellandosi all’oggettività, faccio davvero fatica a empatizzare con l’idea che sia possibile stabilire un’etica globale delle tecnologie (o dell’intelligenza artificiale, di cui si sente parlare sempre di più).

Certo, potremmo identificare dei principi morali simili alle leggi di Asimov o ai principi di Ippocrate, ma non riuscirei a fidarmi della loro buona tenuta o applicazione. La morale sembra indicare astrazione, universalità, trascendenza. In Italia, ad esempio, tra le uniche persone riconosciute a livello istituzionale come maggiori esperti (il plurale maschile, decisamente, non è un caso) di etica della tecnologia figurano religiosi e cariche dello Stato Vaticano.
Non mi è mai capitato di incontrare studiosi appartenenti a ordini religiosi in contesti di ricerca accademica sulle tecnologie, ma mi è capitato più volte di dialogare con colleghe/i laiche/i che studiano la teologia, la filosofia e il loro rapporto con l’intelligenza artificiale. Una volta, a una conferenza ad Amsterdam, una di queste ha commentato il mio resoconto sulla situazione in Italia dicendomi: “se un religioso si occupasse qui di intelligenza artificiale nelle istituzioni sarebbe considerato indottrinamento!”.

Io non penso possa esistere un’etica globale della tecnologia, perché sia l’etica sia la tecnologia sono strettamente dipendenti dalla cultura, e quindi non universalizzabili. Possono esistere dei principi molto ampi, ma non è quello che questa materia vuole indagare, o non solo. Una prospettiva etica sulle tecnologie richiede un’analisi socio-tecnica contestuale, del terreno applicativo ad esempio di un’intelligenza artificiale, per comprendere le necessità di chi la utilizza e soprattutto gli impatti specifici che avrà su determinate comunità. Questo e molto altro è ciò che interessa a questo campo di ricerca, perché identificare in assoluto cosa sia “bene” e “male” è una pura trascendenza a cui dobbiamo rispondere con una sempre più attenta immanenza nell’esperienza.

Come ci ha insegnato Emmanuel Lévinas, sono convinta che almeno in questo caso si debba parlare di etica come responsabilità. Sono anche convinta che, interpretata in questo modo, l’etica sia soggetta a essere negoziata e bilanciata con alcuni principi irrinunciabili come le norme e i diritti fondamentali. Per questi motivi faccio fatica a pensare che chi così esplicitamente aderisce a ordini morali, religiosi o professionali che rispondono a definiti set di regole possa occuparsene in maniera libera e autonoma. Come si possono considerare le esigenze specifiche di una situazione o di una comunità, se esiste già un ordine pre-determinato e irremovibile a cui ci appelliamo? E come accettare che la bontà o la giustizia di una tecnologia vengano rappresentate da chi decide di incarnare dei valori assoluti, come quelli religiosi, così escludenti (ad esempio delle donne)?

Se l’intelligenza artificiale per alcuni è davvero una nuova divinità, allora ci servono tutti gli strumenti oltre alla religione per poterla analizzare criticamente.