Nessuna tecnologia è inevitabile
Nelle ultime settimane è capitato a tutti di leggere e discutere di tecnologie e intelligenze artificiali molto più del solito, anche al bar e tra amici. La rapida diffusione dell’IA generativa in ogni contesto, l’impatto che potrà avere sul lavoro, e la decisione del Garante italiano su ChatGPT hanno favorito questa discussione. Avrete letto le dichiarazioni di alcuni CEO “spaventati” da una potenziale apocalisse per l’umanità, e della paura condivisa anche da scienziati e ricercatori riguardo a enormi danni per la nostra specie.
Sono radicalmente contraria a qualsiasi narrazione sulla tecnologia che sposta la responsabilità fuori dagli umani che ci lavorano, nella “potenza” tecnologica, che alimenta una visione dell’IA come inevitabile e fuori dal nostro controllo.
La mia preoccupazione da settimane è cosa arriva alle persone di queste discussioni. Se prima non arrivava niente, ora probabilmente arriva solo la paura. Che è molto peggio. Paura dettata da una narrazione che vuole far passare la tecnologia come un mito, una creatura divina che “accade” alla nostra società senza nessuna possibilità di controllo. Giorni fa il CEO di Google ha dichiarato che “la società deve prepararsi ad affrontare questa rivoluzione”. Eco delle rivoluzioni industriali, già contestate al tempo dagli studiosi costruttivisti che criticavano il determinismo tecnologico, la posizione dominante nel XIX secolo che vedeva i mezzi tecnologici come causa delle sovrastrutture sociali (politica, cultura, religioni, per prendere Marx). E se fosse lo sviluppo tecnologico, a doversi adattare alla società?
Sembrerà banale leggerlo così, eppure è il contrario di quello che è sempre successo finora. Come scriveva Andrew Feenberg, pensare la tecnologia come inevitabile l’ha progressivamente allontanata dalle condizioni empiriche dell’esistenza. Ciò significa che ci ha abituati a pensarla al di fuori del nostro controllo e al di là delle nostre possibilità di intervento. Ma chi invece la costruisce, progetta, mette sul mercato, sa bene che non è così. Solo che questo velo di magia e mistero — oltre a rendere più probabile una cattiva gestione — aiuta anche a diffondere le tecnologie più in fretta. “Muoviti in fretta, rompi le cose” l’ha inventato Zuckerberg.
La necessità di adattarsi ai progetti digitali ha creato un’aspettativa di sottomissione umana.
Tutto quello che sto studiando da cinque anni e che mi ha portata a lavorare in questo settore dice il contrario: è la società a creare attivamente le condizioni per ogni tecnologia, insieme a scelte di mercato assolutamente controllabili, e alle leggi. Perché ogni progetto è fatto di infinite scelte umane da cui dipende poi l’impatto che avrà sulle persone, sull’ambiente, sul lavoro, su tutto. Ci sono sempre infinite scelte. Non solo: ci sono anche idee politiche, culture, valori umani sempre diversi che, insieme a molti pregiudizi più o meno consapevoli, entrano nel design in diverse fasi e influenzano profondamente ogni tecnologia. Non parlare di questo significa lasciare fuori la componente umana della tecnologia, l’unica che dovrebbe davvero interessarci oggi.
La vera sfida è educare le persone e la società a questa idea, al fatto che non devono avere paura di questi strumenti perché non prenderanno il sopravvento, non hanno una coscienza e non ci mangeranno fino a quando vorremo pretendere che rimangano sotto il nostro controllo, pretendere che chi crea queste tecnologie ne abbia tutta la responsabilità, e che rispondano a regole chiare. È proprio il mito dell’inevitabilità ad averci finora allontanati dalla sua costruzione sociale. Serve uno sforzo collettivo di formazione, educazione, partecipazione e sensibilizzazione sulle pratiche di costruzione che raccontino di quanto questo sia un processo umano. Per riportarlo alle condizioni empiriche dell’esistenza, alle nostre necessità e ai nostri limiti. Perché se iniziamo ad abituarci a questa demistificazione sarà complicato riabituarci a pensare la tecnologia come uno strumento, una nostra produzione.
[n.b: pensieri sparsi utili anche in vista del libro che sto scrivendo. Ogni spunto diverso o di supporto è utile!]
