home page

Saremo governati dalle intelligenze artificiali? Riflessioni sul progetto di Macron

Saremo governati dalle intelligenze artificiali? Riflessioni sul progetto di Macron
49 Condivisioni
Tempo di lettura: 5 minuti

All’inizio di marzo 2018 Emmanuel Macron, Presidente della Francia, ha annunciato una strategia nazionale per l’intelligenza artificiale (IA): il governo spenderà 1,5 miliardi di euro in cinque anni per supportare la ricerca in questo campo, incoraggiando in particolare il mondo delle startup e iniziando una operazione massiccia di raccolta di dati.

È utile analizzare il pensiero di Macron. Ce ne dà l’opportunità l’intervista concessa a Nicholas Thompson, direttore di Wired, dove Macron offre a mio avviso una mappa di pensiero sulla quale i cittadini, gli scienziati e i filosofi potranno intercettare il pensiero dei leader europei e mondiali nell’interpretare l’evoluzione tecnologica in atto.

Il contesto delle scelte strategiche

Come sempre sono le tensioni socio-economiche, la competizione e il vantaggio, le regole del mercato, le imposte e le imposizioni nazionali soprattutto rispetto all’operato di colossi Google, Apple, Facebook, Amazon (oggi collettivamente abbreviati con l’acronimo GAFA) a catalizzare l’attenzione nei comunicati, nei dibattiti e nelle dichiarazioni. D’altra parte sono questi stessi processi a muovere dal profondo i grandi poteri. Ma nel mezzo tra questi due livelli (il livello più esteriore e quello sottostante più influente) le questioni politiche, e anche filosofiche, sollevate sono estremamente interessanti e dovrebbero essere portate in primo piano nelle scelte strategiche, nelle decisioni e nella loro comunicazione al pubblico.

I campi di applicazione dell’Intelligenza Artificiale

I campi che saranno maggiormente rivoluzionati dall’IA saranno, per Emmanuel Macron, la sanità (con esplicito riferimento a ciò che si sta affermando come “medicina personalizzata e preventiva”) e la mobilità. Vi è intanto la questione del controllo e della trasparenza degli “algoritmi”, in cui Macron immagina una vigilanza governativa nazionale soprattutto su algoritmi che hanno influenza sul destino delle persone: quelli ad esempio per la selezione dei candidati a iscriversi all’università, quelli che orientano i trattamenti sanitari, quelli per l’analisi e per l’evoluzione delle opportunità lavorative.

La questione del controllo nazionale e della garanzia ai cittadini si intreccia però con una questione molto importante anche dal punto di vista epistemologico e tecnico: gli algoritmi incarnano sistemi di valori; o, più precisamente, è possibile e necessario verificare la coerenza tra la struttura e gli effetti di un algoritmo e un sistema di valori dato. E qui l’esempio portato da Macron è appunto quello degli algoritmi che supportano le selezioni per l’accesso all’università: “I have to guarantee – dice Macronthere is no bias in terms of gender, age, or other individual characteristics, except if this is the one I decided on behalf of them or in front of them.”

Etica e Intelligenza Artificiale

La Francia ha una tradizione scolastica che orienta fortemente gli studenti agli studi universitari. Per quanto negli ultimi anni si sia fatto ampio uso di algoritmi in questo orientamento, molte persone vedono questi algoritmi come “scatole nere”. Mentre si sensibilizzano i cittadini ad avere a che fare con l’IA, bisogna anche creare le condizioni di ogni algoritmo, anche privato, soprattutto se alimenta le funzioni pubbliche. C’è dunque un aspetto etico molto importante nell’innovazione dell’IA, e Macron si sofferma a lungo sull’importanza che in tutto ciò la Francia e l’Europa, le culle della democrazia, abbiano qualcosa da dire e mantengano anzi una leadership globale, in competizione con la Cina e gli Stati Uniti. È importante, nelle parole di Macron, che il focus resti sempre il progresso umano, prima di quello tecnologico.

IA in ambito Sanitario

Del campo sanitario sono in evidenza le questioni della raccolta di dati sempre più specifici e dettagliati sulle persone. Del settore mobilità vengono spesso sottolineati gli orizzonti dell’automazione. E proprio qui si incontra un’altra interessante e inevitabile questione filosofica da affrontare: il grado di sostituibilità dell’uomo nei processi valutativi e decisionali, e l’indissolubile legame di ciò con i temi della responsabilità e dell’accountability. Ammesso e non concesso che una decisione completamente automatica in situazioni complesse sia davvero possibile, quali sono i reciproci ruoli dell’uomo e della macchina? Per Macron il ruolo dell’IA può essere quello di ridurre le incertezze che l’uomo può incontrare nel prendere le decisioni.

L’IA come supporto alle decisioni

L’esempio può essere proprio quello delle riforme economiche e sociali: è vero che le riforme vengono spesso approvate senza avere chiari i possibili effetti diretti e indiretti che queste avranno su un paese. Ecco, in questo caso, per Macron, l’IA può essere fondamentale: attraverso simulazioni, modellizzazioni e ricerca “intelligente” in uno spazio di parametri essa può aiutare il legislatore a decidere. Ma la decisione sarà comunque una decisione politica, persisterà una parte (forse la parte più importante, o almeno quella più fondamentale) di giudizio personale, che sarà quindi oggetto di confronto, negoziazione e competizione tra punti di vista. “That’s the quality of the decision maker, and artificial intelligence will never replace that” dice Macron.

Ciò inoltre è coerente con una necessità che ha invece una natura fondamentalmente etica: quella che ad ogni decisione corrisponda una responsabilità e una “accountability”. Rimanendo nell’esempio del legislatore, Macron immagina un leader che giustifichi il proprio operato scaricando su un algoritmo la responsabilità di una decisione. Questo sarebbe impossibile e inaccettabile.

Ecco perché l’IA non si pone in un regime di sostituzione, bensì di aiuto alla decisione. E la questione della responsabilità e dell’accountability si pone nella maniera più chiara nel noto caso delle armi autonome: la decisione di uccidere non può essere lasciata a una macchina: “the machine can prepare everything, can reduce uncertainties, can reduce until nil the uncertainties and that’s an improvement which is impossible without it, but at a point of time, the go or no-go decision should be a human decision because you need somebody to be responsible for it”. Il ruolo dell’IA è dunque quello di riduzione dell’incertezza a beneficio di decisioni che rimangono essenzialmente umane.

I rischi potenziali dell’IA

Si rileva nel discorso di Macron uno sguardo fortemente costruttivo e positivo potenziali rischi, che a volte vengono sottolineati nel dibattito pubblico andando a costituire un fronte tra “pro” e “contro” l’IA e le altre nuove tecnologie.

Il rischio della perdita di posti di lavoro è, ad esempio, spesso portato come esempio di effetti collaterali negativi dell’automatizzazione. Lo slogan di Macron in questo ambito è, però, che “blocking changes and being focused on protecting jobs is not the right answer”. Uno slogan che può essere condiviso anche sul piano filosofico.

La riduzione di posti di lavoro sarà, per Macron, compensata alla crescita di nuovi lavori in altri settori. Ma ciò non è automativo: il fulcro di questa dinamica, sottolineato anche da Macron, sarà la formazione. Sono le persone, non i posti di lavoro, a dover essere protette, fornendo opportunità di formazione e riqualificazione per nuovi lavori.

Questa è un’altra delle motivazioni che, nell’approccio politico di Macron, spinge anche anche lo stato a occuparsi di questi temi. Il rischio infatti è quello della disuguaglianza di opportunità: “The big risk for our society is to increase opportunities only for very highly qualified people and, in a way, very low-qualified workers.” È necessario specialmente monitorare la riqualificazione dei ceti medi che sono più esposti a questo rischio. La vulnerabilità dei lavoratori – anche se ciò non viene citato da Macron – dipende poi anche dalla variabile anagrafica e generazionale: la riqualificazione non è egualmente possibile e facile per tutti. Inoltre, per Macron, saranno i lavori stancanti e ripetitivi ad essere ridotti dall’IA. La scomparsa o la cessazione di un “fare” non coincide con la perdita di lavoro umano. La forma più radicale di lavoro umano, la vera essenza di ciò che è il lavoro dell’uomo, è, invece, la cura, il creare le condizioni di possibilità di creatività, realizzazione, libertà, dove le cose possono essere godute e inventate in modo umano. Così ogni “fare” diventa lavoro quando l’uomo, facendo, si prende cura, si interroga, sta in relazione, fa cultura.

A ben vedere, è l’uomo stesso, grazie all’evoluzione culturale, a non riconoscersi più nella produzione, né nella “funzione” del suo “fare” come semplice funzionalismo in una catena, come posto in una organizzazione rigida e fissata da altri. Si tratta di una sorta di rinascimento del lavoro: per moltissimi secoli, solo alcuni uomini potevano dedicarsi alla polis, all’arte, alla musica, al “prendersi cura” in quanto tale. Certo, generavano un patrimonio comune, ma l’esercizio di queste attività era riservato a pochi. Oggi il prendersi cura appartiene sempre più a ogni individuo, anche se non dobbiamo essere ingenui: bisogna immaginarsi – o svelare attorno a noi – quali saranno le nuove forme di schiavitù, promuovere l’inclusione e combattere le derive tecnocratiche.

Fonte intervista Macron:

https://www.wired.com/story/emmanuel-macron-talks-to-wired-about-frances-ai-strategy/?CNDID=44456955&mbid=nl_040218_daily_list1_p2

The following two tabs change content below.
Marta Bertolaso

Marta Bertolaso

Marta Bertolaso è Professore Associato di Filosofia della Scienza presso la Facoltà di Ingegneria e l'Istituto di Filosofia dell'Agire Scientifico e Tecnologico dell'Università Campus Bio-medico di Roma. I suoi progetti di ricerca si concentrano sulle attuali sfide epistemologiche e filosofiche nell'ambito della biologia, della bio-medicina, della medicina in silico e dei processi di modellizzazione e validazione mediante le nuove tecnologie applicate al vivente. È stata docente di filosofia della scienza e di bioetica in diverse università italiane, nonché a Monaco e a St. Louis (USA). Tra le sue ultime pubblicazioni, Philosophy of Cancer – A Dynamic and Relational View. Springer Series in “History, Philosophy & Theory of the Life Sciences”, 2016, e The Future of Scientific Practice: ‘Bio-Techno-Logos’, Pickering & Chatto Publishers, London, 2015.
49 Condivisioni