Indica un intervallo di date:
  • Dal Al

Il ritorno dell’umano nell’era della iper-tecnica

Il pericolo del passato era che gli uomini diventassero schiavi. Il pericolo del futuro è che gli uomini diventino robot (Erich Fromm)
Usa bene la tecnologia, altrimenti sarà lei a usare te (detto hacker)
Noi creiamo i nostri strumenti, che poi a loro volta ci trasformano (Marshall McLuhan)

Uno dei rischi più grandi della rivoluzione digitale è la “macchinizzazione della società”, il sostituire uomini con macchine e pensare che il digitale sia la soluzione di tutti i problemi o l’unico luogo dove costruire le opportunità.

Uno degli aspetti che incomincia ad essere (drammaticamente) evidente è l’espulsione degli uomini dal mondo del lavoro grazie alla loro sostituzione con robot, software (bot, sistemi di intelligenza artificiale, risponditori automatici, …), droni, auto senza conducente, … Non si tratta solo di una cosa che sta capitando, ma viene addirittura invocata da tutti – non solo i finanziatori o gli imprenditori di queste società, ma i Governi, la politica, i manager, i giornalisti, gli evangelisti, i giovani che si affacciano sul mondo del lavoro …

Si sta diffondendo un pensiero unico sul digitale molto problematico, che va di pari passo con un indebolimento della qualità formativa. Il grande filosofo ed educatore John Dewey paventava questo rischio di macchinizzazione strettamente collegato con una formazione sempre più addestrativa e meno educativa già nel 1915 … «La preparazione punta oramai su quel tipo di cose che una macchina ben programmata riesce a fare meglio di un essere umano, e lo scopo principale dell’istruzione, il raggiungimento di una vita ricca di significato, appare inutile e messo da parte.» (Democrazia e educazione)

Anche alcuni filosofi avevano incominciato a mettere in luce queste criticità, ma evidentemente non sono il genere di letture frequentate dai politici ed opinion leader. Forse il primo esperto di digitale a porre il problema senza ipocrisie fu Bill Joy, fondatore di Sun Microsystems e considerato uno dei più abili programmatori esistenti (è infatti soprannominato Thomas Edison di Internet) non solo per le sue implementazioni del protocollo TCP/IP o di Unix, ma anche per essere stato l’autore del celebre editor “vi”, uno dei più utilizzati nel mondo Unix (si narra lo abbia scritto in un fine settimana). Nel suo articolo Why The Future Doesn’t Need Us pubblicato su Wied nell’aprile 2000 egli sosteneva: «Our most powerful 21st-century technologies – robotics, genetic engineering, and nanotech – are threatening to make humans an endangered species». La sua raccomandazione era che «il perseguimento scientifico della verità» fosse «temperato da considerazioni sul costo umano del progresso».

Il fatto che questi timori fossero nati non da un apocalittico poco integrato con il mondo digitale e intimorito dal progresso (soprattutto perché ne è fuori e non lo comprende – come la volpe nella celebre favola di Esopo), ma da uno degli attori che ha fatto nascere e crescere il web, deve far riflettere. Ma le sue osservazioni non infiammarono né i media né i cittadini.

Più di dieci anni dopo Erik Brynjolfsson e Andrew McAfee (della Sloan School del MIT) scrivono un importante articolo (The Great Decoupling, New Perspectives Quarterly, 2013) dove dimostrano che – a partire dagli anni ’90 – è iniziata la grande separazione fra PIL e produttività da una parte e occupazione e mediana del reddito (che elimina i noti problemi della “media del pollo” descritti dal poeta Trilussa …) dall’altra. La tesi dell’articolo è molto chiara ed esplicita. «We’re having the automation and the job destruction; we’re not having the creation at the same pace. There’s no guarantee that we’ll be able to find these new jobs. It may be that machines are better than that.»

Ma anche il dibattito a seguito dell’articolo rimase fra le élites e non coinvolse la politica e il grande pubblico. Una prima tiepida reazione intimorita alle derive del digitale si ebbe dopo l’editoriale dell’Economist del 18 gennaio 2014 (“The Effect of today’s technology on tomorrow’s jobs will be immense – and no country is ready for it”) che pubblicava i risultati di una ricerca dell’Università di Oxford: “il 47% dei mestieri di oggi potrebbero essere automatizzati (e quindi eliminati) nel prossimo ventennio”.

Ma seppur drammatici, non questi i soli rischi di una macchinizzazione spinta. Ve ne sono almeno altri due:
Decisioni “irresponsabili” e non trasparenti prese direttamente dagli algoritmi inseriti nelle macchine. Il caso più attuale è senza dubbio legato alle macchine a guida autonoma e alle loro decisioni a fronte di possibili incidenti che possono coinvolgere vite umane (vedi Decidere o discernere: questo è il problema)
Omogeneizzazione e standardizzazione della società: i software prediligono la standardizzazione e la omologazione di regole e comportamenti e molti modelli di business – soprattutto quelli legati ai contenuti e alla pubblicità – vivono di massa critica e quindi tendono a far convergere i comportamenti. Il cosiddetto “Google Effect”. La prima riflessione sistematica venne fatta da Eli Pariser (Il filtro. Quello che internet ci nasconde, 2012), dove mostrò in che modo la ricerca di informazioni è ormai completamente condizionata dai sistemi di raccomandazione, che previlegiano alcune risposte rispetto ad altre e le personalizzano solo in funzione di specifiche raccomandazioni commerciali profumatamente pagate dagli inserzionisti. Oltretutto è proprio il meccanismo di auto-rinforzo di questi algoritmi (“siccome è piaciuto a molti, piacerà anche a te”) che tende a omogeneizzare gusti e comportamenti e a creare aziende immensamente ricche.

Che Fare ?

Credo che la possibilità sia una sola: costruire modalità di interazione fra uomo e macchina che prendano il meglio di entrambi.

Il tema è dunque ibridare (e non sostituire) l’uomo con la macchina e trovare nuove armonie. Non bisogna ricadere nei due rischi estremi:
sostituire le sue capacità e attività con analoghe versioni tecniche: è la visione industriale spinta che vuole eliminare fattori produttivi costosi e scomodi (la forza lavoro) con macchine per abbassare i processi produttrici
iper-potenziare l’uomo per renderlo invincibile e immortale: è la visione post-umanista che – pur sembrando alleata dell’uomo – lo strumentalizza e punta a sostituirsi al dio creatore.

Ogni forma estrema è pericolosa, anche se ciascuna di queste due direttrici – se presa a piccola dosi – produce innovazione e nuovi insight. Il tema dunque è l’equilibrio, l’armonia, non l’ipercrescita e la massimizzazione a tutti i costi delle potenzialità delle macchine.

Interessante la riflessione di Geoff Colvin – senior editor “at large” di Fortune e commentatore su CBS radio – nel suo ultimo libro Humans are underrated.

L’obiettivo è lasciare alle macchine ciò che non è conveniente che l’uomo faccia.; un detto informatico recita let the computer do the hardest job: facciamo fare alle macchine le cose più gravose e pericolose, oppure quelle che richiedono continua ripetitività alienante, ipervelocità o super-precisione e lasciamo all’uomo la sintesi e l’intuizione. E lasciamo all’uomo le attività propriamente umane. Colvin ne identifica sette: empatia, creatività, sensibilità sociale, raccontare storie, umorismo, costruire relazioni e guidare le persone.

Ciò implica potenziare le competenze soft, le cosiddette humanities, tanto bistrattate nell’epoca della tecnica: capacità di concettualizzare e astrarre, pensiero critico, saper fare le domande giuste (più che saper dare le risposte corrette), riuscire a trouble shoot problemi mai incontrati, sapere quando rinunciare alla regola e far valere l’eccezione, …

Questo approccio non può svilupparsi per caso; deve essere programmato e indirizzato in modo esplicito e determinato. Deve ri-potenziare la dimensione umanistica e mettere un freno – indirizzandola verso fini condivisibili – alla dimensione tecnica.

Per questo motivo – ad esempio – un gruppo di scienziati e tecnologi (tra cui Elon Musk e Stephen Hawking) hanno fondato Future of Life Institute (http://futureoflife.org), un’organizzazione che vuole porre un freno alla crescita incontrastata della tecnica. La premessa è che: “Technology has given life the opportunity to flourish like never before … or to self destruct”. (vedi Decidere o discernere: questo è il problema)

Per questo motivo esiste la politica ed esistono fondi pubblici e leggi il cui fine è orientare le direzioni di sviluppo, incentivando certe soluzioni e ostacolando delle altre.

Per questo motivo i capi azienda e le funzioni HR possono puntare su certe competenze, consentire alcuni processi, premiare certi comportamenti virtuosi, inibendo quelli opposti.

Tutto nasce, però, dalla consapevolezza che il tema – se non affrontato in maniera consapevole e orientato nel verso desiderabile – prenderà pieghe pericolose che massimizzeranno I benefici a breve (ad esempio avere delle auto senza conducente che riducono lo stress del guidatore o consentono di “guidare” un auto a chi non lo può fare – anziani, persone diversamente abili, ….) ma ne creeranno di enormi nel prossimo futuro: dalla dipendenza delle scelte etiche degli algoritmi di guida all’eliminazione dal mondo del lavoro degli autisti fino al rischio terroristico di potere – con estrema facilità – prendere il controllo “da remoto” di queste macchine e trasformarle in strumenti di morte.