Traduzione dell'intervento di Yuval Harari al W.E.F. di Davos

How to Survive the 21st Century

Entrando nel terzo decennio del XXI secolo, l’umanità deve confrontarsi con così tante sfide e problemi, che é difficile sapere su quale focalizzare l’attenzione. Così avrei piacere di dedicare i prossimi venti minuti per aiutarci a mettere a fuoco tutte le diverse prospettive che ci attendono. Tre problemi pongono una sfida esistenziale alla nostra specie.

Queste tre sfide esistenziali sono la guerra nucleare, il collasso ecologico e lo sconvolgimento tecnologico. Possiamo concentrarci su questi.

Ora la guerra nucleare e il collasso ecologico sono minacce già note, lasciatemi spendere del tempo a spiegare la minaccia meno nota posta dallo sconvolgimento tecnologico.

A Davos noi sentiamo tanto parlare delle enormi promesse della tecnologia, e queste promesse sono certamente reali. Ma la tecnologia potrebbe anche sconvolgere la società umana e il significato stesso della vita umana in vari modi, che vanno dalla creazione di una classe globale di individui privi di utilità, allo sviluppo di un colonialismo di dati e di una dittatura digitale.

Primo, potremmo dover affrontare disordini di livello sociale ed economico.

L’automazione eliminerà presto milioni e milioni di posti di lavoro, e finché non saranno creati nuovi lavori, non é chiaro se la gente sarà in grado di imparare con sufficiente rapidità le nuove necessarie competenze. Supponete di essere un autista di camion di 50 anni, e perdete il vostro lavoro a causa dei veicoli a guida automatica. Ora sono disponibili nuovi lavori come disegnare software o insegnare yoga ai tecnici, ma come fa un autista di camion di 50 anni a reinventare se stesso o se stessa come tecnico di software o come insegnante di yoga? E la gente dovrà affrontare questo problema non una sola volta ma diverse volte nel corso della sua esistenza, perché la rivoluzione dell’automazione non sarà costituita da un singolo sbarramento, superato il quale il mercato del lavoro si sistemerà secondo un nuovo equilibrio. Sarà piuttosto una successione di sconvolgimenti sempre più grandi, perché l’IA é ben lontana dall’aver raggiunto il suo massimo potenziale.

Vecchi mestieri scompariranno, nuovi mestieri emergeranno, ma poi i nuovi mestieri cambieranno rapidamente e scompariranno. Mentre nel passato l’umanità ha dovuto lottare contro lo sfruttamento, nel XXI secolo la reale grande battaglia sarà contro l’irrilevanza. Ed é molto peggio essere irrilevanti che essere sfruttati.

Coloro che falliranno nella lotta contro l’irrilevanza costituiranno una nuova “classe di privi di utilità”, persone che sono prive di utilità non dal punto di vista dei loro amici o delle loro famiglie, ma privi di utilità dal punto di vista del sistema economico e politico. E questa classe di privi di utilità finirà separata da un gap continuamente crescente da una elite sempre più potente.

La rivoluzione IA può creare sperequazioni senza precedenti non solo tra classi ma anche tra Paesi.

Nel XIX secolo, pochi Paesi come Inghilterra e Giappone si sono industrializzati per primi, e hanno conquistato e sfruttato la maggior parte del mondo. Se non saremo attenti, la stessa cosa accadrà nel XXI secolo con l’IA.

Siamo già nel mezzo di una corsa agli armamenti IA, con Cina ed USA che guidano la gara, e la maggior parte dei Paesi lasciati ben in dietro. A meno che non ci adoperiamo per distribuire i vantaggi ed il potere dell’IA tra tutti gli umani, l’IA creerà verosimilmente immensa ricchezza in pochi centri ad alta tecnologia, mentre altri Paesi faranno bancarotta o diverranno sfruttate colonie di dati.

Non stiamo parlando qui di ribellione di robot contro gli uomini in uno scenario di fantascienza. Stiamo parlando di un’IA di gran lunga più primitiva, che é ciononostante sufficiente a sconvolgere l’equilibrio globale.

Si pensi solo cosa sarà dei Paesi in via di sviluppo una volta che divenga più conveniente produrre tessuti o auto in California che in Messico. Cosa sarà dei politici nei vostri Paesi tra venti anni, quando qualcuno a San Francisco o a Pechino conoscerà l’intera storia medica e personale di ogni politico, di ogni giudice e di ogni giornalista dei vostri Paesi, incluse tutte le loro scappatelle sessuali, le loro debolezze mentali e tutte le loro relazioni corrotte? Potrà questo Paese rimanere un Paese indipendente o diverrà una “data-colony”?

Quando si possiedono abbastanza dati non sarà necessario inviare soldati, per prendere il controllo di un Paese.

Accanto all’ineguaglianza, l’altro pericolo maggiore che ci aspetta é la crescita della dittatura digitale, che monitorerà costantemente ciascun individuo.

Questo pericolo può essere formulato nei termini di una semplice equazione, che ritengo potrebbe essere l’equazione che definisce la vita nel XXI secolo:

Cosa significa? La conoscenza biologica moltiplicata per la potenza dei computer moltiplicata per i dati = capacità di hackerare gli esseri umani (AHH = ability to hack humans).

Chi abbia abbastanza conoscenza biologica e abbastanza potere di computing e abbastanza dati, può entrare nel mio corpo e nel mio cervello e nella mia vita, e può conoscere me meglio di quanto io conosca me stesso. Può conoscere il mio tipo di personalità, le mie vedute politiche, le mie preferenze sessuali, le mie debolezze mentali, le mie più profonde paure e desideri. Può conoscere di più riguardo a me di quanto io conosca riguardo me stesso. E si può fare questo non solamente con me, ma con ciascuno.

Un sistema che ci conosca meglio di quanto noi conosciamo noi stessi può prevedere i nostri sentimenti e decisioni, può manipolare i nostri sentimenti e decisioni, e può infine prendere decisioni al nostro posto.

Nel passato, molti governi e tiranni avrebbero voluto farlo, ma nessuno conosceva la biologia abbastanza bene e nessuno aveva abbastanza potere di elaborazione e dati per hackerare milioni di persone. Né la Gestapo né il KGB erano in grado di farlo. Ma presto almeno alcune multinazionali e alcuni governi saranno in grado di hackerare sistematicamente tutta la popolazione. Noi umani possiamo abituarci all’idea che non saremo ancora a lungo anime misteriose, noi siamo ora “animali hackerabili”. Quello siamo.

Il potere di hackerare gli umani può essere usato per scopi buoni, come provvedere un’assistenza sanitaria migliore. Ma se questo potere cade in mano ad uno Stalin del XXI secolo, il risultato sarà il peggiore regime totalitario nella storia dell’uomo. E noi abbiamo già un numero di candidati per il ruolo di Stalin del XXI secolo.

Si immagini solamente la Corea del Nord tra vent’anni, quando ognuno indosserà un braccialetto biometrico che monitora costantemente la pressione sanguigna, il ritmo cardiaco, l’attività cerebrale 24 ore al giorno. Tu ascolti un discorso alla radio del grande leader e loro sanno cosa provi realmente. Puoi battere le mani e ridere, ma se ti arrabbi, loro lo sanno, e tu domani sarai in un gulag.

E se si permette l’emergere di tali regimi di sorveglianza totale, non si pensi che i ricchi e potenti in luoghi come Davos saranno al sicuro, Chiedetelo a Jeff Bezos. Nell’USSR di Stalin, lo stato monitorava i membri dell’élite comunista più di chiunque altro. La stessa cosa accadrà nei futuri regimi di sorveglianza totale. Più alto sei nella gerarchia, più da vicino sarai controllato.

Volete che il vostro CEO o il vostro presidente sappiano cosa pensate di loro realmente?

Quindi é interesse di tutti gli umani, incluse le elite, di prevenire il progredire di tali dittature digitali. E al medesimo tempo, se ricevete un sospetto messaggio WhatsApp, da qualche Principe, non apritelo.

Ora se noi effettivamente preveniamo lo stabilirsi di una dittatura digitale, la capacità di hackerare gli umani può minare ugualmente il reale significato di libertà umana. Perché, siccome gli umani si affideranno all’IA perché assuma sempre più decisioni al loro posto, l’autorità passerà dagli umani agli algoritmi e questo sta già accadendo.

Già oggi miliardi di persone contano sull’algoritmo di Facebook per informarsi delle novità, e sull’algoritmo di Google per sapere cosa é vero, Netflix dice cosa guardare, e gli algoritmi di Amazon e di Alibaba dicono cosa comprare.

In un futuro non così distante, algoritmi simili potrebbero dirci dove lavorare e chi sposare, e anche decidere se assumerci per un lavoro, se concederci un prestito, e se la banca centrale possa aumentarci il tasso di interesse.

E se chiedete perché non vi sia stato concesso un prestito, e perché la banca non vi abbia aumentato il tasso di interesse la risposta sarà sempre la stessa, perché il computer dice no. E finché il limitato cervello umano manca di conoscenza biologica sufficiente, di potere di elaborazione e di dati - gli umani semplicemente non saranno in grado di capire le decisioni del computer.

Così anche in Paesi che si suppongono liberi, gli umani stanno probabilmente perdendo il controllo sulle proprie vite e stanno anche perdendo la capacità di capire la politica pubblica.

Già oggi quanti umani capiscono il sistema finanziario? Forse 1% ad essere molto generosi, In un paio di decenni, il numero di umani capace di capire il sistema finanziario sarà esattamente zero.

Adesso noi umani siamo abituati a considerare la vita come un dramma di decisioni da prendere. Quale sarà il significato della vita umana, quando la maggior parte delle decisioni sarà presa da algoritmi? Non abbiamo nemmeno i modelli filosofici per capire una simile esistenza.

L’abituale rapporto tra filosofi e politici é che i filosofi hanno un sacco di fantasiose idee, e i politici sostanzialmente spiegano che essi mancano dei mezzi per mettere in pratica queste idee. Ora noi siamo in una situazione opposta. Ci troviamo di fronte alla bancarotta filosofica.

Le rivoluzioni gemelle di infotech e biotech mettono a disposizione dei politici i mezzi per creare un paradiso o un inferno, ma i filosofi hanno difficoltà a concettualizzare a cosa possano somigliare il nuovo paradiso ed il nuovo inferno. E questa é una situazione molto pericolosa.

Se non riusciamo a concettualizzare abbastanza velocemente il nuovo paradiso, potremmo essere facilmente ingannati da utopie naïve. E se non riusciamo a concettualizzare abbastanza velocemente il nuovo inferno, potremmo esserne intrappolati senza via di scampo.

Infine, la tecnologia potrebbe sconvolgere non solo la nostra economia, la politica e la filosofia - ma anche la nostra biologia.

Nei prossimi decenni, IA e biotecnologia ci daranno la divina capacità di reingegnerizzare la vita, e persino di creare forme di vita completamente nuove. Dopo quattro miliardi di anni di vita organica plasmata dalla selezione naturale, stiamo per entrare in una nuova era di vita inorganica plasmata da un disegno intelligente.

Il nostro disegno intelligente sta per diventare la nuova forza guida dell’evoluzione della vita e usando i nostri nuovi divini poteri di creazione noi forse commetteremo errori in scala cosmica. In particolare, i governi, le multinazionali e gli eserciti probabilmente useranno la tecnologia per incrementare le attitudini umane utili a loro, come intelligenza e disciplina, mentre trascureranno altre attitudini, come compassione, senso artistico e spiritualità.

Può derivarne una gara tra umani che, molto intelligenti e molto disciplinati, mancano di compassione, di sensibilità artistiche e di profondità spirituale. Questa ovviamente non é una profezia. Queste sono solo possibilità. La tecnologia non é mai deterministica.

Nel XX secolo, si sono usate le medesime tecnologie industriali per costruire società di qualità molto diversa: dittature fasciste, regimi comunisti, democrazie liberali. La stessa cosa accadrà nel XXI secolo.

IA e biotech trasformeranno certamente il mondo, ma possiamo usarle per creare società di qualità differente. E se si ha paura di alcune delle possibilità che ho menzionato, si puó ancora fare qualche cosa al proposito. Ma per fare qualche cosa di concreto c’é bisogno di una cooperazione globale.

Tutte e tre le sfide esistenziali che ci aspettano costituiscono problemi globali che richiedono soluzioni globali.

Ogniqualvolta un leader dice qualcosa come “My Country First” dovremmo ricordare a quel leader che nessuna nazione può prevenire una guerra nucleare o fermare il collasso ecologico da sola, e che nessuna nazione può regolamentare l’IA e la bioingegneria da sola.

Praticamente ogni nazione dirà: “Noi non vogliamo sviluppare robot killer o ingegnerizzare geneticamente neonati umani. Noi siamo brava gente. Ma non possiamo confidare che i nostri rivali non lo facciano. Quindi dobbiamo farlo per primi.

Se accogliamo come corsa agli armamenti lo sviluppo in campi come l’IA e la bioingegneria, perde importanza chi vinca la corsa - a perdere sarà l’umanità.

Sfortunatamente, proprio quando ci sarebbe bisogno di cooperazione globale come mai prima, alcuni dei più potenti leader e Paesi del mondo deliberatamente sottostimano la cooperazione globale. Leader come il presidente degli US ci dicono che esiste una implicita contraddizione tra nazionalismo e globalismo, e che dobbiamo scegliere il nazionalismo e rigettare il globalismo.

Ma é un pericoloso errore. Non c’é contraddizione tra nazionalismo e globalismo. Perché il nazionalismo non comporta l’odiare gli stranieri. Il nazionalismo comporta amare i compatrioti. E nel XXI secolo, per proteggere la sicurezza ed il futuro dei compatrioti, bisogna cooperare con gli stranieri.

Così nel XXI secolo, i buoni nazionalisti devono essere anche globalisti. Globalismo non vuol dire istituire un governo globale, abbandonando tutte le tradizioni nazionali, o aprire i confini ad una immigrazione illimitata. Piuttosto, globalismo significa adesione ad alcune regole globali.

Regole che non si oppongono all’unicità di ciascuna nazione, ma regolano le relazioni tra nazioni.

Un buon modello é la Coppa del Mondo di Calcio.

La Coppa del Mondo é una sfida tra nazioni, e la gente mostra spesso un’incrollabile attaccamento alle proprie squadre nazionali. Ma allo stesso tempo la Coppa del Mondo é anche una notevole dimostrazione di armonia globale. La Francia non potrebbe giocare a calcio contro la Croazia senza che i Francesi ed i Croati concordino sulle stesse regole per la partita. E questo é globalismo in azione.

Se a voi piace la Coppa del Mondo, siete già globalisti.

É auspicabile che le nazioni possano concordare su regole globali non solo per il calcio, ma anche su come prevenire il collasso ecologico, su come regolamentare le tecnologie pericolose, e su come ridurre l’ineguaglianza globale. Come assicurare, ad esempio, che l’IA favorisca i tessitori Messicani e non solo gli ingegneri del software Americani. Questo si dimostrerà ovviamente molto più difficile del calcio, ma non impossibile. Perché l’impossibile, beh noi abbiamo già realizzato l’impossibile.

Noi siamo già usciti dalla violenta giungla nella quale noi umani abbiamo attraversato la storia. Per migliaia di anni, gli umani sono vissuti sotto la legge della giungla in una condizione di guerra onnipresente. La legge della giungla stabiliva che per ogni coppia di nazioni vicine, entrare in guerra tra loro il prossimo anno poteva costituire uno scenario plausibile. Sotto questa legge, pace significa solo “la temporanea assenza di guerra”.

Quando c’era “pace” tra, per dire, Atene e Sparta, o Francia e Germania, significava che al momento essi non erano in guerra, ma l’anno prossimo probabilmente si. E per migliaia di anni, la gente era convinta che fosse impossibile sfuggire a questa legge.

Ma negli ultimi pochi decenni, l’umanità ha agito in modo da ottenere l’impossibile, infrangere la legge, e uscire dalla giungla. Abbiamo costruito un ordine liberale globale basato su regole, che nonostante molte imperfezioni, ha nondimeno creato la più prospera e pacifica era nella storia umana.

Il reale significato della parola “pace” é cambiato.

“Pace” non significa più solo la temporanea assenza di guerra. Pace ora indica la non plausibilità della guerra.

Ci sono molti Paesi, come Francia e Germania, dei quali semplicemente non si può immaginare che l’anno prossimo possano farsi la guerra l’un l’altro. In alcune parti del mondo ci sono ancora guerre. Vengo dal Medio Oriente, perciò credetemi, lo so perfettamente. Ma ciò non può impedirci di vedere la fotografia complessiva.

Ora noi viviamo in un mondo nel quale la guerra uccide meno persone che il suicidio, e dove la polvere da sparo e di gran lunga meno pericolosa per la nostra vita che lo zucchero.

La maggior parte dei Paesi, con alcune notevoli eccezioni come la Russia, non fantasticano nemmeno di conquistare e annettere i loro vicini. Che rappresenta la ragione per la quale la maggior parte dei Paesi può permettersi di spendere, forse, attorno al due per cento del loro PIL per la difesa, mentre spendono molto, molto di più per educazione e assistenza sanitaria.
Questa non é una giungla.

Sfortunatamente, ci siamo talmente abituati a questa magnifica situazione, che la diamo per scontata, e di conseguenza siamo divenuti estremamente imprudenti. Invece di fare tutto ciò che possiamo per rafforzare il fragile ordine globale, alcuni Paesi lo trascurano e lo sottostimano persino deliberatamente.

L’ordine globale é attualmente come una casa dove tutti abitano ma che nessuno ripara. Può resistere per alcuni anni, ma se persistiamo a comportarci a questo modo, collasserà, e ci ritroveremo nella giungla della guerra onnipresente.

Abbiamo dimenticato di cosa si tratta, ma credete a me in quanto storico, non vorreste tornare a quel punto. É molto, molto peggiore di quanto potete immaginare.

Sí, la nostra specie si é evoluta in quella giungla e vi é vissuta e vi ha persino prosperato per migliaia di anni, ma se ci ritorniamo adesso, con le potenti tecnologie del XXI secolo, la nostra specie probabilmente annichilirà se stessa.

Naturalmente, anche se noi ci estinguessimo, non sarebbe la fine del mondo. Qualche cosa ci sopravvivrebbe. Forse i topi prevarrebbero e ricostruirebbero la civilizzazione.
Forse, allora, i topi avranno imparato dai nostri errori.

Ma io spero fortemente che noi possiamo contare sui leader riuniti qui, e non sui topi.