Esattamente, perché falliranno? (terza parte più "umana")

L'ultima volta (QUI) mi sono occupato dell'aspetto più tecnico, toccando come non vi sia consapevolezza dei limiti della infrastruttura, parolina magica che mai viene evocata perché svela l'arcano con cui prima o poi dovremo fare i conti a prescindere dalla velocità e dalla potenza di calcolo che illusoriamente fanno sperare in applicazioni della demenza artificiale che non soddisferanno i requisiti. Non lo stanno facendo nemmeno adesso, tant'è che di recente FB è stata costretta a chiedere agli utenti (QUI) di auto-monitorare le attività "non main-stream" del suo famigerato canale (alla faccia dell'efficienza superiore della I.A. che doveva dare un apparenza di migliore democrazia) ne più e ne meno che al tempo del fascio con i metodi di classica repressione omertosa costruita sul timore della vendetta, ma questo è un discorso troppo lungo che esula dalle intenzioni della presente.

Vi sono infatti aspetti apertamente non "tecnici" ma più di buon senso e alla portata di tutti che andrebbero considerati. Ne ho trattati diversi, come ad esempio il limite che una macchina non può provvedere alle necessità umane perché è una macchina e se l'esperienza è alla base dell'apprendimento, l'esperienza di una macchina non può in alcun modo contribuire all'evoluzione di quella biologica. Ma c'è ne una anche peggiore: nella piramide del comando, se la cuspide rappresenta ciò che dirama istruzioni che poi devono essere eseguite dall'intera infrastruttura, un po' come per il rapporto tra cervello e muscoli del corpo, qualsiasi cambiamento alla base non può che ripercuotersi interamente al vertice. L'illusione che vi possa essere una qualche barriera che impedisca alle condizioni della base di risalire fino al cervello, è la tentazione di chi, separando il cervello dal corpo, spera e crede di poter avanzare senza la base o comunque con una base che non condizioni il vertice. Che non è una assurdità ma una contraddizione in termini, è come volere far camminare una rapa: anche solo determinare il "perché" uno dovrebbe volerlo non ha senso.

Ma come tento di spiegare da anni in questo canale, l'emozione non ha un senso logico aristotelico diretto tra un comportamento e un pensiero, ha un senso logico emotivo che dipende appunto dal modo in cui funziona, dalla sua infrastruttura, che interpone qualcosa e fa in modo che tra pensiero e azione vi sia sempre una relazione indiretta (oltre che come ho aggiunto tante volte controintuitiva). Per ciò se desidero il contrario di ciò che vorrei ottenere, non è un paradosso emotivamente parlando. Se ad esempio vorrei "risolvere" un contenzioso, prendendo a testate il mio interlocutore, posso ottenere certamente molti risultati emotivamente appaganti (riuscendo bene nell'impresa) tranne che risolvere il contenzioso e questa è semplicemente una delle poche certezze che l'esperienza ci rimanda, una constatazione che ci lascia senza possibilità di cambiare le condizioni in essere. Il massimo che possiamo fare è smettere di pensare che prendere a testate il nostro interlocutore sia un opzione sensata, andando in netto contrasto con il sistema emotivo (=desiderio) che ci spinge in quella direzione.

Ma l'attuale "logica del caos" (su cui magari ci torneremo in un altro post) illude (confondendo) che sia possibile ottenere in concreto l'impossibile di risolvere il paradosso di isolare la cupola dalla base, tanto bene che la cupola potrà "per sempre" sfruttare senza remore la base e non pagarne alcuno scotto sui fondamentali che difende. Ad esempio eludere uno dei principi basilari del comando grazie agli straordinari vantaggi del transumanesimo. A poco valgono gli avvertimenti saggi se raggiungono le orecchie di arrivisti, speculatori e avventurieri che ascoltano solo le sirene dell'iperuranio svincolate dal mondo della materia. Ma veniamo al dunque.

Esiste un paradosso che da sempre regola il rapporto "spirituale" più profondo tra la base di una società e i suoi vertici. Possiamo dargli il nome di "paradosso del comando" ed è esattamente il motivo per cui alla fine saremo costretti a considerare la vita qualcosa di separato dal mondo della materia e quindi tutto ciò che "sembra" vita, perché la simula al punto da confondersi con essa, da ciò che invece è la vita. Non dirò in questa sede quale è il legame che vincola le due prospettive, perché le considero una sola medaglia e questa è una delle due facce.

Questo paradosso è in poche parole: istruire un ordine che se eseguito produce l'esatto contrario di ciò che intende ottenere. Ad esempio per assurdo, do l'ordine di "eliminare" qualcuno che se ucciso diventa infinitamente più "vivo" (nel senso di "presente") insidioso e forte di prima rispetto i miei piani (un esempio un po' sui generis di fantasia di questo paradosso lo vediamo in Guerre Stellari quando Obi-Wan Kenobi dopo che viene ucciso dal suo ex padawan Anakin Skywalker divenuto Darth Vader, torna a influenzare il destino di Luke in sembianze di spettro).

Una macchina non può "sapere" che l'ordine che riceve è assurdo e quindi fermarsi e riprogrammarlo per ottenere invece che la sua mera esecuzione, il raggiungimento dell'obbiettivo, decidendo quindi altrimenti, perché ci vorrebbe un tipo di inferenza esterna al sistema fisico in esame, qualcosa che lo attraversa interagendo debolmente ma in modo determinante. Ma se anche riuscissimo a ottenere una tale performance, avremo un altro paradosso: l'unica ragione per cui la macchina è preferita all'uomo è che esegue gli ordini senza discutere. Tutto il resto (ad esempio la diversa "forza bruta") si può compensare perché qui non si sta confrontato "il fisico" ma il pensiero.

Un Mondo, quello del pensiero, di cui non abbiamo controllo e nemmeno sappiamo bene cosa sia.