Androidi, Bombe e Sciami: la scienza in piazza senza ombrello

di Paolo Di Marco

Non è possibile scordare l’emozione che ti afferra quando leggi la storia descritta da Braudel; già nella sua prima grande opera, ‘Civiltà e imperi nel mediterraneo all’epoca di Filippo II’ tutto il primo libro è dedicato alla geografia fisica del Mediterraneo, a come questa faceva nascere popoli e abitudini di vita e commerci e rotte. Ma così facendo costruiva anche una sorta di paesaggio di cui questi erano gli elementi costitutivi, i parametri di uno spazio a molte dimensioni lungo cui scorreva la storia, le gole che indirizzavano il percorso obbligato degli accadimenti. Alla fine la politica e le scelte erano il risultato di questo percorso; come succede nei fiumi reali ci sono lanche e punti di svolta legati a piccoli elementi, a inciampi occasionali, ma come in tutte le scelte vere emergono là dove le possibilità si riducono, quando i numerosi parametri liberi si riducono a uno o due.

Con Hiroshima tutto questo finisce.

La potenza distruttiva di una bomba che rade al suolo città intere annulla tutto il paesaggio storico, la sua ricchezza di parametri e determinazioni, lasciando il destino intero dell’uomo alla mercè di un idiota col cappello da cowboy (come ci racconta Kubrick). Certo, i canyon, le cascate, le gole rimangono, ma son diventate diafane e fragili. Le allodole continuano a cantare, ma a volte si interrompono, tengono il fiato sospeso.

La scienza, quel semplice E=mc2 ci ha fatto questo.

In quali altri guai (o promesse) di dimensioni planetarie è implicata?

1- Intelligenza artificiale..e idioti naturali

parte 1: AI

Il 31 Marzo 2023 un gruppo di 350 ricercatori e dirigenti dei principali laboratori di Intelligenza Artificiale (AI) (OpenAI, Google Deepmind, Anthropic e altri) ha pubblicato (NYTimes, 31/3/23) un grido di allarme: chiede una moratoria di 6 mesi sulla ricerca e avvisa che uno sviluppo incontrollato può comportare il rischio di estinzione per l’intera umanità. Questo appello segue di pochi mesi il lancio dirompente di ChatBot, la prima applicazione di AI capace di esprimersi in modo pressochè indistinguibile dagli umani.

-La prima ragione di preoccuparsi sta nel fatto che si è scatenata una gara dove nessuno intende fermarsi a riflettere: i profitti in gioco sono tali che ogni scrupolo è messo da parte. Che alcuni dei protagonisti di questa corsa firmino l’appello mette qualche dubbio..ma per ora soprassediamo.

-la seconda ragione, che nessuno però nomina, è che gli effetti sul lavoro sono già dirompenti: i licenziamenti di massa nelle agenzie giornalistiche e di viaggio tedesche sono solo l’inizio di una valanga che nessuno sa dove finirà, sostitutiva ma anche trasformativa dei lavori standardizzati.

-la terza ragione risiede nel modo stesso in cui queste entità vengono create: sono il risultato finale di un processo di selezione artificiale a catena di reti neurali in cui sopravvivono solo quelle strutture che meglio imitano un determinato modello. La scelta del modello può dare problemi, ma in linea di principio può essere non critica; è il percorso imitativo e di ricombinazione casuale che non è controllabile: se vengono subito in mente quegli studenti che procedono nella carriera senza nuilla comprendere ma per semplice capacità mimetica non va però dimenticato che loro sono sempre umani, con una struttura, un sistema di controllo e reazioni assai complesso e tarato nei millenni, mentre qui tutto questo è assente; quindi nulla ci garantisce che la struttura emergente obbedisca a una logica umana. In altri termini sembra del tutto possibile che si formino entità aliene.

Il successo di ChatBot dipende strettamente dalla quantità enorme di dati sulla cui base è stato creato e su cui si è allenato; nella corsa a migliorarlo-o a superarlo da parte dei concorrenti- come al solito il maggior lavoro viene fatto in economia, appaltato a una miriade di umani sottopagati che per risparmiare..usano l’AI per inventare dati. E questo amplifica il potenziale di autorinforzo di eventuali entità aliene.

Ma se andiamo a vedere più da vicino ci rendiamo conto che in tutto questo c’è un grande assente: l’intelligenza. Il procedimento finale infatti è di una semplicità disarmante: quando noi facciamo una domanda il programma ci risponde con la serie di parole che nei suoi milioni di letture vengono più frequentemente associate alle parole della nostra domanda; quindi è una semplice valutazione di probabilità; con qualche finezza che aumenta la verosimiglianza, tipo non mettere tutte le parole più probabili ma aggiungervi un poco di casualità; o aumentando l’apparente creatività non mettendo subito quelle con probabilità massima ma quelle all’80%. Non solo, ma non c’è alcuna struttura di logica formale che debba venir rispettata, ed anche i conti matematici sono ‘ad orecchio’. E, tanto per rispettare le regole del perbenismo, le domande scabrose vengono censurate. Quindi non ci sono entità intelligenti, nè similumane nè aliene. Qualche burlone nei convegni accusa l’AI di perdita di umanità essendo basata, come tutti i calcolatori, sulla codificazione binaria. È come sentire Flaubert lamentarsi che la stampa dei suoi libri fosse svilita dai caratteri di piombo, o forse non si è accorta che tutto il Beethoven che ascolta è registrato nello stesso modo; e in ogni caso il problema non sta qui: c’è un fondamentale teorema di Shannon che ci garantisce che è sempre possibile codificare un segnale in modo indistinguibile dall’originale.

-la quarta ma principale preoccupazione è la possibile integrazione di queste entità con quelle AI minori che vengono già utilizzate per motivi militari o di sicurezza interna -come i riconoscimenti facciali oggi diffusi in molti quartieri cittadini. Queste AI nascono, vuoi volutamente vuoi per presupposti nascosti dei programmatori, con già delle deformazioni (bias) implicite, che possiamo esemplificare molto rozzamente: nero->violento, arabo->terrorista.. già riscontrate negli USA; come poco si dice dei criteri di controllo dei missili nucleari, che sempre più hanno bisogno di sistemi avanzati e veloci, quindi per antonomasia AI; forse si potrà evitare l’errore della base aerea di Thule del ’60, quando il sorgere della luna venne interpretato come un lancio di missili sovietici, ma forse anche sarà ridotto l’intervento umano, e non ci sarà più un colonnelo Petrov a fermare all’ultimo minuto, come nell’83, un lancio di risposta a quello che il sistema informatico aveva deciso fosse un attacco americano.

L’elemento chiave di una inevitabile integrazione futura di tutti questi sistemi sarà da un lato la riduzione del controllo umano e dall’altro la crescente autonomia- del sistema integrato delle AI. Un’integrazione pericolosa perchè avviene non sulla base di una qualche logica ma solo come integrazione di convenienza e spesso casuale. Con risultati di controllabilità e stabilità imprevedibili.

parte2: sciami

uccelli copia

Molti anni fa c’era un programma che i bambini curiosi usavano per costruire le prime simulazioni, il Logo, oggi cresciuto diventando NetLogo ma sempre basato sullo stesso semplice principio (non è casuale la somiglianza del nome con Lego): si prendono tanti elementi semplici (dei quadratini che vengono chiamati tartarughine) e gli si danno delle regole di comportamento elementari per quando si incontrano con gli altri. Quello che vien fuori è inaspettato e straordinario: viene simulato con estrema precisione il comportamento di un formicaio, la propagazione di un’epidemia, il volo di uno stormo; è anche un modo per dimostrare che uno sciame non ha bisogno di misteriose proprietà di comunicazione e coordinazione per comportarsi come un organismo unico, ma bastano poche regole di interazione locale. È un esempio di un elemento matematico importante, le proprietà emergenti di un sistema: quei comportamenti che non sono programmati esplicitamente dall’insieme di regole che lo definiscono ma che si manifestano autonomamente, imprevisti.

Col Netlogo vediamo le stesse cose che Parisi ha studiato dal vivo, e i due si confermano a vicenda. Quella che sembra o anche è intelligenza di un organismo collettivo-non distinguiamo cose che si manifestano nello stesso modo- (diceva Wheeler, che con eccessiva coerenza ipotizzava che tutti gli elettroni fossero lo stesso, che saltava come un pazzo avanti e indietro nel tempo e nello spazio) è quindi una proprietà emergente di elementi e regole semplici.

Possiamo anche fare un ragionamento analogo all’incontrario: se pensiamo al nostro atteggiamento rispetto all’AI, equivalente a mettere un bebè alla guida di un bombardiere, lo possiamo immaginare come comportamento emergente, stavolta non intelligente ma idiota, generato da una semplice regola che tutti gli indizi portano ad individuare nella legge del massimo profitto.

2- la bomba e il problema dei tre corpi

C’era quasi impazzito Newton..poi aveva lasciato perdere: dopo aver descritto brillantemente il moto della Terra e del Sole, se ci aggiungeva la Luna, non riusciva a trovare soluzioni; l’aveva poi capito Poincarè (e lo sa chi mi segue regolarmente): con tre corpi o tre parametri un sistema molto spesso diventa caotico. Più o meno imprevedibile (a seconda del suo coefficiente di Ljapunov) ma sempre impossibile da calcolare esattamente; e con esiti talvolta catastrofici (un brusco cambiamento di stato quando uno meno se l’aspetta).

È questa la situazione che si trovano davanti gli strateghi mondiali della guerra: fino ad ora c’erano due grandi potenze nucleari, USA e Russia, con migliaia di testate ciascuna, e un numero ridotto di piccole potenze -India, Pakistan, Cina, Israele, Nord Corea, Francia e Inghilterra munite da poche unità a 300 testate; una situazione sostanzialmente controllabile.

Ma recentemente la Cina ha annunciato che tra breve aumenterà il proprio arsenale di 1500 testate, portando a tre il numero delle grandi potenze.

E a questo punto gli strateghi si trovano nei guai, trovandosi di fronte una situazione potenzialmente caotica; e l’imprevedibilità in questo campo è particolarmente pericolosa. La prima reazione di alcuni bulli americani è stata di minacciare un aumento anche del proprio arsenale -subito smentiti dal DOD che probabilmente ha capito che questa è una strada che porta ad una soluzione sicura: annichilimento rapido e totale.

Ma l’imprevibilità intrinseca nella situazione rende tutti più nervosi, e aumenta il rischio che i possibili incidenti, finora evitati una dozzina di volte, diventino esplosivi.

Un altro elemento di nervosismo è il fatto che dal punto di vista tecnologico si era arrivati ad una situazione di stallo, dove si poteva contare su un tempo di avvistamento sufficiente per prendere le contromisure-da entrambe le parti. Ma i soliti guastafeste cinesi hanno messo in crisi anche questo equilibrio, sviluppando un vettore ipersonico ad orbita parziale-una sorta di aliante che può scendere dal livello orbitale e risalire, rendendo imprevedibile il momento di uscita dall’orbita e riducendo quindi i tempi di avvistamento.

3- un po’ di guerra batteriologica

a) la guerra batteriologica

Sono passati solo 160 anni da quando Pasteur scoprì i microbi e il loro ruolo nelle malattie. Ma la guerra batteriologica è forse più vecchia: si narra di carogne con la peste lanciate al di là delle mura di città assediate, si sa delle coperte infettate dal vaiolo regalate agli indiani d’America dai gentili coloni inglesi; è solo l’inizio di un percorso che si perfeziona con cognizione di causa dopo Pasteur e viene applicato su larga scala dopo la Grande Guerra, dove ci si era limitati alle armi chimiche. I giapponesi in Cina, gli americani in Corea fanno, in segreto, esperimenti di massa sui nemici. Dopo la seconda guerra mondiale si moltiplicano i laboratori e i paesi che sperimentano, si arriva a generare microrganismi con una mortalità superiore al 50%.

Una guerra fatta coi microrganismi (batteri o virus) richiede quattro fasi: in laboratorio si parte da un microorganismo noto e altamente infettivo e lo si modifica in modo da ottimizzarne l’attacco all’uomo; poi si prepara un vaccino da somministrare alle proprie truppe; quindi si sparge il microorganismo sul territotio o tra le truppe nemiche e quando ha fatto effetto si mandano le proprie truppe vaccinate sul terreno. La parte pericolosa per chi costruisce i microorganismi assassini è quando non c’è ancora il vaccino, per cui una fuga casuale dei microorganismi andrebbe a colpire il proprio territorio. Ovviamente la cosa si è verificata ripetutamente (qualche episodio ogni anno), talvolta contenta per un filo, talaltra con migliaia di vittime (Russia, un campione lasciato incustodito in frigo), altre volte con vittime mirate (USA, antrace spedito ai senatori democratici). Finchè i pericoli hanno spinto a produrre un trattato internazionale che ha proibito queste ricerche.

Come spesso succede il trattato è servito solo a mettere sotto controllo i piccoli paesi, mentre il Grande Paese cambiava pudicamente il nome della ricerca: da guerra batteriologica ad inserimento di nuove funzioni (gain-of-function) ma contemporaneamente estendeva all’estero il numero di laboratori controllati, che ora sono dell’ordine dei 50. Fino all’anno scorso il finanziamento era fatto indirettamente: da Fauci alla EcoHealthOrganization di Peter Daszak e da questi ai diversi laboratori.

b) una piccola pandemia

Wuhan era uno di questi laboratori (finanziato dalla CDC fino a Giugno del ’22). E nonostante il parere non sia unanime (la CIA si astiene ancora, altri sono contrari) FBI e Dipartimento dell’Energia sono convinti che il Covid venga dal laboratorio di Wuhan, e le prove a favore di questa ipotesi sono schiaccianti. Il ragionamento (v. in particolare l’articolo sul NYTimes di Zeynep Tufekcı) ricalca sostanzialmente quello presentato 3 anni fa da Wade sul Bulletin of the Atomic Scientists: l’epidemia ha l’epicentro a Wuhan, la stessa città dove si fanno ricerche su un virus dei pipistrelli che è un progenitore del SARS Covid; non si trovano animali che possano aver fatto da ponte dai pipistrelli (peraltro i più vicini a centinaia di Km) verso l’uomo (e ancora adesso non ci sono: han trovato animali anche loro infetti, ma nessuno osa stabilire un rapporto causale-sarebbe come dire che visto che mia madre fuma e i camini fumano allora mia madre è un camino); quindi la probabilità che il virus venga dal laboratorio è altissima; si aggiungano 4 elementi:

-al virus SARS è stato aggiunto artificialmente un pezzo per renderlo più efficace verso l’uomo (è stata desecretata il mese scorso la lettera in cui Daszak chiedeva al DOD (Ministero della Difesa) il permesso di inserire nel virus un elemento -il furin cleavage site, l’elemento centrale della proteina spike che rende il virus trasmissibile nell’uomo)

-3 ricercatori del laboratorio si sono ammalati con sintomi respiratori nell’Agosto/Settembre ’19

-Si è appurato che il virus veniva maneggiato con livello di sicurezza 2 invece di 4

-Emerge anche l’ipotesi che la rapidità con cui sono stati costruiti i vaccini (poi anche prodotti, ma questo è un passo ulteriore reso possibile dal primo) dipenda al fatto che fosse già in elaborazione la quarta fase, cioè la progettazione del vaccino per le proprie truppe, accelerando il processo di ingegnerizzazione a partire dalla struttura molecolare.

Rispetto ai dati bruti sulla mortalità mi viene difficile pensare che tutti i paesi del mondo abbiano falsificato le proprie statistiche sulle morti, e preferisco prendere per buone le stime del Bulletin of the Atomic Scientists che indica un totale di morti compreso tra 6,7M e 28,1 M; meno dell’HIV/AIDS (40 M) e dell’influenza del ’18 (40-50M..a proposito, anche si si chiama spagnola l’origine sono gli USA) ma più dell’influenza asiatica del ’58 (da 1 a 4 M).

Stupisce molto che tutto il dibattito sulla pandemia sia girato intorno a maschere o nomask, vaccini e complottini senza vedere l’elefante che occupava tutta la stanza, l’esistenza e la prova di esercizi di guerra batteriologica. Credo che, come nel caso dell’AI, non ci stiamo facendo una bella figura. E mi auguro che degli altri 49 laboratori finanziati dagli USA non se ne parli per un po’.

4-Clima e ancora caos

Dai tempi della farfalla di Lorenz sappiamo che il clima è un sistema caotico: Lorenz aveva scritto un sistema di equazioni con 3 variabili, e già lì si poteva vedere il caos (‘il battito d’ali di una farfalla nel golfo del Tonchino produce dopo 3 giorni un tornado in Messico’); ma ormai il numero di variabili che possiamo misurare e prendere in considerazione è dell’ordine delle decine..e il caos quindi è sempre dietro l’angolo. Quello che val la pena di aggiungere è che col riscaldamento globale (ormai senza freni e orientato a +2° entro il decennio) aumenta anche l’energia globale: il mare e la terra assorbono calore che trasmettono all’aria che trasmette ai venti…e aumenta anche il caos;

detto in maniera un poco tecnica: visto che la caoticità è misurata dai numeri di Ljapunov (che ci dicono quanto divergono le orbite successive del sistema) e che da questi deriva l’entropia, possiamo anche dedurne che aumenta l’entropia globale.

Una delle tante consguenze empiriche è che non possiamo aspettarci fenomeni uniformi, ma temperature, venti, pioggie e compagnia bella saranno assai più irregolari sia in sè che nella distribuzione nel tempo e nello spazio.

In modo ancora più controintuitivo di quello che vediamo ora, con l’Artico che ha i massimi livelli di aumento (+9°) ma anche le montagne che si scaldano in proporzione più delle pianure….

5- il cuore della guerra

a) l’informazione come potere

Recentemente il NYTimes analizzava il cambiamento di tattica delle truppe russe, e intervistava un soldato ucraino che aveva respinto quasi da solo un attacco alla propria trincea: questi sottolineava che rispetto alla tattica di forza bruta precedente gli attacchi russi ora erano molto più complessi e raffinati..ma non era ancora sufficiente: mancavano loro informazioni essenziali (tipo dov’era esattamente la trincea). Quello che veniva sottaciuto con cura era che invece gli ucraini di queste informazioni avevano abbondanza, grazie alle centinaia di satelliti spia americani (ed europei) che permettevano loro di sapere con esattezza anche il tipo di scarpe delle truppe russe, i loro rifornimenti esatti, i movimenti che avrebbero fatto nelle prossime ore.

E questo non vale solo per l’Ucraina, ma avviene in tutto il mondo. Dalle informazioni militari a quelle commerciali, dai programmi di riconoscimento facciale alle transazioni monetarie alle reti social.

L’elemento spesso trascurato è che non conta solo la quantità di informazione raccolta e neppure il grado di elaborazione che sono in grado di fare; conta anche tutta l’informazione negativa -la disinformazione- che l’accompagna. La campagna di Ucraina è stata in parte non piccola basata su questa, con i grandi organi di trasmissione dell’informazione scritta e parlata schierati anch’essi come carri armati; e la pressione su popolazioni, governi e parlamenti funzionale non solo al consenso ma alla creazione di una macchina bellica produttiva e distributiva che ha pochi precedenti se non nei filmati dell’Inghilterra di Churchill.

Anche la formazione di tribù sempre più separate ed autocertificanti non è possibile senza una gestione accurata di informazione positiva e negativa; un processo che una volta si chiamava divide et impera.

Una volta si pensava alle crisi e al caos come incubatori di rivoluzione, oggi l’aumento della frammentazione e dell’entropia lavorano per rendere più stabile il potere dato.

Ma il problema è solo spostato: come abbiamo visto all’inizio parlando dell’AI, e la sua integrazione con gli apparati bellici rinforza l’argomento, c’è un binomio di caos e alienità che si espande nei centri vitali della gestione del potere; e il sogno dell’equilibrio e del dominio assoluto si rivela chimera.

Detto in termini matematici: una volta presi nell’attrattore caotico si è obbligati a seguire una delle sue traiettorie. E si salvi chi può.

Tempo fa parlavamo su queste pagine (Exodus) del fatto che questo esito è ben chiaro agli uomini più potenti del pianeta, i gestori dei fondi di investimento, e che la loro domanda alla scienza era una sola: e io come me la cavo dopo?

b) una modesta proposta

Noi piuttosto faremmo una modesta proposta: concentrare tutte le risorse nella costruzione di una macchina del tempo che vada ad estirpare il virus maligno, lo stesso che ha generato l’idiozia collettiva: nei tempi moderni il profitto, nei tempi antichi il denaro stesso, ancora prima, suggerisce Graeber, quel primo germe che fu la schiavitù nata dalle razzie.

E se proprio non riusciamo a costruire la macchina e non vogliamo rassegnarci ci tocca darsi da fare per abolire questo virus qui ed ora. Chè tanto le forze produttive necessarie per andare avanti senza e per ricostruire il giardino dell’Eden ci sono tutte.

Il guaio è che anche tolto il germe il caos non se ne va da un giorno all’altro, anzi.

Servono due strumenti: il primo non è semplice ma possibile, una grande matrice input/output di Leontiev che abbia come ingresso i dati dell’economia produttiva attuale e come uscita i dati del nuovo mondo: non necessariamente frugale ma privo di denaro e compatibile con le risorse e gli equilibri del pianeta. Questa matrice contiene tutti i dati (incluse le tappe intermedie) per la transizione. Qualche semplice calcolo ci mostra che è una trasformazione robusta, ovvero che ha molti margini di successo; una misura indicativa è data dall’altissimo rapporto tra capitale finanziario e capitale produttivo (dell’ordine di 10n a 1, con n stimato tra 1,5 e 3) che ci dice anche l’eccesso di risorse prodotte dal lavoro; e quindi anche la riduzione possibile del tempo di lavoro individuale (dell’ordine dell’inverso del rapporto precedente).

Il secondo è più difficile, la gestione della transizione: evitare che succeda come nella Russia che in pochi anni perde il 90% della propria ricchezza col resto concentrato nelle mani di bande armate che si chiameranno oligarchi non è compito facile.

E non ho dimenticato che per una transizione ci vuole anche un inizio…ma per quello lasciamo fare al caos.

fCondividi

Whatsapp