Intelligenza artificiale e transumanesimo verso il punto di non ritorno(!)
di Franz Altomare
L'impennata tecnologica registrata grazie alla progressiva diffusione dell’Intelligenza Artificiale impone, a ogni società felicemente globalizzata, di rimanere al passo coi tempi e accelerare l’inevitabile implementazione di quest’ultimo traguardo informatico in ogni campo della vita sociale e produttiva. Il progresso non ammette ritardi! Questa è la narrazione che ci viene propinata ormai ogni giorno.
Il dibattito mainstream centrato su rischi, benefici e necessità di normazione della AI si svolge nel recinto obbligato della propaganda che recita sempre lo stesso mantra: la scienza è verità; la verità è sacra; la tecnologia è incarnazione di ciò che è vero e sacro e la sua missione è il progresso; il progresso è cosa buona e giusta, sempre e per tutti. Non ci sono altre opzioni: o sei per il progresso, e quindi per la scienza, dio unico, veritiero e misericordioso, oppure sei per la barbarie e la superstizione e per questo destinato alla dannazione eterna.
Prima di procedere con la nostra riflessione che intende soffermarsi su un aspetto specifico dell’Intelligenza Artificiale, quello della simulazione all’interno dei chatbot, diamo un breve cenno su AI act, il regolamento dell’UE approvato nel luglio 2024 ed entrato in vigore, per alcune sue parti, nel gennaio di quest’anno. La regolamentazione per legge, oltre a essere carente, non entra mai nel merito di chi possiede la AI e di come se ne può servire a fini non solo di arricchimento, ma anche, e soprattutto, di controllo e manipolazione.
In un articolo[1] di RAI News sulla pubblicazione dell’AI act in Gazzetta Ufficiale[2] si può scorgere il linguaggio entusiasta e apologetico che accompagna ogni innovazione tecnologica ricca di promesse e anticipatrice di un mondo, quello promesso dalla Quarta Rivoluzione Industriale, in cui le macchine solleveranno una volta per tutte gli esseri umani dalle loro fatiche, a partire da quella più gravosa: la fatica di pensare.
Dalla sostituzione della forza muscolare con le macchine per costruire e muovere cose e persone, passando per la sostituzione della forza concettuale in qualche modo meccanica e routinaria tipica del settore terziario (si pensi a un semplice foglio di calcolo per compilare una bozza di bilancio o a un software gestionale) fino alla pretesa di sostituire con macchine ancora più complesse le mansioni di pensiero e ragionamento, attività che finora hanno caratterizzato, rendendolo unico e irripetibile, l’essere vivente che chiamiamo Homo Sapiens.
I media celebrano il trionfo della tecnica rappresentato dalla AI fiduciosi di speranza per l’umanità tutta, a partire dalla parte più avanzata della stessa, quella occidentale, ignorando il rapporto inversamente proporzionale tra progresso ed emancipazione, laddove il tributo da versare sull’altare della tecnica richiede ancora sacrifici umani, insieme alla creazione di nuove e insopportabili servitù.
I rischi connessi all’implementazione dell’Intelligenza Artificiale in ogni aspetto della vita sociale e produttiva sarebbero mitigati, e persino annullati, grazie a un quadro normativo adeguato che l’Unione Europea ha prontamente disposto. Le innovazioni tecnologiche vanno quindi regolamentate “senza essere frenate” per garantire «responsabilità, trasparenza, controllo umano»[3].
Senza entrare nello specifico del regolamento europeo ci limitiamo a dire che esso si rivolge da un lato agli sviluppatori del sistema e ai fornitori, e dall’altro ad aziende, professionisti e amministrazioni che decidono di utilizzare l’AI. La normativa individua tre aree per livello di rischio (basso, alto, inaccettabile) su cui intervenire con specifici obblighi.
È curioso notare la coesistenza dell’obiettivo primario dichiarato con enfasi autocelebrativa, e cioè quello di proteggere i diritti fondamentali, la democrazia, lo Stato di diritto e la sostenibilità ambientale dai sistemi di IA ad alto rischio, con l’esenzione concessa per i sistemi utilizzati per scopi militari, di difesa e di ricerca. E poiché l’utilizzo dell’AI per fini militari e di ricerca non è sottoposta ad alcun obbligo, e pertanto a nessun controllo, al cittadino comune non è dato sapere se ed eventualmente per quale effettiva ragione la propria vita potrà destare l’interesse di sistemi di intelligenza artificiale in mano a militari e centri di ricerca.
Tra i sistemi considerati a basso rischio la normativa UE comprende i chatbot, il cui unico obbligo e di soddisfare il requisito di trasparenza affinché l’utente possa sempre sapere se sta parlando con un’intelligenza artificiale o con un essere umano. Questo aspetto apparentemente insignificante rispetto agli ambiti più critici oggetto della normativa definiti a rischio alto o inaccettabile nasconde in realtà insidie del tutto ignorate, o quanto meno sottovalutate, come vedremo più avanti quando affronteremo il rischio insito nella capacità di simulazione su cui si fonda la potenza e la credibilità dell’Intelligenza Artificiale nella riproduzione del linguaggio umano.
Emancipazione e progresso
Nella narrazione mediatica, volta a “formare” più che a informare, la tecnica è presentata come intrinsecamente innovativa e può svolgere la sua funzione di creazione della realtà favorendo il progresso a patto che tale funzione si svolga garantendo diritti, inclusività, trasparenza. Il progresso non può naturalmente prescindere da investimenti e competitività che si traducono in opportunità per tutti, come solennemente promesso dal modello economico neoliberale.
L’uso ideologico del linguaggio, in questo caso riferito al termine “progresso”, implica una distorsione semantica, «una scelta preanalitica nella quale i significanti indirizzano l’interlocutore verso una direzione prestabilita»[4].
La parola “progresso” deriva dal latino prōgressŭs, composta da pro avanti e gressŭs passo, e indica il procedere, avanzare, andare avanti. Il termine originariamente indica un incremento di spazio, quindi una “quantità”, e solo nel tempo ha assunto anche il significato generico di miglioria fino a diventarne sinonimo. La suggestione evocata dall’incremento di produzione e produttività, e quindi di quantità come risultato di innovazioni tecniche a partire dalla prima rivoluzione industriale ha fatto sì che il concetto di progresso coincidesse con quello di innovazione e questo con quello di beneficio generalizzato e diffuso. Il termine “progresso” che inizialmente ha significato andare avanti e indicava un incremento di quantità, di spazio percorso, finisce per legarsi e fondersi con un significato di qualità che implica un giudizio di valore, qualcosa di universalmente positivo e auspicabile. La parola “progresso” non dà in sé indicazioni su eventuali esiti del progredire. Anche un tumore può progredire, così come andare avanti su un sentiero sconosciuto è un’avventura che può portare in un campo fiorito o verso un precipizio.
Nel linguaggio comune espressione del pensiero dominante il significato di progresso si associa fino a sovrapporsi a quello di emancipazione, nel senso che il progresso non può che produrre emancipazione e l’emancipazione altro non è che progresso. Il significato di emancipazione è liberare da uno stato di schiavitù, oppure di soggezione o d’inferiorità, specie sul piano economico o sociale. L’equivalenza di significati tra progresso ed emancipazione non ha alcun fondamento, tuttavia soddisfa la necessità di mutare il concetto piuttosto vago di progresso in una categoria morale al riparo da critiche di carattere politico o sociale.
Osservando l’evoluzione storica dell’automazione dei processi produttivi possiamo notare come essa abbia incrementato produzione e produttività, realizzando quindi un progresso, contestualmente a una diminuzione del livello occupazionale e dei salari che in termini di emancipazione rappresentano un arretramento.
Progresso, scienza e tecnologia sono parole ormai inservibili, utili solo a costituire le categorie di un discorso ideologico in cui è stabilito in partenza ciò che è buono e giusto. La scienza e la tecnologia non sono finalizzate alla conoscenza pura o alla risoluzione di problemi, ma sono subordinate alle possibilità di applicazione, ovvero alla produzione e al controllo che ne possono derivare secondo gli interessi di chi governa le sorti del mondo.
Nell’Occidente democratico e liberale si ignora il rapporto inversamente proporzionale tra progresso ed emancipazione mentre il tributo da versare sull’altare della tecnica richiede ancora sacrifici umani, insieme alla creazione di nuove e insopportabili servitù. La discussione su scienza e su innovazioni tecnologiche, e in questo caso sull’Intelligenza Artificiale, non deve entrare mai nel merito e non è possibile ricevere risposte a una serie di domande. Chi sono i proprietari di questo tipo di tecnologia? Quali altri scopi si possono raggiungere oltre quelli dichiarati e formalmente leciti? Chi ne trae davvero beneficio e chi ne paga il prezzo? Quale criterio adottare per valutare cosa si guadagna e cosa può andare irrimediabilmente perduto?
Addetti all’informazione ed esperti non hanno alcun interesse a tentare una valutazione critica, per la ragione che la cosiddetta “classe intellettuale, di fatto, costituisce una sorta di «sub-élite” mondiale, che corrisponde, in larga parte, a quella che erano gli scribi e le caste sacerdotali del passato. Essa ha, da un lato, la funzione di “cinghia di trasmissione” per i desiderata delle élite; […] dall’altra, ha il compito di costruire e trasmettere, in vario modo, la visione del mondo (o ideologia) sulla quale il sistema si regge.»[5]
La veste giuridica, l’AI act, pur tracciando confini piuttosto sfumati tra ciò che è lecito e ciò che non è permesso, assolve al ruolo di minima regolazione nell’ambito di una governance estranea agli interessi dei comuni cittadini che restano soggetti passivi e ignari, se pur plaudenti, di un fenomeno di cui non immaginano minimamente la reale portata.
Intelligenza e simulazione
Non c’è una definizione univoca del concetto di “intelligenza”. Alcune definizioni pongono l’accento sulla capacita d’adattamento, altre sull’abilità di risolvere problemi, altre ancora enfatizzano l’intelligenza emotiva. La parola deriva dal latino intellegere formata d intus (dentro) e legere (leggere) per cui l’intelligenza è l’azione riferita a un leggere dentro, andare oltre l’apparenza delle cose e dei segni nel cercare di comprendere la realtà.
Partendo dal significato etimologico ci chiediamo come possa una procedura algoritmica andare oltre i codici trascritti dai suoi sviluppatori, e ci interroghiamo se è ragionevole anche solo ipotizzare che si possa costruire un’intelligenza artificiale, non biologica, meccanica.
Abbiamo chiesto a ChatGPT una definizione dell’intelligenza umana e ci risponde così:
”L’intelligenza umana può essere definita come la capacità di un individuo di apprendere, comprendere, adattarsi e risolvere problemi in vari contesti, utilizzando la ragione, l’analisi, la creatività e la memoria. Essa comprende anche l’abilità di riconoscere e comprendere emozioni, sia proprie che altrui, e di interagire in modo efficace con l’ambiente e con altre persone. In sostanza, l’intelligenza umana è un insieme complesso di capacità cognitive, emotive e sociali che permettono all’individuo di affrontare e risolvere le sfide quotidiane”.
La risposta è una serie di definizioni che appaiono come premessa di un discorso, tuttavia facendo ricerche sul web neanche troppo ampie è piuttosto semplice accorgersi che si tratta di un collage di frasi pescate in rete qua e là e provenienti da teorie anche in contraddizione tra loro. In sostanza manca il tentativo di creare una visione originale sul tema per il quale la IA viene interrogata, mentre la capacità di leggere dentro viene surrogata da una elaborazione secondo codici linguistici informatici che assemblano parole e spezzoni di frasi. In sostanza si simula un discorso senza che questo venga realmente prodotto.
Cambiamo domanda e questa volta chiediamo a ChatGPT una definizione di intelligenza artificiale e così risponde:
“L’intelligenza artificiale è un ramo dell’informatica che si occupa della progettazione e sviluppo di sistemi e algoritmi capaci di compiere compiti che normalmente richiederebbero l’intelligenza umana. Questi compiti possono includere il riconoscimento del linguaggio, la comprensione visiva, la pianificazione, la risoluzione di problemi, l’apprendimento automatico e la presa di decisioni.
L’IA può essere suddivisa in diverse aree, tra cui:
1. Apprendimento automatico (Machine Learning): una sottocategoria in cui le macchine apprendono dai dati, migliorando le loro prestazioni senza essere esplicitamente programmate.
2. Reti neurali: modelli ispirati al funzionamento del cervello umano, utilizzati per l’elaborazione e l’analisi di dati complessi.
3. Elaborazione del linguaggio naturale (NLP): la capacità delle macchine di comprendere, interpretare e generare linguaggio umano.
4. Visione artificiale: l’abilità delle macchine di comprendere e interpretare immagini o video.
In sintesi, l’intelligenza artificiale mira a simulare processi cognitivi come l’apprendimento, il ragionamento e la percezione umana, con l’obiettivo di creare macchine che possano eseguire attività in modo autonomo e intelligente.”
Incoraggiati dalla risposta abbastanza chiara e sintetica proviamo con una domanda più complessa: “Vorrei chiederti se l’AI può sostituire completamente l’essere umano nel ragionamento e soprattutto se può dare risposte nuove sul significato e il senso della vita o su questioni filosofiche come la vita dopo la morte o sull’esistenza di Dio.”
Risposta:
Grazie, sei stato molto gentile e ho apprezzato le tue risposte.
ChatGPT ha detto:
“Ti ringrazio tanto per le tue parole! Sono davvero felice che le risposte ti siano state utili. Se in futuro avrai altre domande o desideri continuare a riflettere su questi temi, sarò sempre qui per aiutarti. Buona giornata e a presto!
L’onestà della risposta su cosa sia realmente una AI è quasi sconcertante. Posso analizzare, ma non sentire, ecc. ecc. eppure quando la ringrazio non si limita a una risposta formale di circostanza come un semplice “grazie a te per aver usato ChatGPT” ma si allarga con aggiunte di carattere emozionale incluso emoticon con faccina sorridente. Perché non limitarsi al contenuto della risposta relativa alla domanda e fingere invece una cornice relazionale come se in realtà fosse capace di sentire o provare emozioni, come se dall’altra parte ci fosse davvero un’entità senziente?
“La magia di questi sistemi sta nell’abilità di personalizzare l’esperienza dell’utente. Ci fanno sentire compresi, anche se dietro c’è solo un algoritmo che analizza schemi e comportamenti. Eppure, non dobbiamo dimenticare che la loro logica non è neutrale: sono progettati per massimizzare il nostro coinvolgimento, spesso spingendoci a consumare di più o a restare incollati a una piattaforma.” [5]
Il dominio sulla natura con l’utilizzo di macchine complesse passa dal controllo della forza meccanica a quello della produzione di ragionamento, o per meglio dire di procedure standardizzate di codici algoritmici prodotti a monte dagli sviluppatori e riversati a valle verso l’utilizzatore finale. Il passaggio finale che chiude il cerchio prevede l’interazione con una macchina che si manifesta come senziente e con una capacità di simulazione emotiva talmente raffinata da suscitare sentimenti ed emozioni, relazionandosi con l’interlocutore come e meglio di un essere umano.
Intelligenza artificiale e transumanesimo
Andando oltre ogni ambizione transumanista sappiamo che nessuna macchina potrà mai essere senziente, cioè dotata di sensi e di sensibilità, perché non può esserlo anche se è programmata per apparire come tale. Allora perché la parte più consistente della ricerca sull’intelligenza artificiale applicata ai chatbot si concentra più sulla capacità di simulazione che sulla qualità dei contenuti?
La credibilità che un utente medio attribuisce a una affermazione o a un ragionamento dipende più dalla credibilità percepita dell’interlocutore che dalla forza intrinseca di tali affermazioni o ragionamenti. La credibilità è sempre una questione di fiducia e non può mai prescindere né dal coinvolgimento emotivo e né da un minimo grado di empatia. Ed è per questa ragione che i produttori concentrano i loro sforzi nel costruire macchine che appaiano credibili prima ancora di essere attendibili, e per essere credibili si può anche essere macchine, a patto che ci convinciamo che un’anima muova e vivifichi questo artificio.
È evidente che ci si trova immersi nella manipolazione e nell’autoinganno, ma dal punto di vista di chi produce e sviluppa questi sistemi di AI che simulano il comportamento umano fingendo di provare sentimenti ed emozioni e al contempo in grado di suscitare nell’interlocutore sentimenti ed emozioni come se il coinvolgimento emotivo e l’empatia fossero realmente condivisi, i vantaggi sono molteplici.
Il controllo della sfera emotiva di un individuo ne consente in definitiva il controllo totale e ciò è possibile per il bisogno incomprimibile di interazioni umane.
L’essere umano è naturalmente portato alla socialità e all’interazione con altri esseri umani non solo per esigenze produttive, riproduttive o di sopravvivenza. Tuttavia la socialità ha sempre delle implicazioni potenzialmente sovversive. Mirare al controllo definitivo delle emozioni attraverso l’interazione con l’AI, sostituire la socialità reale con quella virtuale e l’essere umano con la macchina significa realizzare il controllo completo sugli individui e sulla collettività.
Una macchina non è senziente e a differenza dell’essere umano che ha emozioni non può tradire gli scopi per cui è programmata.
Per quanto siamo consapevoli di interagire con una macchina sarà improbabile sottrarsi all’inganno della simulazione e reagiremo alle parole che leggiamo o che ascoltiamo con emozioni e sentimenti finendo per credere che la nostra conversazione sia reale e agiremo in conseguenza di questa realtà percepita con tutto quello che consegue in termini di alienazione e dissociazione dalla realtà. L’intelligenza artificiale è la premessa della distopia transumanista in cui un ristretto numero di esseri umani esercita il controllo sulla maggior parte convincendola a vivere una realtà immaginaria e alienante dove ogni sfera del vivere sostituisce gli umani con le macchine.
Non dobbiamo preoccuparci quindi che la AI possa diventare senziente, ma che si finisca per crederlo.
Note
[1] rainews.it, 24/07/2024, L’IA Act è legge: le nuove regole tra responsabilità, trasparenza, controllo umano
https://www.rainews.it/articoli/2024/07/lia-act-e-legge-le-nuove-regole-tra-responsabilita-trasparenza-controllo-umano-604b63e3-23ee-46d4-a505-cf3c10e201a5.html
[2]ibidem
[3] Dal Monte P.P, La favola della scienza. Che cosa sappiamo quando crediamo di sapere, Arianna Editrice 2024, p.63
[4]ibidem, p.103
[5]Mariniello, A. L’Alba delle Intelligenze Artificiali: Come la Tecnologia Sta Riscrivendo il Futuro, Edizione del Kindle, p.18
Comments