Sia fatta la tua volontà! – (Parte 2)

l mito dell’intelligenza artificiale tra hybris e desiderio di salvezza

Continuiamo il nostro viaggio nell’intelligenza artificiale tra mito e realtà. Nel precedente articolo ci eravamo lasciati in compagnia del professor Simone Natale, docente di storia e teoria dei media presso l’Università di Torino, che nel suo libro “Macchine ingannevoli” (Einaudi 2022) avverte: “Nelle nostre esperienze quotidiane con queste tecnologie abbiamo pochi mezzi per cogliere le dinamiche profonde di quelli che ci appaiono comportamenti intelligenti. Esiste dunque una discrepanza ineludibile tra il modo in cui percepiamo le macchine e il loro funzionamento”. Questo spazio tra percezione e realtà celata è terreno fertile dove attecchisce il seme del mito, fertilizzato da una nostra debolezza strutturale, quella di essere soggetti facili all’inganno: “Le più recenti ricerche in campi quali la psicologia sociale, la filosofia e la sociologia sottolineano che esso non si limita a situazioni eccezionali, come una truffa o un trucco di magia, ma ricopre un ruolo sostanziale nell’esperienza quotidiana di ogni persona. Secondo il filosofo Mark Wrathall, la possibilità di cadere nell’inganno è anzi uno dei meccanismi principali attraverso i quali percepiamo le cose e il mondo”.

Dello stesso parere è lo psicologo cognitivista Donald D. Hoffman, citato da Natale, docente universitario prima di scienze cognitive e poi di logica e filosofia della scienza presso il Dipartimento di scienze cognitive della University of California Irvine, che, nel suo “L’illusione della realtà – Come l’evoluzione ci inganna sul mondo che vediamo” (Bollati Boringhieri 2020), sviluppa la sua tesi intorno ad un quesito all’apparenza semplice: ciò che percepiamo intorno a noi, attraverso i nostri sensi, sono dati oggettivi/effettivi (ovvero vediamo la realtà così com’è) oppure ogni cosa è solo una nostra rappresentazione? Per l’autore la risposta è altrettanto semplice: “la probabilità che vediamo la realtà così com’è è pari a zero […] della realtà così com’è non vediamo nulla”.

Il tutto non rappresenterebbe un difetto insito nel nostro essere, ma un vantaggio che la nostra specie avrebbe acquisito attraverso la sua lunga evoluzione. Sorpresi? Sicuramente un’idea un po’ controintuitiva. In base a quella che viene definita “Teoria dell’interfaccia percettiva” (TIP), Hoffman spiega che il nostro sistema percettivo può essere considerato alla stregua di una “interfaccia” modellata dall’evoluzione: ”Supponiamo che nell’angolo in basso a destra dello schermo del tuo computer ci sia un’icona rettangolare blu: potresti affermare che il file stesso è blu, rettangolare e che vive nell’angolo in basso a destra del tuo computer? Ovviamente no. Però queste sono le uniche cose che possono essere affermate su qualsiasi cosa presente sul tuo desktop: colore, posizione e forma. Queste sono le uniche categorie a tua disposizione, eppure nessuna di queste è vera per il file stesso o per qualsiasi altra cosa presente nel computer […] E’ impossibile arrivare a descrivere con chiarezza cosa contiene un computer al suo interno se la tua visione è limitata a ciò che appare sullo schermo. Eppure il desktop è utile. Quell’icona rettangolare blu guida il mio comportamento e nasconde una realtà complessa che non ho bisogno di conoscere. Questa è l’idea chiave. L’evoluzione ci ha plasmati con percezioni che ci consentono di sopravvivere. Guidano comportamenti adattivi. Ma parte di ciò implica nasconderci le cose che non abbiamo bisogno di sapere. E questa è più o meno tutta la realtà, qualunque cosa possa essere. Se dovessi passare tutto quel tempo a capirlo, la tigre ti mangerebbe”.

In altre parole, l’essere umano sarebbe stato dotato, dal processo evolutivo, di organi sensoriali volti a captare nello spazio-tempo non la realtà oggettiva, bensì i benefici adattativi (la fitness) maggiormente utili alla sopravvivenza della specie. L’equazione perciò sarebbe molto semplice: utile è meglio di vero. Da cui ne deriverebbe che ciò che chiamiamo realtà è soltanto la più sofisticata ed evoluta delle illusioni: “la percezione non è una finestra sulla realtà oggettiva. È un’interfaccia che nasconde la realtà oggettiva dietro un velo di icone utili.” – come disse Einstein “tempo e spazio sono modalità con cui pensiamo, e non condizioni in cui viviamo”.

La “verità” ci sarebbe quindi preclusa? Per Hoffman questa è la realtà: nessuno strumento di indagine ci può far giungere a quella che potremmo definire una verità definitiva – “Come la filosofia e la pratica religiosa, la scienza è un’attività umana. Non è infallibile. […] La scienza non offre convinzioni incrollabili, ma un metodo efficace per vagliare le convinzioni, […] non è una teoria della realtà ma un metodo d’indagine”.

Cos’è allora quell’esperienza condivisa che chiamiamo comunemente realtà? Per rispondere a questa domanda Hoffman si affida alla sua teoria degli “agenti coscienti” (realismo cosciente). In estrema sintesi, tale teoria presuppone che a fondamento della realtà non ci siano oggetti (inanimati), ma entità coscienti (agenti coscienti): “ciò che è veramente reale dietro l’illusione [della nostra percezione] è un regno di coscienza popolato da “agenti coscienti”. Il mondo fisico emerge da questo regno”.

Per essere più precisi, il mondo fisico emerge da un interacting networks of conscious agents: dove per agente cosciente si intende una qualsiasi porzione anche minima della realtà (per esempio un elettrone) e dove la dinamica di interazione viene descritta in termini di percezione-decisione-azione (ogni agente agisce su altri agenti, modificandone lo stato e provocando reazioni oltre che poter unirsi a loro per formare nuovi tipi di agenti) – “esistano innumerevoli tipi di agenti coscienti con una sconfinata varietà di esperienze coscienti, che nella maggior parte dei casi non riusciamo nemmeno a immaginare”. Va da se che quando guardo il mondo e lo vedo abitato da entità coscienti e non coscienti sono vittima di un’illusione, illusione causata da un limite della mia capacità percettiva.

Quella di Hoffman non è una teoria nuova, la novità semmai risiede nel suo tentativo di fornire un modello matematico degli agenti coscienti. Non è neanche una novità che l’essere umano sia un credulone per natura, o come direbbe Hoffman: ”siamo inclini a credere erroneamente che certe limitazioni e idiosincrasie delle nostre percezioni siano autentiche intuizioni sulla realtà oggettiva.”

Tutto ovviamente a fini adattivi… forse.

Tornando al professor Natale, si ha modo di rinforzare il messaggio: ”Ha quindi poco senso considerare una nostra percezione come giusta o sbagliata, dal momento che l’errore è una componente costitutiva del modo in cui navighiamo la realtà esterna.

Già a partire dalla fine del XIX secolo, l’istituzionalizzazione della psicologia fu accompagnata dalla comprensione che inganno e illusione rappresentano aspetti integrali e fisiologici dell’esperienza umana, e che le dinamiche che portano a errori percettivi sono fondamentali per capire come percepiamo il mondo. L’accumulo di sapere su come le persone si ingannano fu fondamentale per la creazione di tecnologie e pratiche mediali che approfittano delle caratteristiche e dei limiti della vista, dell’udito, e persino del tatto. Lo sviluppo dell’IA si inserisce pienamente all’interno di questa tradizione”.

A tal proposito, scrive Natale in un paper del 2017 (Fallimenti, controversie e il mito tecnologico dell’Intelligenza Artificiale – S. Natale, A. Ballatore) : “il mito della macchina pensante si articola attorno ai seguenti pilastri:

1) i processi cognitivi possono essere ridotti a calcoli basati sulla manipolazione di simboli;

2) il cervello umano è equivalente a un computer;

3) lo sviluppo di una macchina pensante è fattibile in un futuro prossimo;

4) gli informatici sono eroi prometeici che stanno per realizzare la macchina pensante;

5) i computer sorpasseranno gli esseri umani in tutti i campi, alterando tutti i processi culturali, sociali e politici.

[…] A differenza di altri miti che si proiettano nel passato, il mito della macchina pensante risiede in un “futuro prossimo” di possibilità tecnologiche”.

Il punto 5 sembra essere la chiave per comprendere meglio il nostro rapporto con questa tecnologia. Per sviscerarne meglio il senso, chiedo aiuto ad un’altra autrice, Chiara Valerio, che nel suo “La Tecnologia è religione” (Einaudi 2023) prova a svelarne la pulsione sottostante: “Gli esseri umani hanno sempre cercato di sfuggire al proprio corpo nel senso che, da sempre, abbiamo cercato di ampliarne le possibilità, di trasferire, traslare, trasfondere, tradurre le nostre intenzioni e i nostri desideri impossibili altrove, liberati dalla gabbia di arti e sensi, da sempre tentiamo di staccare dal corpo quel qualcosa che appartiene e afferisce alla nostra parte immortale. La tecnologia, epoca dopo epoca, ha rappresentato il grande correttivo ed amplificatore dei corpi.”. E questo, come detto, anche in chiave distopica.

Un dibattito per niente nuovo quello sull’idea dell’avvento di una tecnologia “antropomorfa”, anzi… ma questo, facendo appello alla vostra pazienza, lo vedremo nella prossima parte.

Gianluca Montagnoni

Mi piace definirmi un ingegnere umanista. Ho una laurea in ingegneria meccanica ad indirizzo gestionale, ma la mia vera passione è l’essere umano, la mia filosofia di vita: “uomo conosci te stesso”. Osservo, studio, sperimento, condivido, perché come disse un tizio: “poter condividere è poesia nella prosa della vita” (S. Freud)