ZERO ERRORI

I dispositivi che si basano sull’intelligenza artificiale sono destinati, per via della loro crescente sofisticatezza, ad imporre la loro legge orientando dall’alto della loro autorità, le situazioni umane. E questo non avviene in modo omogeneo ma a differenti gradi. Da un livello incentivante, come nel caso di un’applicazione per il fitness che suggerisce un certo esercizio fisico ed una dieta equilibrata; a un livello prescrittivo, come nel caso della concessione di un prestito bancario, fino a raggiungere livelli costrittivi, in particolare, nel campo del lavoro con sistemi in grado di dettare le azioni da intraprendere. In termini filosofici, di dettarci “la verità”.

Da questo momento in poi, la tecnologia, riveste il ruolo di “organo decisionale”: Il nostro potere di pensare e di agire viene sostituito da protocolli al fine di “infonderci” la giusta traiettoria da seguire. Quello che caratterizza tutti questi passaggi di potere è la subordinazione formale degli individui a delle equazioni.

Un esempio è quello di Amazon, che ha brevettato un braccialetto elettronico – non ancora in uso – destinato non tanto a indicare con precisione dove si trovano gli oggetti in un dato spazio, quanto a guidare le mani del dipendente nell’esercizio perfetto dei suoi compiti. Il dispositivo emette delle vibrazioni quando queste si muovono in una microzona giudicata impropria o quando si avvicinano a un articolo che non corrisponde a quello richiesto, per indirizzarle verso un’altra direzione. Si tratta di far valutare a dei sistemi, le azioni che dovrebbero essere compiute dalle persone, ed eventualmente, riorientarle nel caso in cui si rivelino inadeguate riportandole immediatamente in carreggiata.

Nel settore militare, invece, negli ultimi anni si comincia a ricorrere a droni di ultima generazione in grado di volare a lungo, dotati di sistemi di visione ad alta definizione e capaci di individuare gli obiettivi; principalmente attraverso, da un lato l’intercettazione di segnali emessi dagli smartphone delle persone a terra, dall’altro da dispositivi di riconoscimento facciale. Gli apparecchi sono telecomandati a distanza da un nuovo tipo di pilota che, sulla base delle informazioni trasmesse in tempo reale, deve decidere in pochi secondi se colpire o meno.

Quello che caratterizza questi procedimenti è che, in nome della presunta tutela dei propri soldati e di una maggiore efficacia, non fanno più appello ad un’acquisizione dei fatti risultante dal contatto diretto con il terreno; così facendo, contribuiscono ad istituire il credo dell’eliminazione come imperativo quasi esclusivo e limitano qualsiasi azione all’unica equazione binaria: sferrare/non sferrare il colpo mortale.

Tutte le alternative usuali, come le manovre di infiltrazione, di neutralizzazione in altre forme, oppure, perché no, i tentativi di dialogo, vengono esclusi di default a vantaggio dell’uso di un joystick azionato da qualche sala di controllo generalmente situata dall’altra parte del mondo.

Gli stessi individui che, fino a qualche anno prima si desiderava gratificare con margini di iniziativa, si trovano ora a dover rispondere nella precipitazione o nell’isteria temporale e senza essere in grado di manifestare alcuna distanza critica, a delle conclusioni stabilite alla velocità della luce dei processori.

Nei droni a distanza, così come nei grandi magazzini di Amazon, l’uomo risulta comunque essere “in the loop”, ossia all’interno dei processi decisionali; ma da qualche tempo ormai, si sta profilando l’ipotesi di elaborare dispositivi in cui l’individuo sia “out of the loop”, fuori cioè dal processo ultimo di assestamento del colpo attraverso l’uso di armi letali autonome; o fuori dal processo decisionale riguardo a quale percorso seguire per raggiungere l’articolo da spedire (braccialetto elettronico).

Questi sistemi intelligenti, dotati della capacità di identificare le persone e valutarne in tempo reale l’eventuale appartenenza al “campo nemico”, in futuro arriveranno a uccidere, di loro iniziativa, una volta azionati. Nonostante non siano in uso, sono oggetto di ricerca da numerosi laboratori privati e pubblici, in tutto il mondo.

È possibile che un giorno ci verrà quasi “naturale” attribuire a queste tecnologie il potere di decidere su tutto, e come abbiamo visto, anche sull’atto più sensibile che esiste: togliere la vita.

Vista l’esigenza di “guerre pulite” affermatasi dalla guerra del Golfo in avanti ed in continua intensificazione da parte di chi vuole “esportare democrazia”, e vista l’esigenza di voler consegnare la merce ordinata dal cliente il più presto possibile, l’intenzione è certo quella di rispondere all’imperativo dei “zero morti”, per lo meno nei confronti delle proprie truppe ma, soprattutto, a quello più recente degli “zero errori”.

È importante cogliere la portata di questi dispositivi concepiti per correggerci o per tirarci fuori dal “loop”. Essi sono la dimostrazione estrema della nostra ambizione di vedere formarsi un mondo privo di intoppi, nel quale le cose accadono solo ed unicamente per una questione di “necessità”.

È molto probabile che le dimensioni incentivante, prescrittiva e costrittiva, visto l’estremo utilitarismo che instaurano,saranno destinate a salire di livello e avvicinarsi allo stadio ultimo e perfetto – di stampo igienista da un lato e consumista dall’altro – degli zero errori, dove tutto sarà disciplinato da calcoli ed equazioni operate da macchine in grado di rivelarci in qualsiasi circostanza “la verità”.

Una verità sistematica definita da equazioni statistiche e da una miriade di bit; quella verità che, secondo Hannah Arendt, politologa e filosofa tedesca, finisce inevitabilmente per coprire una funzione tirannica, perché << le affermazioni [..] una volta percepite come vere e dichiarate tali, esse hanno in comune il fatto di essere al di là dell’accordo, della discussione, dell’opinione o del consenso; [..] considerata dal punto di vista della politica, la verità ha un carattere dispotico>>.

Mentre Heidegger, filosofo tedesco, sostiene che << La verità è il manifestarsi dell’essere, della natura, di ciò che appare e di ciò che si rende visibile. Noi oggi abbiamo tutto un altro concetto di verità. La verità la misuriamo con l’efficacia. Vero è ciò che è efficace; ciò che produce risultati; ciò che permette il raggiungimento degli obiettivi che l’uomo si è proposto. E allora sotto questo profilo, la verità risulta come l’efficacia del nostro operare>>.

LINK UTILI:

Amazon tracks warehouse workers’s movements through Artificial Intelligence

AI in Military Drones and UAVs – Current Applications

Il Pensiero Artificiale

Anass El Fares

Sono un ricercatore presso Co.Mac – CFT, un importante gruppo italiano che opera nell’ambito degli impianti industriali. Laureato in ingegneria Meccanica con specializzazione in Meccatronica al Polimi. Attualmente studio automazione con particolare focus verso gli algoritmi di intelligenza artificiale e le sue applicazioni nel mondo reale.
Comunicare significa donare parte di noi stessi, ed è questo il motivo per cui la divulgazione scientifica è una delle mie più grandi passioni.