Prevedere il futuro, modellare il presente

(Intelligenza Artificiale, Big Data, Algoritmi)

Abbiamo perso il pelo ma non il vizio. Ai sapiens è sempre piaciuto e continua a piacere prevedere il futuro.

In passato ci siamo affidati di volta in volta, in base al momento storico e alle credenze della comunità di appartenenza, agli dei, alle stelle, agli oracoli, alle pizie, ai maghi, alle cartomanti. Per farla breve ad una pletora di umani a cui riconoscevamo questa facoltà. Attitudine che non veniva riconosciuta a tutti ovviamente ma solo ad esseri speciali. Potere che ogni tempo e comunità riconosceva come tale in base a criteri arbitrari.

Noi, oggi, ci affidiamo agli algoritmi predittivi. La definizione già incute timore; algoritmo1 e predittivo2 sono parole che non tutti maneggiano facilmente. Gli algoritmi non sono auto generanti, né vengono inviati sulla terra da esseri superiori. Vengono progettati e scritti da esseri umani. Dietro ad ogni procedura c’è un umano o una squadra di umani che hanno imparato uno o più linguaggi di programmazione.

Un programma viene sviluppato per scopi precisi, per produrre determinati risultati. Un software per la gestione della contabilità, un software finanziario etc. Da anni li utilizziamo nella gestione delle aziende e non solo.

Con gli algoritmi predittivi l’obiettivo non è la gestione di qualcosa, ma la previsione di qualcosa. Non le previsioni del tempo, ma le previsioni dei comportamenti umani e di conseguenza la previsione dell’evoluzione sociale dei sapiens. Si assiste ad una fiducia sempre maggiore nei guru dell’informatica. Sembrano loro oggi i veri dominatori del mondo contemporaneo. Deus ex machina. Pochi settori delle attività umane non sono ancora stati inclusi dalla pervasività informatica.

Siamo certi che la fiducia è ben riposta? Noi oggi siamo in grado di vedere e valutare che la fiducia concessa in passato agli ‘esseri speciali’ era mal risposta, che essi non avevano alcuna reale capacità di previsione. Oggi utilizziamo la tecnologia, ma la tecnologia è un prodotto umano, con tutti i limiti dell’umano.

Per quale motivo oggi attraverso la tecnologia dovremmo essere in grado di prevedere il futuro? Il numero di variabili3 in gioco è immenso e non gestibile dalle attuali macchine digitali. La quantità di variabili e la rosa di variabili viene fissata in base a determinati criteri. I criteri sono stabiliti da chi progetta il sistema.

Oltre ai limiti tecnologici/digitali entrano in campo anche i limiti umani, non solo quelli attinenti alla capacità di sviluppo e progettazione, ma anche quelli relativi alla psicologia: pregiudizi, convinzioni religiose, ideologie ma anche intenzioni deliberate. Chi progetta e sviluppa non è un essere asettico, ma una persona con una determinata visione della vita, influenzata, come tutti, dai bias cognitivi4, ma anche dagli interessi economici.

Ho trovato interessanti due video di Matteo Flora, che considero uno dei più validi esperti del settore in Italia, relativi a ChatGpt dal titolo: “CHATGPT vendere l’anima al DIAVOLO” e “IL MOSTRO che vive dentro CHATGPT” che ci portano direttamente al cuore del problema. Problema che già nel 1968 Kubrick pone al centro del suo racconto nel film “2001 Odissea nello spazio” dove la storia ruota intorno alla programmazione malevola di Hall il super computer, ad opera di uno dei progettisti.

Qualcuno potrebbe essere tentato di pensare che Kubrick avesse capacità divinatorie e avesse previsto quanto sarebbe accaduto in futuro. Certo, Kuribck è stato profetico, ma i profeti, diversamente dalla credenza comune, non sono coloro che prevedono il futuro. I profeti sono coloro che vedono il presente. Kurick lo fece, da profeta lesse il presente, lesse, quello che ai più è celato: il cuore degli uomini.

Tutto questo sarebbe già più che sufficiente a farci capire che il futuro non è prevedibile e che se lo fosse sarebbe deterministico. Inoltre oggi non possiamo escludere ciò che viene comunemente definito: l’effetto osservatore. “Con questo termine si indica (solitamente) la possibilità che un atto di osservazione possa influenzare o determinare in qualche modo le proprietà di ciò che viene osservato”5

La domanda mi pare del tutto lecita: “In che modo le previsioni messe in atto nel passato hanno influenzato il presente di quel momento storico ? E in che modo oggi i nostri algoritmi predittivi influenzano il nostro presente?”

Mi pongo anche quest’altra domanda: “Perché siamo tanto ammagliati dall’idea di conoscere il futuro? Perché non indirizziamo i nostri sforzi, le nostre risorse e le nostre energie per comprendere il presente? Forse è il presente la chiave di volta, non il futuro.

Link al video di Flora “CHATGPT vendere l’anima al DIAVOLO”

Link al video di Flora “IL MOSTRO che vive dentro CHATGPT”

I due video sono parte integrante dei questo articolo, necessari a comprenderlo.

Effetto osservatore, segnalo il libro di Carlo Rovelli “Helgoland”

11. Termine che indicò nel medioevo i procedimenti di calcolo numerico fondati sopra l’uso delle cifre arabiche. Nell’uso odierno, anche con riferimento all’uso dei calcolatori, qualunque schema o procedimento matematico di calcolo; più precisamente, un procedimento di calcolo esplicito e descrivibile con un numero finito di regole che conduce al risultato dopo un numero finito di operazioni, cioè di applicazioni delle regole. In partic., a. euclideo, metodo per determinare il massimo comune divisore di due numeri interi a e b, basato su divisioni successive. 2. In informatica, insieme di istruzioni che deve essere applicato per eseguire un’elaborazione o risolvere un problema. 3. In logica matematica, qualsiasi procedimento «effettivo» di computo di una funzione o di decisione di un insieme (o predicato), cioè qualsiasi procedimento che consenta, con un numero finito di passi eseguiti secondo un insieme finito di regole esplicite, di ottenere il valore della funzione per un dato argomento, o di decidere se un dato individuo appartiene all’insieme (o soddisfa il predicato). Definizione Vocabolario Treccani.

2agg. [der. di predire, per influenza dell’ingl. predictive]. – Relativo a predizione; che costituisce una predizione, o consente di prevedere il possibile avverarsi di eventi o di situazioni future. Definizione Vocabolario Treccani.

3Nella programmazione informatica le variabili sono degli spazi di memoria dove memorizzare dati e informazioni

4 bias cognitivi sono costrutti derivanti da percezioni errate, da cui si inferiscono giudizi, pregiudizi e ideologie. I bias sono utilizzati spesso per prendere decisioni veloci e non sono soggetti a critica o giudizio.

5In sintesi, l’esperimento sostiene la teoria che la realtà è la risultanza fra osservatore ed osservato, significa che l’universo esiste perché vi è un osservatore, significa che il sistema di credenze dell’osservatore determina l’esistenza della realtà nella forma in cui egli crede che sia.

12 pensieri riguardo “Prevedere il futuro, modellare il presente”

  1. Ascoltando la puntata del programma ‘Alla ricerca del ramo d’oro’ di ieri 21 marzo, mi sono imbattuta nella segnalazione a fine trasmissione del libro di Helga Nowotny, ‘Le macchine di Dio’ che acquisterò e senz’altro leggerò, dove si parla degli algoritmi predittivi. Dopo aver ascoltato il consiglio di lettura, ho fatto una ricerca in internet dove ho letto la prefazione che mi ha molto colpito in quanto esprime il mio stesso pensiero e la medesima preoccupazione .

    “L’essere umano ha dei nuovi compagni: robot, intelligenze artificiali e non solo. Una vera e propria nuova specie digitale, con cui stiamo imparando a convivere e che evolve parallelamente – e insieme – a noi. Se i nostri timori sono solitamente legati al pericolo che gli algoritmi conquistino troppo potere, la vera sfida per il futuro è di evitare di essere noi, inconsapevolmente, a cederglielo, in cambio di qualche comodità in più o di qualche promessa di sicurezza o efficienza. Una grande conquista della modernità è infatti quella di aver “aperto” il futuro, abbandonando una visione predeterminata del nostro destino. Ma cosa succede se iniziamo a fidarci ciecamente delle previsioni degli algoritmi predittivi, a cui affidiamo sempre più responsabilità? Il futuro rischia nuovamente di richiudersi su di noi, dando vita a profezie algoritmiche che siamo noi stessi a far avverare. L’impatto degli algoritmi sulle nostre vite, in questo modo, è destinato a ingigantirsi, con tutto il carico di pregiudizi, errori, imprecisioni e mancanze che si portano dietro. Helga Nowotny ci aiuta a interpretare il futuro che abbiamo di fronte, e a conquistare così la consapevolezza necessaria a non diventare succubi delle macchine di Dio.”

Rispondi a marziana monfardini Annulla risposta

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *