Gli algoritmi non hanno vita propria

Emergeranno forme di controllo nuove e più sofisticate, non solo perché l’intelligenza artificiale è nata per controllare quello che pensiamo e facciamo in modo da fare sempre più profitti, ma perché chi sta in basso trova sempre il modo di resistere e superare in astuzia chi sta in alto.

di Raúl Zibechi da Comune-Info

La diffusione dell’intelligenza artificiale (AI) e la naturalizzazione dei suoi risultati non vanno di pari passo con la comprensione dei suoi meccanismi, di chi la promuove, con quali interessi e obiettivi. Se non facciamo questo esercizio, saremo vittime passive in modi che non conosciamo.

In una recente intervista, lo storico e filosofo Yuval Harari sostiene che l’intelligenza artificiale consente “una sorveglianza totale che pone fine a ogni libertà”. Egli avverte che la capacità di sorveglianza supera di gran lunga quella di qualsiasi dittatura o regime totalitario, poiché attraverso telecamere di sorveglianza con capacità di riconoscimento facciale e telefoni cellulari, si ha la capacità di controllare i minimi atteggiamenti di tutte le persone ovunque arrivi Internet.

Personalmente ho verificato che mi inviano pubblicità di prodotti o marchi di cui sto parlando con la mia famiglia e i miei amici, quasi immediatamente. Sappiamo che l’intelligenza artificiale ci consente di ascoltare qualsiasi conversazione, non importa quanto intima, e ogni movimento e comunicazione che facciamo tramite i telefoni cellulari.

Harari dice che “l’intelligenza artificiale è diversa da qualsiasi tecnologia inventata in precedenza”, perché a differenza delle tecnologie precedenti, non è nelle mani degli esseri umani né è uno strumento che deve essere attivato dalle persone, ma piuttosto “un agente indipendente” che ha la capacità di prendere le proprie decisioni “da solo”. Sostiene che nei media, che “costituiscono la base di una democrazia su larga scala”, non sono più gli editori a prendere le decisioni editoriali, ma piuttosto “sono gli algoritmi a decidere quale dovrebbe essere la storia consigliata”.

Penso che molti degli argomenti di Harari siano interessanti e che la sua denuncia della massiccia manipolazione dell’informazione sia molto importante. Facciamo un ulteriore passo avanti, per approfondire le conseguenze dell’intelligenza artificiale: “Gli algoritmi aziendali hanno scoperto che è necessario diffondere fake news e teorie che aumentino le dosi di odio, paura e rabbia negli utenti, perché questo spinge le persone a impegnarsi, a trascorrere più tempo sulle piattaforme e a inviare link in modo che anche i loro amici possano arrabbiarsi e spaventarsi”. Conclude che si tratta di un modello di business perché “il coinvolgimento degli utenti è alla base di tutto”, per cui il tempo che ciascun utente trascorre sulle piattaforme porta le aziende a guadagnare di più, poiché vendono più annunci e, soprattutto, “raccolgono dati che poi venderanno a terzi”. Un’analisi molto interessante, che si conclude con una frase devastante: “Le persone del settore sono intrappolate in una mentalità da corsa agli armamenti, da concorrenza e da non lasciarsi vincere”.

Credo, tuttavia, che mancano due aspetti per completare il quadro perché, in caso contrario, si può perdere il contesto di ciò che sta realmente accadendo: il primo è che gli algoritmi non hanno vita propria, ma sono stati creati dal sistema per migliorare i suoi profitti, approfondendo il controllo delle nostre menti; il secondo è che la storia del capitalismo è proprio questa.

Harari sostiene che l’intelligenza artificiale prende le decisioni da sola: questo è vero solo in parte se guardiamo solo alla tecnologia ma non a chi l’ha creata e la gestisce per conoscere anche i desideri più profondi delle persone.

In secondo luogo, dobbiamo tornare alla storia del Panopticon, del Taylorismo e del Fordismo per vedere come il controllo del capitalismo si è approfondito.

Negli eserciti emerge il panopticon. Le tende dei soldati dovevano essere rigorosamente allineate in modo che gli ufficiali potessero rilevare il minimo movimento. Poi si è spostato nelle carceri, negli ospedali, nei centri educativi, nelle fabbriche; sempre per limitare l’autonomia delle persone. Le telecamere che si moltiplicano nelle nostre città hanno lo stesso obiettivo.

Nelle fabbriche, durante il periodo produttivo, l’operaio specializzato controllava le macchine e i loro tempi di lavoro. Verso la fine del XIX secolo venne imposta l’“organizzazione scientifica del lavoro” ideata da Frederick Taylor, che divideva i compiti tra chi esegue i movimenti e chi pianifica e impartisce ordini. L’obiettivo era trasformare l’operaio in un “gorilla ammaestrato”, sottoposto alle macchine, capace solo di compiere movimenti precisi e cronometrati.

Con la catena di montaggio creata nelle fabbriche Ford, si chiuse un primo ciclo di controllo operaio, poi approfondito con il “toyotismo”, quando gli operai riuscirono a neutralizzare le precedenti modalità di sfruttamento, nel decennio delle lotte operaie degli anni Sessanta.

Il miglioramento delle tecnologie per il controllo della vita, della natura e di tutto ciò che è umano è il segno distintivo del capitalismo. In questo modo aumenta i suoi profitti, sottomettendo sempre di più gli esseri umani. Emergeranno forme di controllo nuove e più sofisticate, perché chi sta in basso trova sempre il modo di resistere e superare in astuzia chi sta in alto.

Osservatorio Repressione è una Aps-Ets totalmente autofinanziata. Puoi sostenerci donando il tuo 5×1000 

News, aggiornamenti e approfondimenti sul canale telegram e canale WhatsApp