Sorveglianza sociale. Gli algoritmi non hanno vita propria

Le telecamere di sorveglianza con riconoscimento facciale insieme ai telefoni cellulari costruiscono un sistema di controllo dei minimi atteggiamenti di tutte le persone ovunque arrivi Internet. Il primo problema sottovalutato dell’intelligenza artificiale, al momento, non è il fatto che si trova sempre meno nelle mani degli umani, ma che si tratta di un gigantesco sistema di sorveglianza che nessun regime totalitario ha mai avuto. Inoltre, quando utilizziamo l’IA non dovremmo mai dimenticare che gli algoritmi non hanno vita propria, ma sono stati creati dal sistema per migliorare i suoi profitti, approfondendo il controllo delle nostre menti, in fondo la storia del capitalismo, pensiamo al Taylorismo e al Fordismo, è proprio questa. Una cosa è certa, dice Raúl Zibechi, “emergeranno forme di controllo nuove e più sofisticate, perché chi sta in basso trova sempre il modo di resistere e superare in astuzia chi sta in alto…”

La diffusione dell’intelligenza artificiale (AI) e la naturalizzazione dei suoi risultati non vanno di pari passo con la comprensione dei suoi meccanismi, di chi la promuove, con quali interessi e obiettivi. Se non facciamo questo esercizio, saremo vittime passive in modi che non conosciamo.

In una recente intervista, lo storico e filosofo Yuval Harari sostiene che l’intelligenza artificiale consente “una sorveglianza totale che pone fine a ogni libertà”. Egli avverte che la capacità di sorveglianza supera di gran lunga quella di qualsiasi dittatura o regime totalitario, poiché attraverso telecamere di sorveglianza con capacità di riconoscimento facciale e telefoni cellulari, si ha la capacità di controllare i minimi atteggiamenti di tutte le persone ovunque arrivi Internet.

Personalmente ho verificato che mi inviano pubblicità di prodotti o marchi di cui sto parlando con la mia famiglia e i miei amici, quasi immediatamente. Sappiamo che l’intelligenza artificiale ci consente di ascoltare qualsiasi conversazione, non importa quanto intima, e ogni movimento e comunicazione che facciamo tramite i telefoni cellulari.

Harari dice che “l’intelligenza artificiale è diversa da qualsiasi tecnologia inventata in precedenza”, perché a differenza delle tecnologie precedenti, non è nelle mani degli esseri umani né è uno strumento che deve essere attivato dalle persone, ma piuttosto “un agente indipendente” che ha la capacità di prendere le proprie decisioni “da solo”. Sostiene che nei media, che “costituiscono la base di una democrazia su larga scala”, non sono più gli editori a prendere le decisioni editoriali, ma piuttosto “sono gli algoritmi a decidere quale dovrebbe essere la storia consigliata”.

Penso che molti degli argomenti di Harari siano interessanti e che la sua denuncia della massiccia manipolazione dell’informazione sia molto importante. Facciamo un ulteriore passo avanti, per approfondire le conseguenze dell’intelligenza artificiale: “Gli algoritmi aziendali hanno scoperto che è necessario diffondere fake news e teorie che aumentino le dosi di odio, paura e rabbia negli utenti, perché questo spinge le persone a impegnarsi, a trascorrere più tempo sulle piattaforme e a inviare link in modo che anche i loro amici possano arrabbiarsi e spaventarsi”. Conclude che si tratta di un modello di business perché “il coinvolgimento degli utenti è alla base di tutto”, per cui il tempo che ciascun utente trascorre sulle piattaforme porta le aziende a guadagnare di più, poiché vendono più annunci e, soprattutto, “raccolgono dati che poi venderanno a terzi”. Un’analisi molto interessante, che si conclude con una frase devastante: “Le persone del settore sono intrappolate in una mentalità da corsa agli armamenti, da concorrenza e da non lasciarsi vincere”.

Credo, tuttavia, che mancano due aspetti per completare il quadro perché, in caso contrario, si può perdere il contesto di ciò che sta realmente accadendo: il primo è che gli algoritmi non hanno vita propria, ma sono stati creati dal sistema per migliorare i suoi profitti, approfondendo il controllo delle nostre menti; il secondo è che la storia del capitalismo è proprio questa.

Harari sostiene che l’intelligenza artificiale prende le decisioni da sola: questo è vero solo in parte se guardiamo solo alla tecnologia ma non a chi l’ha creata e la gestisce per conoscere anche i desideri più profondi delle persone.

In secondo luogo, dobbiamo tornare alla storia del Panopticon, del Taylorismo e del Fordismo per vedere come il controllo del capitalismo si è approfondito.

Negli eserciti emerge il panopticon. Le tende dei soldati dovevano essere rigorosamente allineate in modo che gli ufficiali potessero rilevare il minimo movimento. Poi si è spostato nelle carceri, negli ospedali, nei centri educativi, nelle fabbriche; sempre per limitare l’autonomia delle persone. Le telecamere che si moltiplicano nelle nostre città hanno lo stesso obiettivo.

Nelle fabbriche, durante il periodo produttivo, l’operaio specializzato controllava le macchine e i loro tempi di lavoro. Verso la fine del XIX secolo venne imposta l’“organizzazione scientifica del lavoro” ideata da Frederick Taylor, che divideva i compiti tra chi esegue i movimenti e chi pianifica e impartisce ordini. L’obiettivo era trasformare l’operaio in un “gorilla ammaestrato”, sottoposto alle macchine, capace solo di compiere movimenti precisi e cronometrati.

Con la catena di montaggio creata nelle fabbriche Ford, si chiuse un primo ciclo di controllo operaio, poi approfondito con il “toyotismo”, quando gli operai riuscirono a neutralizzare le precedenti modalità di sfruttamento, nel decennio delle lotte operaie degli anni Sessanta.

Il miglioramento delle tecnologie per il controllo della vita, della natura e di tutto ciò che è umano è il segno distintivo del capitalismo. In questo modo aumenta i suoi profitti, sottomettendo sempre di più gli esseri umani. Emergeranno forme di controllo nuove e più sofisticate, perché chi sta in basso trova sempre il modo di resistere e superare in astuzia chi sta in alto.

Raúl Zibechi

21/2/2025 https://comune-info.net