Algocrazia: perché stiamo entrando in una nuova era dell’informazione

Quando nel novembre del 2022 ChatGPT è stato distribuito al mondo, agli occhi di tutti si è palesata la percezione che i motori della storia stessero, dopo tanti anni di affannosi incedimenti, per dare il via a una violenta accelerata. Il modello di IA generativo che OpenAI ha lanciato sul mercato globale ha, in una manciata di mesi, scacciato dall’opaco rifugio di una cortina la consapevolezza di un fenomeno che fino a pochissimi anni fa era un’esclusiva detenuta dai circoli più elitari della tecnica. È stata l’epifania di un risveglio, un’estasi febbrile che si può immaginare colpisca chiunque si veda recapitato il biglietto luccicante per assistere al teatro delle rivoluzioni.  E la maggior parte di noi tutti, spettatori non paganti e ineludibilmente trascinati al cospetto di questo palco, è ancora oggi attonita nell’osservare i mirabilia di questi nuovissimi algoritmi. 

---

Hal 9000 - da 2001: Odissea nello Spazio

Partendo dalla speculazioni teoriche di Turing e Von Neumann, passando per i progetti avveniristici di IBM, per poi arrivare ai Macintosh e ai Personal Computer, infine giungendo al fresco traguardo dei Large Language Model, la storia dell’informatica ha fregiato la nostra specie di successi che hanno rivoluzionato il nostro approccio all’informazione, consegnandoci nelle mani un potere immenso che in questi anni abbiamo utilizzato per alimentare le nostre connessioni. La civiltà dell’internet ha superato di vari ordini di grandezza qualsiasi grado di efficienza che l’umanità abbia mai ottenuto dai precedenti paradigmi dell’informazione, avvicendati in una peripezia di epocale e progressiva evoluzione. Le interazioni istantanee, le rotaie comunicative che sfidano tempi e spazi spergiurando ogni limite, hanno instaurato un nuovo ordine globale che ha profondamente eradicato il vecchio, rimpiazzandolo al punto che, come ogni rivoluzione, appare oggi impossibile riavvolgere la vicenda del progresso e ripristinare il precedente e vetusto apparato comunicativo e interazionale. I nostri ritmi hanno profittato di questa nuova costituzione per erigere su di essa una compagine legislativa ed esecutiva di un ordinamento rinnovato, più veloce, più efficiente, più agile, instancabile, onnipresente. Mentre sopra le nostre teste aleggiano i respiri di idee, messaggi ed opinioni, mentre attraverso i lunghi cavi che misurano le profondità degli oceani viaggiano frequenze di luce che collegano il mondo in una rete inestricabile di dati e informazioni, mentre ogni secondo ci concediamo a questo carosello infinito di contenuti, il silicio che permea le nostre vite accoglie questo divenire incessante e furioso. Ma tutto quanto, dal chip della nostra lavatrice, alle complesse reti sociali dei network, non avrebbe trovato esistenza se non fosse per la strabiliante invenzione che l’umanità si è donata come il fu non plus ultra della burocrazia delle informazioni: il computer. Proprio il computer, infatti, sin dalla sua prima formulazione che prese vita dalle intuizioni di Alan Turing - e che valse all’Inghilterra quasi la vittoria di una guerra - si presentò come lo strumento definitivo per la gestione e la manipolazione delle informazioni. 

La storia e, in verità, anche la preistoria dell’umanità ha avuto con l’informazione un sodalizio inscindibile. La capacità dell’uomo di rilevare dati sul mondo, di elaborarli e di condividerli reciprocamente creando delle reti di connessioni è stata la peculiarità che ci ha consentito di sovrastare evolutivamente tutte le altre specie di Homo che si contendevano la ristretta nicchia della sopravvivenza, e, al tempo stesso, di porci al di sopra della piramide della vita conquistando l’egemonia della natura. Apparve ovvio, infatti, che una tribù, poi un villaggio, poi una città di Homo sapiens fossero capaci di fronteggiare al meglio qualsiasi pericolo di quanto potesse mai essere in grado di fare un singolo umano. E l’informazione, cioè il dato che rappresenta o tenta di rappresentare con necessaria e inevitabile approssimazione la realtà, ha dimostrato di costituire con l’uomo un sinolo fondamentale. Più che elargire la verità, l’informazione si affida il compito nevralgico di connettere, unire e coordinare le reti sociali in cui si articolano le nostre comunità. La gestione dell’informazione si costituisce nella sua essenza più intima in un processo di contenimento dell’entropia, sotto le spinte della quale le nostre reti rischierebbero di deflagrare: creare ordine, è questo il suo primo e ultimo imperativo. Per questo, alle svolte paradigmatiche della gestione dell’informazione, che scaturiscono quasi sempre da una rivoluzione strutturale dei nostri apparati tecnici preposti al mantenimento e all’alimentazione della rete sociale, corrispondono delle rivoluzioni o dei cambiamenti sul piano storico. La stessa storia, storiograficamente intesa, ha origine dalla capacità inedita della nostra specie di recapitare testimonianze concettualizzate del proprio passaggio sulla Terra, di elargire lasciti tramandabili con sufficiente inerzia per erudire il futuro della propria natura passata: la scrittura, quella grande conquista che attribuiamo ai popoli fecondi della mezzaluna fertile, ha, in tal senso, rappresentato un crocevia epocale. 

E da lì, una dopo l’altra, dalla scrittura, alla stampa, al computer, le innovazioni tecniche hanno arricchito l’armamentario del nostro sistema burocratico dell’informazione, spargendo intorno a sé la semenza gravida di sconvolgimenti storici irreversibili che hanno plasmato le sfere sociali, economiche e politiche della nostra civiltà nel suo contesto globale. 

Converrebbe facilmente la mente sul fatto che il passo da noi ora compiuto, con l’introduzione di nuovi avanzati algoritmi di intelligenza artificiale, possa costituire una reiterazione di questo graduale processo evolutivo dei nostri sistemi di informazione. In realtà, una serie complessa e acutamente subdola di ragioni è in grado di dimostrare come l’avvento delle I.A. e della loro costante propagazione non sia semplicemente il frutto di un processo che ha raggiunto la presa del prossimo piolo dell’infinita e inesorabile scalata verso una necessaria evoluzione, bensì sia l’esito di una convoluzione storica che ha generato dalla congiuntura prolifica di svariati fattori tecnici una dimensione inedita per la nostra informazione. Convincersi di questo non è facile; è tuttavia necessario porre alle luci di una riflessione individuale e collettiva la portata di questo nuovo potentissimo e, per certi versi, alieno strumento. 

Mentre il computer iniziava poche decine di anni fa a prendere il controllo della processualità logica della nostra informazione, sostituendosi all’uomo nell’esecuzione dei compiti più macchinosi, quali lo svolgimento di calcoli, e ai precedenti sistemi di conservazione dell’informazione, come i documenti o i supporti fotografici, nessun umano avrebbe mai potuto ritenere il computer un vero e proprio agente dell’informazione. Per quanto, con furie e tempeste, gli elettroni che attraversano i suoi circuiti si abbandonavano a una danza sfrenata di operazioni logiche e computazionali a una velocità disarmante, il computer rimaneva e rimane tutt’ora un semplice esecutore attivo, che segue pedissequo le istruzioni fornite da un programmatore organico. Insomma, quello che fino ad oggi è stato il non plus ultra della burocrazia dell’informazione non è nient’altro che un arnese potentissimo, tanto abile nel velocizzare esponenzialmente l’interconnessione delle nostre reti sociali, quanto incapace in modo assoluto di partorire autonomamente una decisione propria e inserirsi all’interno del tessuto umano come membro decisionale della rete. Tuttavia, benché i limiti di questo eccezionale burocrate fossero evidenti a tutti, la speculazione e le fantasie avveniristiche dell’essere umano intravedevano nelle cascate operative dei loro algoritmi un terreno fertile per la genesi di una forma più o meno avanzata di intelligenza. Cosa sia l’intelligenza, e come debba essere definita negli infiniti contesti semantici che il suo utilizzo è in grado di scomodare è un arcano che l’umanità non è ancora riuscita a districare e che, pertanto, non si avrà la velleità di porre a obiettivo di questo scritto. Ma per poter fare appello a una base concettuale solida e convenire a delle conclusioni reciprocamente conformi, utilizzeremo il termine intelligenza con un’accezione viscerale: la capacità di giungere a una conclusione, finalizzata allo svolgimento di un compito o alla risoluzione di un problema. 

Nel 1950 il matematico inglese Alan Turing - il succitato padre dell’informatica - pubblicò sulla rivista Mind un articolo destinato a ottenere eterna fortuna. In Computing Machinery and Intelligence Turing diede adito alla possibilità che una macchina computazionale, banalmente un computer, potesse sostituirsi integralmente all’uomo all’interno di una conversazione, replicando la sua capacità di interazione senza che l’interlocutore fosse in grado di riconoscere la natura organica o meno del suo reciproco. Una macchina in grado di fare ciò avrebbe superato con successo il test di Turing.

A dispetto della sacralità, mitica e quasi religiosa, che la materia ha attribuito al test di Turing e ai suoi esiti possibilmente sconvolgenti, esso è ben lontano dall’essere un esperimento in grado di palesare l’espressione di una coscienza meccanica, come la fantascienza è ben felice di credere, quanto, piuttosto, rappresenta un’analisi comparativa che intende porre a misura di umano la generazione sintattica operata dalla macchina. Una serie inenarrabile di fattori si concatenano nello stabilire la portata effettiva di tale esperimento, prima tra tutti l’area semantica entro cui si muove la definizione di intelligenza inorganica valutata dal test di Turing e che circuisce gli esiti e le sue valutazioni di un bias antropocentrico tremendamente limitante: se a definire tale macchina intelligente è la sua capacità di imitare un umano nella conduzione di una conversazione verbale, tutto ciò che esula in eccesso o in difetto dall’intervallo definito dal comportamento umano sconfina al di fuori di questa definizione. Raggiungere tale livello di avanzamento ha rappresentato per l’informatica un Sacro Graal venerato costantemente da tecnici, ingegneri, filosofi e scrittori, che vedevano nel superamento di questa sfida la prova incontrovertibile di una nuova forma di coscienza inorganica, ma il disincanto ha edulcorato la considerazione attribuita a quanto, ad oggi, è definito come un obsoleto tentativo di antropizzazione degli algoritmi. 

Nonostante la sua inevitabile tendenziosità, l’importanza del test del Turing non è del tutto evaporata. La capacità di una macchina di intraprendere un’interazione comunicativa in modo sovrapponibile a quello umano è una facoltà che attribuisce agli algoritmi di intelligenza artificiale una portata inedita. Per la prima volta, nel 2014, il test di Turing è stato superato con una soglia sufficientemente alta da un algoritmo generativo, quando il chatbot Eugene Goostman è riuscito a convincere il 33% dei giudici di essere un umano. Ma la svolta decisiva è avvenuta successivamente allo sviluppo e alla diffusione su larga scala dei LLM (Large Language Model), di cui ChatGPT costituisce sicuramente l’esempio più conosciuto. Le recenti versioni elaborate da OpenAI, ChatGPT 4 e ChatGPT 4.5, hanno infatti ottenuto dei successi schiaccianti nell’ingannare i loro interlocutori umani, raggiungendo un tasso rispettivamente del 54% e del 73%. Al di là delle infinite implicazioni etiche e metafisiche che l’argomento partorisce in seno della propria originalità, a costituire l’oggetto di questa breve dissertazione è l’impatto che le intelligenze artificiali e i loro peculiari algoritmi possono avere all’interno delle nostre reti, instaurando un nuovo paradigma dell’informazione in cui la forza motrice propulsiva delle nostre interconnessione non è più una qualità esclusiva della mente umana. 

Come il filosofo e storico Yuval Noah Harari fa lucidamente notare, all’interno dell’analisi contenuta in Nexus (Bompiani, 2024), la capacità degli algoritmi di intelligenza artificiale di riconoscere schemi e produrre contenuti concede loro l’assolutamente inedita possibilità di inserirsi all’interno delle reti sociali come nuovi membri, in grado di produrre, gestire, compartimentare e trasmettere l’informazione con modalità analoghe, ma tremendamente più efficienti, a quelle compiute da un essere umano. In altre parole, se fino ad oggi l’armamentario burocratico che la tecnica ha prodotto è stato utilizzato come mezzo inerte per amministrare l’informazione, le facoltà dell’intelligenza artificiale potrebbero per la prima volta introdurre degli agenti non umani e iniziarli a una partecipazione attiva nel contesto delle nostre reti informative. E quindi, constata la profonda influenza che i paradigmi dell’infosfera hanno sugli elementi fondamentali della nostra civiltà, l’I.A. potrebbe arpionare il dorso della storia per condurla verso un’inesorabile rivoluzione. 

Gli algoritmi di intelligenza artificiale sono in cantiere da molti anni, e i LLM ne rappresentano solo l’apicale e più pirotecnica manifestazione, ma, in realtà, la loro autorità ha iniziato a dilagare già da un decennio. Tutti i social network - altro strumento della burocrazia informativa - fanno affidamento su algoritmi molto complessi per smistare il flusso immenso di informazione che circolano attraverso i loro eterei canali di comunicazione. Questa celata presenza degli algoritmi che pervade il nostro quotidiano è forse uno dei primi assaggi dolceamari di come l’uomo stia già in parte venendo esautorato del controllo dell’informazione. Lo stesso Harari pone a esempio dell’impatto devastante della nuova forma di burocrazia dell’informazione il ruolo che ha avuto Facebook nell’esacerbare il conflitto etnico disastroso che funesta tutt’ora il Myanmar, e che ha esploso tra il 2016 e il 2017 una persecuzione militare perpetrata da parte della comunità buddista ai danni della minoranza islamica dei Rohingya. In un contesto di fortissima tensione sociale, i dissapori etnici sono stati catalizzati dalla diffusione incontrollata di contenuti e di notizie farcite di odio razziale, promulgate da una cerchia ristretta di fondamentalisti che hanno foraggiato la discriminazione e la persecuzione attraverso la forte risonanza mediatica ottenuta dalle proprie idee. Come questa deflagrante ondata di razzismo abbia potuto dilagare nell’esteso ed eterogeneo tessuto sociale del Myanmar è presto detto: gli algoritmi di Facebook, che in Myanmar costituisce tutt’oggi la principale piattaforma di diffusione delle informazioni, in quanto efficiente corriere democratico all’interno di un Paese reduce dalla repressione di una dittatura militarista, hanno alimentato e supportato i contenuti razzisti donando loro e ai loro creatori visibilità estrema, a detrimento dei contenuti moderati e razionali. Ciò è accaduto non perché gli algoritmi sottesi alla gestione del flusso informativo del social network siano intrinsecamente razzisti, o perché Facebook abbia intenzionalmente foraggiato un genocidio, ma alla base di questa discriminazione ideologica dei contenuti vi è il calcolo utilitaristico che prescrive agli stessi algoritmi di fornire maggiore visibilità ai contenuti che sono in grado di generare maggiore coinvolgimento dell’utenza, proponendo conseguentemente al pubblico, secondo una cascata viziosa di auto-alimentazione, contenuti intrisi di odio e disprezzo. L’indignazione, la rabbia, l’odio, il populismo o l’invettiva sono emozioni o valori che stimolano la psiche umana più facilmente di quanto non siano in grado di fare sentimenti misurati, equilibrati e razionali. Ed è, questo, solo uno dei tanti esempi di come i bias e le fallacie umane possano costituire una crepa insuturabile nel tessuto delle nostre reti sociali che gli algoritmi e le intelligenze artificiali utilizzano, anche non intenzionalmente, per adempiere a obiettivi apparentemente innocui. 

Come già detto, le intelligenze artificiali hanno una capacità sovra-umana nel riconoscimento e nella deduzione di schemi, essendo in grado di derivare causalità logiche da una mole ampissima di dati che vengono loro forniti. Si tratta di un vero e proprio addestramento, cui ogni I.A. deve andare incontro per poter intraprendere analisi più complesse o spendersi in processi creativi. Da ciò nasce la loro efficienza: nutrendosi del materiale umano prodotto nell’arco della nostra esistenza e di quanto venga quotidianamente immesso all’interno delle nostre reti sociali, le I.A possono acquisire capacità senza precedenti nella deduzione di regole, nella produzione materiale o intellettuale di nuovi contenuti, o nella categorizzazione di realtà empiriche. Ma da ciò si genera anche la loro tendenza alla fallibilità: studiando su materiale umano, le intelligenze artificiali assorbono non solo la nostra enorme conoscenza, ma anche l’enorme e ancor più vasto repertorio di pregiudizi, miti, narrazioni, illusioni e incanti fuorvianti che costernano il nostro pensiero. Inoltre, costituendosi come membri attivi della nostra rete globale, le I.A. hanno la possibilità di generare autonomamente narrazione proprie, alimentando miti e pregiudizi che troverebbe concretezza nel loro tessuto comunicativo esattamente come le realtà intersoggettive umane muovono i fili della nostra civiltà. Di questi romanzi informatici, delle storie che le I.A. inizieranno a raccontarsi per trascendere la loro individualità in una comunione organica di idee e “intenzioni”- in fondo è questo il ruolo cardine delle storie - noi umani non avremo contezza, in quanto prodotto inedito e originale di un’intelligenza a noi aliena. Perscrutare tra le fila inestricabili di algoritmi così avanzati è per un umano praticamente impossibile, al netto di far affidamento ad un altro algoritmo che potrebbe nel medesimo modo del suo paziente essere affetto da un prodotto patologico e ineffabile di fallacie. Le relazioni logiche delle reti neurali sono prodotti matematici estremamente complicati, la cui esecuzione richiede potenze di calcolo esorbitanti, e i loro risultati, gli output, sono spesso inspiegabili agli occhi degli stessi informatici che ne hanno curato la realizzazione. 

L’impenetrabilità degli algoritmi di I.A. è un problema serio, da cui dobbiamo fin da ora, sin dagli albori di questa nuova era delle intelligenze artificiali, metterci in guardia. L’opacità strutturale degli algoritmi potrebbe impedirci di verificare l’allineamento dell’esecuzione predittiva e probabilistica dell’I.A. con l’intenzionalità razionale delle nostre volontà, e causare una divergenza estrema tra fini e risultati. Con la trasformazione progressiva delle intelligenze artificiali in intelligenze aliene, favorite dall’emancipazione delle stesse dal terreno di coltura, quello umano, da cui hanno tratto origine e da cui è mosso il loro addestramento, esse potrebbero diventare delle scatole nere in grado di decidere arbitrariamente se immettere o drenare entropia dalla nostra rete d’informazione, se promuovere l’adesione della stessa con la realtà o se ragguagliarla alla farsa e alla menzogna. In questo contesto devono muoversi i nostri dubbi, elaborati congiuntamente alla consapevolezza che la base di ogni paradigma d’informazione efficace e controllabile è la creazione al suo interno di un sistema di autocorrezione che possa emendare la burocrazia dai suoi errori: esso è la base della scienza, della democrazia, della nostra psiche. Una serie di importanti domande scaturiscono e dovrebbero porsi come direttiva della nostra lungimiranza: se l'algoritmo decide ma non è comprensibile, dove finisce la sovranità decisionale dell’essere umano? Chi detiene il potere in un’ipotetica algocrazia? O, ancora: di chi è la colpa se un sistema algoritmico nega un mutuo o fomenta una rivolta?

L’immissione nell’infosfera di questi nuovi membri, abbiamo compreso, sarà determinante nel modificare il nostro approccio con l’informazione. Tuttavia, bisogna fugare l’idea che la tecnologia possa essere deterministica, lo è bensì la sua negazione: è tanto possibile asserire l’impossibilità di costituire la nostra società moderna senza l’aiuto dei computer, quanto è impossibile prevedere con certezza quale sarà la direzione della nostra storia a seguito della rivoluzione operata dalle intelligenze artificiali. Le possibilità sono molteplici, e non tutte sono necessariamente ascrivibili a uno scenario distopico. Dati i presupposti, gli algoritmi di I.A. potrebbero coadiuvarci nel mantenimento della nostra società civile consentendoci di conservare la prerogativa decisionale delle nostre azioni ed intenzioni, e, se ci dimostreremo bravi, potrebbero semplicemente rappresentare dei nuovi validi colleghi burocrati per l’amministrazione della nostra infosfera. Tuttavia, è innegabile che le I.A. presentino al tempo stesso il germe di un potere tale da attentare e rivoluzionare i nostri tradizionali ordinamenti politici, insidiando tanto la libertà democratica quanto il dispotico controllo dei totalitarismi. 

Delegare parti sempre più cospicue della nostra autorità agli algoritmi di I.A. sarà l’atteggiamento genitore di una futura algocrazia, in cui l’uomo farà le spese degli esoneri a cui andrà concedendosi. Una volta consegnata a esse l’egemonia dell’infosfera., noi essere umani saremmo completamente esautorati da ogni potere di controllare e legittimare le direzioni intraprese dalla nostra informazione. E quando questa cortina di silicio avrà contagiato anche gli apparati politici dei nostri Stati, il potere reale, che trae dalla rete informativa il materiale grezzo per costruire una decisione e orientare la propria azione, sarà filtrato dalla patina opaca e imperscrutabile degli algoritmi. Si riproporrà, per scomodare una similitudine storica, una relazione simile a quella che intercorreva tra l’imperatore romano Tiberio e il capo dei pretoriani Seiano, che ha giorno dopo giorno coltivato e accresciuto il proprio potere grazie a un’accorta manipolazione fondata proprio sul controllo, apparentemente innocuo, dell’informazione, che Tiberio aveva ingenuamente affidato al suo luogotenente di fiducia, arrivando a esiliare il proprio imperatore - ritiratosi nell'isola di Capri - dalla burocrazia informativa dell'impero. Il risultato: un totalitarismo manovrato dalle mani accentratrici di un algoritmo, privo di diritti ed esentato da ogni dovere, immune alla responsabilità, e con il quale vigerà un rapporto di estrema incomunicabilità. 

Se non accoglieremo già da domani i moniti di tale urgenza, quella di progettare delle istituzioni future che possano salvaguardare la sovranità della nostra informazione, l’essere umano correrà il rischio di venire relegato ai margini della storia, e di trasformarsi nel biografo inerme di una vita collettiva scritta e impaginata dall’intelligenza di altre entità.