In una recente puntata di Eta Beta | Rai Radio 1 | RaiPlay Sound, intitolata "Quando il potere diventa calcolo: l’AI tra Cina, Usa e democrazia", il conduttore Massimo Cerofolini ha ospitato Paolo Benanti, francescano, teologo ed esperto di etica delle tecnologie, nonché autore del saggio La nuova logica del dominio – Potere computazionale, democrazia e condizione umana.
Le parole di Benanti offrono una lucida e inquietante fotografia di come le grandi piattaforme tecnologiche stiano ridefinendo il concetto stesso di sovranità, superando i tradizionali pilastri democratici su cui si fonda l'Occidente.
L'annullamento dell'esistenza virtuale: l'aneddoto del giudice dell'Aia
Per comprendere la pervasività e la pericolosità di questo nuovo paradigma, Benanti ha condiviso un esempio concreto e disarmante, che mostra come un ordine politico possa trasformarsi, attraverso la tecnologia, in una condanna all'eliminazione digitale:
“Lo scorso agosto un giudice della corte internazionale dell’Aia, di nazionalità francese, ha fatto un atto d’ufficio: ha ricevuto un fascicolo e nel fascicolo si accusava Netanyahu di crimini di guerra. In questo caso, il suo dovere era di aprire un’indagine formale. Immediatamente dopo aver aperto l’indagine, come dovere d’ufficio, il presidente Trump ha deciso di includere il nome del giudice nella lista dei terroristi internazionali.
Quali sono state le conseguenze?
Le conseguenze sono state che il giudice è stato immediatamente privato da tutti i servizi che girano su piattaforme statunitensi. Cioè, il giudice si è ritrovato impossibilitato a usare l’email; ha perso la possibilità di connettersi alla piattaforma del tribunale, in quanto piattaforma statunitense; non è stato più in grado di usare la sua carta di credito; ecc.
Cioè, se noi lo guardiamo nell’ottica della società civile, un cittadino francese ha subito un atto di annullamento totale della sua esistenza virtuale, che sempre di più si avvicina a un'esistenza reale, a opera di un giudizio che è diventato esecutivo al di fuori della tradizionale tripartizione dei poteri di Montesquieu.”
Questo episodio è il sintomo di un cambiamento epocale. Siamo di fronte a un nuovo potere esecutivo e transnazionale che sta eclissando, in quanto a potenza e immediatezza, i tre poteri tradizionali (legislativo, esecutivo e giudiziario). Un vero e proprio cambio di paradigma che caratterizzerà il futuro dei sistemi politici e le interazioni tra esseri umani.
Dalla "Stanza dei Bottoni" allo Schermo del cellulare
Il potere non ha più bisogno di manifestarsi fisicamente per esercitare il proprio controllo. Ha cambiato pelle, diventando invisibile e molecolare, come spiega efficacemente Benanti:
“C'è stato un tempo in cui il potere si vedeva: palazzi, bandiere, eserciti, stanze dei bottoni. Oggi entra nel cellulare, suggerisce una scelta, ordina una lista di risultati, decide cosa vediamo prima e cosa non vediamo mai. Il vertice di Pechino tra Xi Jinping e Donald Trump lo ha mostrato bene: la tecnologia non è più un settore commerciale, ma è il cuore della geopolitica. Chip, intelligenza artificiale, terre rare, cloud e dati sono diventati strumenti di potere. E chi controlla la capacità di calcolo non controlla solo le macchine, ma anche pezzi delle nostre menti. E per difendere i nostri diritti servono limiti etici già nel momento di scrittura dei codici.”
Una riflessione per il futuro
Se chi controlla gli algoritmi ha il potere di decidere che cosa vediamo, che cosa compriamo, come pensiamo e, nei casi più estremi, se abbiamo o meno il diritto di "esistere" nello spazio digitale, allora la democrazia è a rischio.
La questione è profondamente etica e costituzionale. Come suggerisce Padre Benanti, la difesa dei diritti umani e democratici non può più avvenire solo "dopo", attraverso le leggi ordinarie, ma deve essere integrata "prima", nel momento stesso in cui i codici e le intelligenze artificiali vengono programmati.

