Chat Control: il precedente che potrebbe cambiare l’Europa

Il Parlamento europeo è riuscito oggi in un incredibile gioco di prestigio per la Democrazia: ha respinto la proposta sul cosiddetto Chat Control, riuscendo ciononostante ad approvarla. Il testo è stato infatti bocciato con 314 voti contrari e 276 favorevoli, ma, per un escamotage procedurale, la soglia necessaria per la sua cancellazione non è stata raggiunta. Lunedì l’approvazione della “Procedura d’urgenza” ha fatto sì che servissero 361 voti per fermarlo – la metà più uno dei presenti – e questo numero non è stato raggiunto. Una furbizia voluta dalla Presidenza del Parlamento ha oggettivamente umiliato il valore del suo voto.

Con il pretesto di contrastare con la massima determinazione lo sfruttamento sessuale dei minori – un dovere morale e giuridico sul quale non può esistere alcuna ambiguità – si calpesta un principio base della democrazia liberale, la sacralità della corrispondenza privata, tutelata dall’articolo 15 della Costituzione. Questa vicenda apre interrogativi profondi, che toccano anche le radici del nostro sistema giuridico, ma offre l’occasione per riflettere su quale modello di Europa si stia progressivamente delineando e su quale concezione del rapporto tra cittadino, tecnologia e potere pubblico stia prendendo forma.

Il vero significato del Chat Control non risiede quindi soltanto nella tecnologia proposta, ma nel precedente  che sta creando. Per la prima volta si affacciava il principio secondo cui le comunicazioni private di milioni di cittadini, non destinatari di alcun sospetto individuale, potessero essere sottoposte a procedure automatizzate di ricerca di contenuti illeciti. È un mutamento di paradigma. Nella tradizione giuridica europea il sospetto precede l’indagine; con questo approccio il sospetto rischiava invece di diventare il risultato dell’indagine stessa. La differenza non è terminologica. È il passaggio da un modello fondato sull’accertamento individuale a uno fondato sulla verifica generalizzata.

Ma il punto decisivo, sorprendentemente quasi assente dal dibattito pubblico, è un altro. Per analizzare l’enorme quantità di comunicazioni che ogni giorno attraversano piattaforme di messaggistica e social network non sarebbero stati magistrati o investigatori a leggere miliardi di messaggi. Sarebbero stati sistemi automatizzati. E qui emerge la domanda dalla quale dipende l’intero equilibrio democratico della futura disciplina: chi stabilirebbe cosa dovrebbe cercare quell’algoritmo?

Ogni algoritmo è il risultato di una scelta umana. Qualcuno dovrebbe decidere quali parametri utilizzare, quali immagini confrontare, quali correlazioni individuare, quale livello di probabilità giustifichi una segnalazione, quale margine di errore possa essere considerato accettabile. Non esistono algoritmi neutrali. Esistono algoritmi costruiti sulla base di ipotesi, priorità e criteri definiti da persone in carne e ossa. La domanda allora diventa inevitabile: chi sarebbero queste persone? La Commissione europea? Europol? Le autorità nazionali? Le piattaforme digitali? Società private incaricate dello sviluppo del software? Consulenti esterni? E, soprattutto, con quale legittimazione democratica?

Sono interrogativi che non riguardano soltanto l’informatica. Riguardano il cuore della teoria costituzionale. In uno Stato di diritto sappiamo chi approva le leggi, chi le applica e chi ne controlla la conformità alla Costituzione. Molto meno chi traduce quei principi in milioni di righe di codice destinate a operare ogni giorno, silenziosamente, sulle comunicazioni di centinaia di milioni di cittadini. Eppure è proprio in quel codice che si concentrerebbe una parte rilevante del potere effettivo. Chi scrive un algoritmo non si limita a realizzare una scelta tecnica: stabilisce concretamente ciò che dovrà essere cercato, ciò che dovrà essere ignorato, ciò che dovrà essere segnalato e, inevitabilmente, quali cittadini finiranno per attirare l’attenzione delle autorità.

La questione è tanto più delicata perché il codice informatico non è sottoposto agli stessi meccanismi di responsabilità che regolano l’esercizio del potere pubblico. Un Parlamento risponde agli elettori. Un Governo risponde alle Camere. Un magistrato risponde alla legge. Ma chi risponde dell’algoritmo? Chi ne certifica l’imparzialità? Chi ne verifica periodicamente il funzionamento? Chi controlla che i criteri originari non vengano progressivamente modificati? Chi garantisce che il numero dei falsi positivi rimanga compatibile con i diritti fondamentali? E quali strumenti di tutela avrebbe il cittadino erroneamente coinvolto? Sono domande alle quali una democrazia liberale dovrebbe rispondere prima ancora di ipotizzare l’affidamento a sistemi automatizzati di una funzione tanto delicata.

Antonio Maria Rinaldi, ex membro della commissione del Parlamento Europeo ECON

L’Unione europea ha costruito negli ultimi anni gran parte della propria identità internazionale sulla difesa della riservatezza, della protezione dei dati personali e del principio di proporzionalità, presentandosi come il modello alternativo sia al capitalismo digitale privo di regole sia ai sistemi di sorveglianza di tipo autoritario. È quindi inevitabile interrogarsi sulla coerenza di una proposta che avrebbe introdotto, sia pure con finalità del tutto legittime, un principio nuovo: la possibilità che la comunicazione privata diventasse oggetto di analisi preventiva su larga scala. Le tecnologie cambiano rapidamente; i precedenti giuridici molto meno. Una volta affermato un simile principio, sarebbe stato inevitabilmente più difficile stabilire quale limite avrebbe impedito, domani, di estendere lo stesso modello ad altre ipotesi ritenute altrettanto meritevoli di tutela.

La storia delle democrazie insegna che le libertà non vengono normalmente soppresse con un solo provvedimento. Si restringono gradualmente, attraverso una successione di eccezioni, ciascuna motivata da esigenze reali e condivisibili. È questa la ragione per cui il Chat Control rappresenta comunque uno spartiacque politico e culturale. Anche se respinto, ha mostrato fino a dove una parte delle istituzioni europee fosse disposta a spingersi. Ed è un dibattito destinato a ripresentarsi.

Il problema, in definitiva, non è soltanto chi controllerà le comunicazioni. Il problema è chi controllerà chi decide, attraverso un algoritmo, che cosa debba essere controllato. È su questo interrogativo che si misurerà, nei prossimi anni, la fedeltà dell’Unione europea ai principi dello Stato di diritto che essa stessa afferma di voler difendere.

Antonio Maria Rinaldi

Rimani aggiornato seguendoci su Google News!

SEGUICI