Chat Control + Privacy strutturale — Il problema della busta chiusa

"Non si può sapere cosa c'è dentro una busta chiusa senza aprirla. E una busta che può essere aperta non è una busta chiusa."

— assioma della privacy strutturale

C'è una domanda che sottostà a tutto il dibattito su Chat Control ma che raramente viene formulata esplicitamente: cosa significa realmente "sapere" il contenuto di una comunicazione senza averla vista?

Questa domanda, che sembra metafisica, ha conseguenze pratiche immediate. Perché se non possiamo rispondere, qualsiasi sistema di rilevamento sarà necessariamente falso: o non sa realmente (e quindi non rileva), oppure sa realmente (e quindi ha violato la privacy).

Il paradosso dell'ispettore

La struttura del problema è la seguente:

1. Per sapere se M è illegale, bisogna esaminare M
2. Se M viene esaminato, la privacy di M è stata violata (indipendentemente da M)
3. Quindi: o non si sa (privacy intatta, ispezione fallita)
              o si sa (privacy violata, ispezione riuscita)

Non esiste una via di mezzo. Non si può "sapere un po'" se un messaggio è illegale. O si accede al contenuto o non vi si accede. E se vi si accede, la privacy non esiste più, anche se il contenuto risulta essere legale.

Questo paradosso non è tecnico. È strutturale: descrive una proprietà della conoscenza e dell'ispezione che non dipende dalla tecnologia impiegata.

Il problema del classificatore cieco

I sostenitori del CSS sostengono che il classificatore non "vede" il contenuto; produce solo un verdetto. Ma questa è un'illusione. Un classificatore che determina se $M \in \mathcal{B}$ ha bisogno, per funzionare, di accedere a una rappresentazione di $M$ che contenga sufficienti informazioni per effettuare la classificazione.

Formalmente, un classificatore $f: \mathcal{M} \to \{0, 1\}$ che determina se $M \in \mathcal{B}$ necessita che esista una funzione di caratteristiche $\phi: \mathcal{M} \to \mathbb{R}^n$ tale che:

f(M) = g(\phi(M))

dove $g$ è la funzione di decisione del classificatore. Il problema è che $\phi(M)$ contiene informazioni su M. Più preciso è il classificatore $f$ , più informazioni su $M$ contiene $\phi(M)$ . Un classificatore perfetto conterrebbe tutte le informazioni di $M$ .

Classificatore binario semplice:
    M → [hash] → [0, 1]        → Non sa nulla di M (solo se corrisponde)
                                  Ma rileva solo CSAM noto

Classificatore per contenuto:
    M → [embedding CNN] → [0, 1]  → Sa molto di M (struttura, colori,
                                     trame, oggetti)
                                  Rileva CSAM nuovo... in cambio di
                                  estrarre informazioni sostanziali da M

Il paradosso del classificatore cieco è che più classifica bene, più informazioni estrae, e quindi più viola la privacy. Un classificatore che non viola la privacy non classifica nulla di utile.

L'asimmetria ontologica

Nell'articolo Il costo di proteggersi (Obscura), viene formulata un'asimmetria che qui si replica:

Per l'attaccante, l'identità è un dato. Per il difensore, l'identità è un'esperienza.

In Chat Control, l'asimmetria corrispondente è:

Per il sistema di sorveglianza, il messaggio è un dato da classificare. Per l'utente, il messaggio è un'espressione privata.

Il sistema di sorveglianza non soffre quando ispeziona un messaggio innocente. Non sperimenta la violazione, l'intrusione, la perdita del privato. Per il sistema, è una classificazione in più: f(M) = 0 (non CSAM) e viene scartato. Per l'utente, è un confine che è stato varcato senza la sua conoscenza né il suo consenso.

Kierkegaard scrisse: "L'angoscia è la vertigine della libertà". L'angoscia contemporanea è diversa: è la vertigine di sapere che la nostra libertà —la nostra capacità di comunicare senza essere osservati— dipende dal fatto che un classificatore decida che non vale la pena guardare.

La necessità di perdere l'identità (comunicativa)

La serie La necessità di perdere l'identità conclude che l'unica forma genuina di resistenza contro il fingerprinting è imparare a non essere: dissolversi nella folla statistica fino a diventare indistinguibile.

In Chat Control, la stessa logica si applica alla comunicazione: l'unico modo per non essere scansionati è essere indistinguibili da un utente che non ha nulla da nascondere. Ma questo richiede:

Non crittografare esternamente (saresti rilevabile)
Non usare strumenti di privacy aggiuntivi (saresti rilevabile)
Comportarsi come l'utente medio (per non generare segnali di metadati)

Cioè: la protezione richiede la sottomissione al profilo atteso. La resistenza richiede la dissoluzione nella normalità. È lo stesso paradosso che Obscura documenta: proteggersi tradisce che ti proteggi, e non proteggerti ti lascia esposto.

Verso una privacy strutturale

La conclusione che emerge incrociando la ricerca di Obscura con l'analisi di Chat Control è che la privacy non è una collezione di strumenti tecnici ma una proprietà strutturale dei sistemi di comunicazione. E come proprietà strutturale, non può essere aggiunta a posteriori mediante meccanismi di scansione, classificazione o key escrow.

La privacy strutturale richiede:

Che il contenuto sia accessibile solo agli estremi: è la definizione di E2EE
Che la piattaforma non abbia capacità di ispezione: è la definizione di crittografia
Che l'utente non sia penalizzato per essersi protetto: è la condizione di possibilità della privacy

Chat Control viola tutte e tre. Non perché il CSAM non sia una minaccia reale, ma perché l'approccio proposto distrugge la struttura che rende possibile la privacy per tutti, inclusi coloro che non hanno nulla da nascondere.

Come scrisse Paul Tillich e citiamo in La probabilità dell'improbabile:

"Il coraggio di essere è la capacità di affermare il proprio essere nonostante la minaccia del non-essere."

Il coraggio di essere privati —di affermare la propria comunicazione come sfera inviolabile— è la capacità di affermarla nonostante la minaccia della sorveglianza. E questa affermazione non si fa attraverso strumenti più sofisticati, ma attraverso la decisione strutturale che il sistema non possa ispezionare ciò per cui non ha la chiave per aprire.

Documenti correlati: