Chat Control + Vie privée structurelle — Le problème de l'enveloppe scellée

"On ne peut pas savoir ce qu'il y a dans une enveloppe scellée sans l'ouvrir. Et une enveloppe qui peut être ouverte n'est pas une enveloppe scellée."

— axiome de la vie privée structurelle

Il y a une question qui sous-tend tout le débat sur Chat Control mais qui est rarement formulée explicitement : que signifie réellement "savoir" le contenu d'une communication sans l'avoir vue ?

Cette question, qui semble métaphysique, a des conséquences pratiques immédiates. Car si nous ne pouvons pas y répondre, tout système de détection sera nécessairement faux : ou bien il ne sait pas vraiment (et donc ne détecte pas), ou bien il sait vraiment (et donc a brisé la vie privée).

Le paradoxe de l'inspecteur

La structure du problème est la suivante :

1. Pour savoir si M est illégal, il faut examiner M
2. Si M est examiné, la vie privée de M a été violée (indépendamment de M)
3. Donc : soit on ne sait pas (vie privée intacte, inspection échouée)
          soit on sait (vie privée violée, inspection réussie)

Il n'y a pas de juste milieu. On ne peut pas "savoir un peu" si un message est illégal. Ou on accède au contenu, ou on n'y accède pas. Et si on y accède, la vie privée n'existe plus, même si le contenu s'avère légal.

Ce paradoxe n'est pas technique. Il est structurel : il décrit une propriété de la connaissance et de l'inspection qui ne dépend pas de la technologie employée.

Le problème du classificateur aveugle

Les défenseurs du CSS argumentent que le classificateur ne "voit" pas le contenu ; il ne produit qu'un verdict. Mais c'est une illusion. Un classificateur qui détermine si $M \in \mathcal{B}$ a besoin, pour fonctionner, d'accéder à une représentation de $M$ qui contienne suffisamment d'informations pour effectuer la classification.

Formellement, un classificateur $f: \mathcal{M} \to \{0, 1\}$ qui détermine si $M \in \mathcal{B}$ nécessite qu'il existe une fonction de caractéristiques $\phi: \mathcal{M} \to \mathbb{R}^n$ telle que :

f(M) = g(\phi(M))

où $g$ est la fonction de décision du classificateur. Le problème est que $\phi(M)$ contient des informations sur M. Plus le classificateur $f$ est précis, plus $\phi(M)$ contient d'informations sur $M$ . Un classificateur parfait contiendrait toutes les informations de $M$ .

Classificateur binaire simple :
    M → [hash] → [0, 1]        → Ne sait rien de M (seulement s'il correspond)
                                  Mais ne détecte que le CSAM connu

Classificateur par contenu :
    M → [embedding CNN] → [0, 1]  → En sait beaucoup sur M (structure, couleurs,
                                     textures, objets)
                                  Détecte le nouveau CSAM... en échange de
                                  l'extraction d'informations substantielles de M

Le paradoxe du classificateur aveugle est que plus il classifie bien, plus il extrait d'informations, et plus il viole la vie privée. Un classificateur qui ne viole pas la vie privée ne classifie rien d'utile.

L'asymétrie ontologique

Dans l'article Le coût de se protéger (Obscura), une asymétrie est formulée qui se reproduit ici :

Pour l'attaquant, l'identité est une donnée. Pour le défendu, l'identité est une expérience.

Dans Chat Control, l'asymétrie correspondante est :

Pour le système de surveillance, le message est une donnée à classifier. Pour l'utilisateur, le message est une expression privée.

Le système de surveillance ne souffre pas lorsqu'il inspecte un message innocent. Il ne ressent pas la violation, l'intrusion, la perte du privé. Pour le système, c'est une classification de plus : f(M) = 0 (pas CSAM) et on passe à autre chose. Pour l'utilisateur, c'est une frontière qui a été franchie sans sa connaissance ni son consentement.

Kierkegaard a écrit : "L'angoisse est le vertige de la liberté". L'angoisse contemporaine est différente : c'est le vertige de savoir que notre liberté — notre capacité de communiquer sans être observés — dépend de la décision d'un classificateur que ça ne vaut pas la peine de regarder.

La nécessité de perdre l'identité (communicative)

La série La nécessité de perdre l'identité conclut que la seule forme authentique de résistance contre le fingerprinting est apprendre à ne pas être : se dissoudre dans la foule statistique jusqu'à devenir indistinguable.

Dans Chat Control, la même logique s'applique à la communication : la seule façon de ne pas être analysé est d'être indistinguable d'un utilisateur qui n'a rien à cacher. Mais cela exige :

De ne pas chiffrer extérieurement (tu serais détectable)
De ne pas utiliser d'outils de vie privée supplémentaires (tu serais détectable)
De se comporter comme l'utilisateur moyen (pour ne pas générer de signaux de métadonnées)

C'est-à-dire : la protection exige la soumission au profil attendu. La résistance exige la dissolution dans le commun. C'est le même paradoxe qu'Obscura documente : se protéger trahit que l'on se protège, et ne pas se protéger laisse exposé.

Vers une vie privée structurelle

La conclusion qui émerge du croisement de la recherche d'Obscura avec l'analyse de Chat Control est que la vie privée n'est pas une collection d'outils techniques mais une propriété structurelle des systèmes de communication. Et en tant que propriété structurelle, elle ne peut pas être ajoutée a posteriori par des mécanismes d'analyse, de classification ou de key escrow.

La vie privée structurelle nécessite :

Que le contenu ne soit accessible qu'aux extrémités : c'est la définition du E2EE
Que la plateforme n'ait pas de capacité d'inspection : c'est la définition du chiffrement
Que l'utilisateur ne soit pas pénalisé pour s'être protégé : c'est la condition de possibilité de la vie privée

Chat Control viole ces trois conditions. Non pas parce que le CSAM n'est pas une menace réelle, mais parce que l'approche proposée détruit la structure qui rend possible la vie privée pour tous, y compris ceux qui n'ont rien à cacher.

Comme l'a écrit Paul Tillich, que nous avons cité dans La probabilité de l'improbable :

"Le courage d'être est la capacité d'affirmer son propre être malgré la menace du non-être."

Le courage d'être privé — d'affirmer sa propre communication comme sphère inviolable — est la capacité de l'affirmer malgré la menace de la surveillance. Et cette affirmation ne se fait pas par des outils plus sophistiqués, mais par la décision structurelle que le système ne puisse pas inspecter ce pour quoi il n'a pas la clé d'ouverture.

Documents connexes :