Ik wil het hebben over de dingen die me ’s nachts wakker houden. Dit omvat vooral een stortvloed aan regelgevingsvoorstellen die valse technische oplossingen bieden voor complexe maatschappelijke problemen. Deze oplossing stelt het recht op privacy gelijk aan wangedrag. En ze willen slecht gedrag aanpakken door privacy te verwijderen.

De terugkeer van de dunne oplossing

In mijn bijna twintig jaar in de technologie heb ik dezelfde gesprekken zien wegebben, sterven en terugkeren – en dezelfde magische gedachtevormen keer op keer opduiken.

Het patroon gaat ongeveer zo: Complexe en lastige maatschappelijke vraagstukken trekken de aandacht van toezichthouders en de media. Iedereen erkende de ernst van het probleem en de urgentie om het op te lossen. We zijn verontrust, bezorgd en emotioneel. En mensen hebben haast om “iets te doen”.

Dan krijgen we dezelfde flinterdunne ‘oplossing’ voorgeschoteld: om onrecht in de wereld recht te zetten, zegt hij, moet men persoonlijke communicatie beperken.

Het gevaar van massasurveillance

De geschiedenis van computers zit vol met afleveringen die de gevaren van massasurveillance illustreren. Vanaf gebruik Hollerith-machine van IBM door de nazi’s, die het gebruikten om de holocaust te orkestreren, door de Amerikaanse autoriteiten die illegaal toegang kregen tot censusgegevens om Japanse Amerikanen te identificeren en te interneren, door de inspanningen van het Zuid-Afrikaanse apartheidsregime om de handhaving van segregatie te digitaliseren. En vandaag overhandigen technologiebedrijven gewillig de gegevens van hun gebruikers die medische zorg zoeken, wat in de Verenigde Staten strafbaar is.

Maar ik denk niet dat ik al te lang bij de geschiedenis hoef stil te staan. We kennen allemaal de gevaren van massasurveillance, vooral in autoritaire tijden.

Maar de geschiedenis van de communicatietechnologie heeft ook het magische denken gevormd van veel regeringen, die daadwerkelijk een omelet willen bereiden zonder het ei te breken. Hun doel was bijvoorbeeld om een ​​achterdeur te creëren waartoe alleen de “good guys” toegang zouden hebben. Deze achterdeur zou veilig zijn voor bedreigingen van “anderen”.

Geen goede achterdeur

Zulke pogingen mislukken altijd. Dat de beroemde clipper-chip is slechts een voorbeeld van velen. Miljoenen dollars zijn aan dergelijke inspanningen verspild en aanverwante projecten zijn herhaaldelijk op de lange baan geschoven. Want de waarheid is dat elk systeem dat “ons” toegang geeft, snel kan worden uitgebuit door “zij” – vijandige actoren die de kritieke infrastructuur in gevaar brengen waarvan regeringen, bedrijven en het maatschappelijk middenveld afhankelijk zijn.

Toch komt dit soort magisch denken nog steeds naar voren, of het nu gaat om misplaatste bepalingen van de UK Online Safety Act, de EU Chat Control Regulations of in dataretentiegevechten op staatsniveau. Een voorbeeld van dat laatste is de aanval op versleutelde communicatiediensten in België, of het debat over de vraag of dataopslag van privé-communicatiegegevens toelaatbaar of zelfs maar een slim idee is.

Het woord “achterdeur” wordt in het debat niet altijd gebruikt. In feite zijn toezichtsvoorstellen, althans wat betreft het politieke kader, de afgelopen jaren verfijnder geworden. In de CSAM-wet van de EU beweren velen bijvoorbeeld dat hun voorstellen verenigbaar zijn met end-to-end encryptie – zonder ondersteunend bewijs te leveren. Ze willen praktijken invoeren die end-to-end encryptie volledig ondermijnen, zo niet elimineren.

Faustiaans pact

Anderen hebben een even gevaarlijke maar nieuwere variant van magisch denken voorgesteld. Ze geven toe dat de achterdeur niet de juiste weg is. In plaats daarvan stellen ze end-to-end encryptie voor “buiten” massasurveillance, meestal leidend tot client-side scansystemen (CSS).

Maak je geen zorgen, vertrouw ons, we scannen je berichten op je apparaat voordat ze worden versleuteld. We zullen het vergelijken met onze ondoorzichtige database van verboden talen om ervoor te zorgen dat u binnen de door de overheid goedgekeurde uitdrukkingslimieten blijft. Dan? Daarna kunt u doorgaan zoals voorheen en uw gegevens versleutelen.

Scannen aan de clientzijde is een Faustiaans pact dat het uitgangspunt van end-to-end-codering verslaat. Omdat dit pact zeer onveilige technologie verplicht stelt waarmee regeringen letterlijk elke uiting kunnen verifiëren voordat deze wordt uitgesproken.

AI is geen zilveren kogel

CSS vormt ook een ander probleem. Omdat deze systemen zijn gebaseerd op de zogenaamde “kunstmatige intelligentie” (AI). Deze technologie genereert echter verstrekkende valse alarmen. En ze kunnen worden gehackt met aanvallen die weinig tot geen verdediging hebben. De EU onderhandelt momenteel over AI-regelgeving om deze uitdaging het hoofd te bieden. In deze context denk ik dat het erg belangrijk is dat we die mensen betrekken bij de discussie over client-side scanning die de gebreken en zwakheden van AI-systemen zeer zorgvuldig hebben onderzocht. We moeten toegeven dat AI hier, net als elders, geen wondermiddel is.

Het is even schokkend als verontrustend dat beroemdheden, opinieleiders en politici onlangs hebben beweerd dat er technologische oplossingen zijn die inhoud kunnen scannen op verboden verklaringen zonder de end-to-end encryptie te doorbreken.

Ik ben geen beroemdheid of influencer. Maar ik ken mijn weg in de techniek. En ik wil benadrukken dat zoiets niet bestaat. Dat is niet mogelijk.

Het grondrecht op privacy wordt uitgefaseerd

Daarom zijn degenen die anders beweren ofwel niet geïnformeerd ofwel in een alarmerende staat van ontkenning. Of ze kunnen ronduit cynisch zijn, in de hoop dat ze door belachelijke technische oplossingen te beloven meer toezichtswetgeving kunnen aannemen voordat iemand erachter komt.

Een wereld zonder privacy is er echter een waarin de asymmetrie van macht is opgesloten zoals in barnsteen. Dit is een wereld waar meningsverschillen gevaarlijk zijn en intimiteit gevaar loopt. En dit is een wereld waar energie om nieuwe ideeën te verkennen, naïeve vragen te stellen of onvolwassen gedachten uit te werken, verspild wordt.

In een wereld die sterk afhankelijk is van digitale communicatie, neemt het breken van de codering in feite het fundamentele recht op privacy weg. En ook de veiligheid van de digitale infrastructuur waarvan het bedrijfsleven, de overheid en het maatschappelijk middenveld afhankelijk zijn, wordt bedreigd.

Het is tijd om terug te keren naar de realiteit

In Hongarije worden homoseksuelen en transgenders gediscrimineerd en gecriminaliseerd, net als LGBTQ-literatuur en -expressie. In de VS, waar ik woon, heeft de staat South Carolina een wet die iedereen ter dood veroordeelt voor het gebruik van gecriminaliseerde reproductieve gezondheidsdiensten. En elke staat in de VS heeft wetten voorgesteld die het homohuwelijk strafbaar stellen. Sommige staten overwegen zelfs om gemengde huwelijken te verbieden.

Waarom vermeld ik dit? Omdat in de toekomst te veel mensen vragen om CSS te gebruiken om verboden uitdrukkingen, verboden liefdes, verboden identiteiten bij te houden. Omdat in de toekomst te veel mensen eisen dat hun magische achterdeur hiervoor wordt gebruikt en dat hun regime van massasurveillance wordt gebruikt om anderen te straffen.

Jessica Burgess, een 41-jarige moeder uit Nebraska, hebben al een voorproefje van die toekomst. In 2022 lekte Facebook berichten tussen Jessica en haar dochter uit naar de politie. Deze berichten werden gebruikt om hem te beschuldigen van strafbare feiten. Omdat de moeder haar dochter had geholpen reproductieve gezondheidszorg te krijgen in een staat waar dergelijke behandeling van de ene op de andere dag illegaal was gemaakt.

Het is tijd om terug te keren naar de realiteit. Complexe maatschappelijke problemen moeten serieus worden genomen. Maar ze worden niet opgelost door ze te gebruiken als een emotioneel voorwendsel om privacy af te schaffen. Welke ogenschijnlijk nobele redenen ze ook rechtvaardigen, stappen die momenteel worden overwogen in Europa, het VK en daarbuiten, maken de weg vrij voor een duistere toekomst.

Deze tekst is een verkorte versie een toespraakdie Meredith Whittaker bij die gelegenheid had bevoordeeld EDRI’s 20e verjaardag is gehouden. EDRI is een vereniging van burgerrechtenorganisaties die zich inzetten voor gegevensbescherming en digitale vrijheidsrechten.