Signal, eine weitere verschlüsselte Messaging-App, die vor allem von Cybersecurity-Experten und Journalisten respektiert wird, feuerte einen Schuss vor den Bug einer bekannten israelischen Firma, Cellebrite, die Tools für forensische Analysen und die Extraktion von Daten und Nachrichten aus Telefonen an die Polizei verschiedener Staaten verkauft (und nach einigen journalistischen Recherchen im Verdacht steht, auch an autoritäre Staaten zu verkaufen). Signal ging so weit zu behaupten, dass eines der Produkte des Unternehmens gehackt wurde, dass es ein Sicherheitsupdate an seine Kunden schickte, um eine Schwachstelle zu entschärfen, berichtete Vice.

Threema, eine weitere verschlüsselte Messaging-App, die weder eine Telefonnummer noch eine E-Mail-Adresse benötigt, die aus der Schweiz stammt und hauptsächlich von deutschen, österreichischen und schweizerischen Nutzern verwendet wird, hat kürzlich einen juristischen Sieg errungen. Das Schweizer Bundesgericht bestätigte ein früheres Urteil, wonach das Unternehmen nicht mit einem Telekommunikationsunternehmen gleichgesetzt werden kann, mit der Folge, dass es nicht verpflichtet ist, eine Reihe von Daten der Nutzer zu speichern. “Der Versuch der Behörden, ihren Einflussbereich auszuweiten, um an noch mehr Nutzerdaten heranzukommen, ist endgültig gescheitert”, sagte Roman Flepp, Leiter des Bereichs Vertrieb und Marketing der App.

Diese Linie – die der Minimierung von Nutzerdaten – wird auch von Signal selbst stolz unterstützt. Ende April schrieb Signal auf seinem Blog, dass es eine einstweilige Verfügung von einem amerikanischen Gericht erhalten habe, in der eine Reihe von Informationen angefordert wurde, “die in diese nicht existierende Kategorie fallen, darunter die Adressen der Nutzer, ihre Korrespondenz, der mit dem Konto verbundene Name”. Signal könne aber keine Daten zur Verfügung stellen, da es diese nicht habe. “Es ist unmöglich, Daten bereitzustellen, die man nicht hat”, schrieb er in seinem Blog. ‘Abgesehen von dem Datum, an dem ein Konto erstellt wurde und dem Datum, an dem man sich das letzte Mal bei dem Dienst angemeldet hat.

Wachsende Anforderungen von Staaten

Trotz dieser kleinen Gruppe von Pro-Privacy-Unternehmen oder -Organisationen (insbesondere Signal ist eine gemeinnützige Stiftung), die aus geschäftlichen oder prinzipiellen Gründen eine sehr klare Position bei der Verteidigung des Rechts auf freie Meinungsäußerung und Privatsphäre zu haben scheinen, sieht die Realität so aus, dass die meisten digitalen Plattformen, insbesondere die größten, derzeit von den Staaten in die Enge getrieben werden. Sogar mit Forderungen, die diese Rechte stark einschränken.

Seit Januar, als die regierungsfeindlichen Proteste und Demonstrationen zugunsten des politischen Gegners Alexey Navalny zunahmen, hat Russland den Druck auf Google, Twitter und Facebook verstärkt. Die Regierung hat die Plattformen nicht nur angewiesen, bis zum 1. Juli alle Daten russischer Nutzer im Land zu speichern, sondern auch die Forderungen nach der Entfernung von als illegal erachteten Inhalten erhöht. Und wenn die Unternehmen dem nicht nachkommen, riskieren sie Geldstrafen oder eine Verlangsamung des Zugangs zu ihren Diensten. TikTok wurde ebenfalls mit einer Geldstrafe belegt, weil es Beiträge nicht entfernt hat, die nach Ansicht der Regierung junge Menschen zur Teilnahme an als illegal eingestuften Demonstrationen ermutigten.

In Nigeria hat die Regierung soeben angekündigt, dass sie den Betrieb von Twitter im Land aussetzen wird (vermutlich mit Sperren auf der Ebene der Telcos und ISPs), weil das soziale Netzwerk Tweets von Präsident Buhari gelöscht hat, die Gewalt gegen bestimmte Gruppen androhten.

Indien, Twitter und WhatsApp

Doch die härteste Auseinandersetzung findet derzeit in Indien statt, einer großen Demokratie und vor allem einem riesigen Markt. Im Februar kündigte die Regierung neue Regeln für digitale Plattformen und Messaging-Dienste an (Information Technology (Guidelines for Intermediaries and Digital Media Ethics Code) Rules), die ab Ende Mai gelten. Sie verlangen von den Plattformen, dass sie Ansprechpartner vor Ort und mit Wohnsitz in Indien haben, die rechtlich verantwortlich sind. Sie müssen Mechanismen zur Verifizierung von Konten bereitstellen, z. B. anhand von Telefonnummern. Sie müssen bereit sein, Inhalte zu entfernen, die von einer bestimmten staatlichen Stelle als schädlich oder gefährlich eingestuft werden. Wenn Plattformen sich nicht daran halten, riskieren sie den Verlust des rechtlichen Schutzes für die Inhalte, die sie hosten.

Diese Regeln kamen kurz nach einem Tauziehen zwischen der Regierung und Twitter, als letzterer, nicht ohne anfängliche Unsicherheit, sich schließlich dagegen gewehrt hatte, eine Reihe von Accounts und Tweets zu zensieren, die mit den Protesten der Bauern in Verbindung standen. Das Tauziehen gipfelte kürzlich in einem Besuch der Polizei in Delhi in den Büros des Unternehmens. In diesem Fall hatte Twitter einige Tweets von prominenten Politikern der regierenden nationalistischen BJP-Partei als “manipulierte Medien” bezeichnet, nachdem auch Faktenprüfer sie für irreführend befunden hatten. Der Regierung gefiel das nicht und sie schickte daraufhin Polizisten in die lokalen Büros, um einen Untersuchungsbescheid in dieser Angelegenheit zuzustellen. Letzten Monat hatte Indien auch Facebook, Instagram und Twitter aufgefordert, Inhalte zu entfernen, die den Umgang von Premierminister Narendra Modi mit der Pandemie kritisieren. 

Lesen Sie auch >>Indien: Proteste der Bauern, Internetabschaltung und die Aufforderung der Regierung, mehrere Twitter-Accounts zu sperren: ‘Die Demokratie wird getötet’

Ende-zu-Ende-Verschlüsselung im Fadenkreuz

Aber es geht nicht nur um die Entfernung von Inhalten, die in sozialen Netzwerken gepostet werden. Tatsächlich gibt es unter den Anforderungen der neuen Regeln eine, die die verschlüsselten Messaging-Dienste besonders beunruhigt hat: nämlich, dass sie den ersten Autor einer Information oder Nachricht, die über ihren Dienst verbreitet wurde, identifizieren müssen, wenn dies von einem Gericht oder einer Regierungsanordnung verlangt wird. Aber dieser Rückverfolgungsmechanismus ist inkompatibel mit der Ende-zu-Ende-Verschlüsselung, also der Art von Verschlüsselung, bei der nur der Absender und der Empfänger Nachrichten lesen können, die von Whatsapp, Signal, Telegram und anderen Apps und Diensten implementiert wird. Die Nachvollziehbarkeit würde in der Tat das Brechen der Verschlüsselung erfordern. “In dem Moment, in dem man ein System baut, das in der Zeit zurückgehen und einige Nutzer entlarven kann, die einen bestimmten Inhalt gesendet haben, hat man ein System gebaut, das jeden entlarven kann, der irgendeinen Inhalt sendet”, kommentierte der Kryptograph Matthew Green gegenüber Wired USA.

Das erklärt, warum Whatsapp am 26. Mai einen beispiellosen Schritt unternahm und beschloss, die indische Regierung wegen dieser Regeln zu verklagen, von denen die Messaging-App behauptet, sie seien verfassungswidrig, weil sie das Recht der Bürger auf Privatsphäre verletzen. 

Globale Eskalation

Wir stehen vor einer Eskalation, schrieb Bloomberg vor ein paar Tagen in einem Artikel und bezog sich dabei auf Russland und Weißrussland, aber auch auf andere Staaten. Und er fügte hinzu: Wir können nicht zulassen, dass Autokraten das Internet nach Covid umgestalten. Das Problem ist jedoch, dass, wie wir in Indien gesehen haben, auch Demokratien in erheblichem Umfang und mit Folgen eingreifen, die die Meinungsfreiheit und das Recht auf Privatsphäre beeinträchtigen könnten. Zensur ist die neue Social-Media-Krise, und Regierungen ergreifen zunehmend drakonische Maßnahmen, um die Äußerung abweichender Meinungen der Bürger zu verhindern, schreibt der Journalist Casey Newton, der in seinem Newsletter Platformer die Beziehung zwischen Politik und Plattformen analysiert. “Während es in Ländern wie China oder Russland schon lange die Norm ist, hat sich die Bewegung in letzter Zeit auch auf demokratische Regierungen ausgeweitet”, fügte er hinzu.

Großbritannien und Verschlüsselung

Großbritannien versucht beispielsweise, den Plan von Facebook zu durchkreuzen, Ende-zu-Ende-Verschlüsselung auch im Messenger und bei Instagram einzuführen (zusätzlich zu Whatsapp, wo sie, wie erwähnt, bereits vorhanden ist). Auf dem Tisch liegt ein Gesetzesvorschlag, die Online Safety Bill, wonach Plattformen nachweisen müssen, dass sie konkrete Maßnahmen gegen die Verbreitung bösartiger Inhalte ergreifen. Und dies hat bereits Bedenken bei denjenigen geweckt, die befürchten, dass dies in ein Übermaß an Zensur durch soziale Medien ausarten könnte, abgesehen von dem Streit darüber, was als “schädlich” definiert werden sollte. Aber diese Initiativen zur Bekämpfung schädlicher Inhalte werden wahrscheinlich eine Ende-zu-Ende-Verschlüsselung beinhalten. Darüber hinaus gibt es auch ein alternatives und wahrscheinlich schlimmeres Szenario: dass das Innenministerium eine Anordnung erlassen könnte, die Facebook zwingt, bei einer Abhöranfrage zu helfen. Im Fachjargon eine Technical Capability Notice (TCN), die in diesem speziellen Fall einer einstweiligen Verfügung ähneln würde, mit der das Unternehmen an der Anwendung von Ende-zu-Ende-Verschlüsselung gehindert werden soll. In einem solchen Szenario, merkt Wired UK an, wäre Facebook nicht einmal in der Lage, die Leute darüber zu informieren.

Die Vorschläge der Europäischen Union [#chatcontrol]

Was die Europäische Union betrifft, so gibt es zwei heikle Schritte. Der erste ist ein Vorschlag für eine Verordnung für eine Ausnahmeregelung zu bestimmten Schutzmaßnahmen für die Kommunikation in der ePrivacy-Richtlinie. Die Ausnahmeregelung würde dazu dienen, den sexuellen Missbrauch von Kindern effektiver zu bekämpfen. “Der Vorschlag könnte E-Mail- und Messaging-Dienste dazu zwingen, alle Inhalte auf mögliches illegales Material zu scannen”, kommentiert Patrick Breyer, Europaabgeordneter der Piratenpartei Deutschland und Berichterstatter für den Ausschuss für bürgerliche Freiheiten, Justiz und Inneres, gegenüber Blue Suitcase. “Aber diese Mechanismen produzieren viele Fehler, sie beinhalten auch legales Material. Die Kommission hat noch nicht entschieden, ob Ende-zu-Ende-verschlüsselte Kommunikationsdienste einbezogen werden sollen. Wäre dies der Fall, müssten Apps wie Whatsapp Hintertüren, also Zugangswege, in ihre Clients implementieren, um Inhalte zu scannen, bevor sie gesendet werden. Dieses System würde effektiv eine Hintertür schaffen, die für etwas anderes genutzt werden könnte oder Sicherheitsrisiken schaffen könnte.

Der zweite entscheidende Schritt ist das neue Digital Services Act (DSA), d.h. die neue vorgeschlagene Verordnung über digitale Dienste und Plattformhaftung, die die E-Commerce-Richtlinie ändert, mit neuen Bestimmungen über Transparenz und Verantwortlichkeit für die Moderation von Inhalten.

“DSA befasst sich nicht direkt mit Verschlüsselung, sondern verlangt von Plattformen, dass sie systemische Risiken abmildern. Diese Definition könnte zu einem indirekten Angriff auf Verschlüsselung führen”, so Breyer weiter. “Darüber hinaus ermutigt die Kommission den Einsatz von automatischen Filtern, aber das ist ein Risiko für die Meinungsfreiheit, denn was in einem Kontext illegal ist, könnte in einem anderen legal sein (man denke an ein Foto eines Terroranschlags, das als Propaganda interpretiert werden kann, wenn es von Terroristen geteilt wird, oder als Recht auf Berichterstattung, wenn es von Medien geteilt wird). Filter differenzieren nicht und das Ergebnis ist, dass sie überzensieren”. 

Breyer schlug Änderungen des Gesetzes über digitale Dienste vor, um einen besseren Schutz der Grundrechte im digitalen Zeitalter zu gewährleisten. Dazu gehören: die Möglichkeit, digitale Dienste anonym zu nutzen; die Begrenzung des Trackings, also der Sammlung von Daten über die Online-Aktivitäten von Nutzern; die Gewährleistung einer sicheren Verschlüsselung (Behörden sollten nicht in der Lage sein, die Ende-zu-Ende-Verschlüsselung zu begrenzen, da sie für die Online-Sicherheit unerlässlich ist). Darüber hinaus fordert der Abgeordnete, dass nur die Justizbehörden über die Rechtmäßigkeit von Inhalten entscheiden können; dass keine vorherigen Filter erforderlich sein sollten; dass Material, das in einem europäischen Land legal veröffentlicht wurde, nicht gelöscht werden sollte, nur weil es gegen die Gesetze eines anderen EU-Landes verstößt (eine Forderung, die darauf abzielt, zu verhindern, dass illiberale Gesetze in bestimmten Staaten – Breyer nennt das Beispiel Polen und Ungarn – Inhalte löschen, die anderswo veröffentlicht wurden).

Automatisierung und kollaterale Zensur

Wie Jillian York, Direktorin für Meinungsfreiheit bei der Electronic Frontier Foundation, in ihrem kürzlich erschienenen Buch Silicon Values. The Future of Free Speech under Surveillance Capitalism (Die Zukunft der freien Meinungsäußerung im Überwachungskapitalismus), werden zunehmend Technologien der künstlichen Intelligenz (maschinelles Lernen) eingesetzt, um die Richtlinien der Plattformen durchzusetzen und so zu entscheiden, welche Äußerungen akzeptabel sind, und dabei menschliche Moderatoren zu unterstützen oder zu ersetzen. Diese Verlagerung hin zu einer nahezu vollständigen Automatisierung, gepaart mit intensiver Kontrolle und zunehmendem staatlichen Druck, als schädlich erachtete Inhalte zu entfernen, hat eine genaue Moderation noch schwieriger gemacht, was zu einer zunehmenden “kollateralen Zensur” führt.

Zu den jüngsten Opfern dieses Prozesses gehören viele palästinensische oder pro-palästinensische Nutzer, deren Beiträge von Facebook, Instagram oder Twitter entfernt wurden, nur weil sie einen bestimmten Hashtag oder Wörter verwendet haben, die automatisch mit “gewalttätigen oder gefährlichen Organisationen” in Verbindung gebracht werden (ein Fall, über den die Washington Post und Slate berichteten, ist der Name der Al-Aqsa-Moschee).

Transparenz und Menschenrechte als Richtschnur

“Ich glaube, dass jede Regulierung von Plattformen im Einklang mit den internationalen Menschenrechten stehen muss, und das gilt insbesondere für jede Einschränkung der Meinungsäußerung”, sagt Jillian York selbst gegenüber Blue Suitcase. “Von Regierungen würde ich darüber hinaus vor allem eine Forderung nach mehr Transparenz von Plattformen erwarten. Wir haben das im Digital Services Act und in den Santa Clara-Prinzipien zu Transparenz und Verantwortlichkeit in Bezug auf die Moderation von Inhalten gesehen.”

Lesen Sie auch >>Für eine Regulierung von digitalen Plattformen

Dies sind einige grundlegende Empfehlungen, die von Organisationen und Experten für digitale Rechte hervorgehoben wurden, um sicherzustellen, dass die Moderation von Inhalten fair, unvoreingenommen und verhältnismäßig ist und die Rechte der Nutzer respektiert. Diese Prinzipien besagen, dass Plattformen zunächst detaillierte Daten über die Entfernung von Inhalten zur Verfügung stellen müssen; sie müssen die Nutzer über den genauen Grund für die Entfernung informieren und darüber, ob die erste Meldung automatisch erfolgt, von anderen Nutzern stammt, das Ergebnis eines juristischen Prozesses oder einer behördlichen Anfrage ist; und schließlich müssen sie die Möglichkeit eines Einspruchs garantieren, der von einer anderen Person als die erste Entscheidung behandelt wird.

“Von Indien über Australien bis nach Palästina erreichen uns jeden Tag neue Geschichten der Empörung über die Entfernung von Inhalten”, schrieb Casey Newton weiter. “In einigen Fällen wurden diese Entfernungen auf Wunsch der Regierung durchgeführt. In anderen Fällen spielen die Richtlinien der Plattformen gegen Minderheiten und machen es schwieriger, ihre Beiträge zu sehen. Aber was auch immer die Ursache ist, die Klagen über Zensur werden immer lauter – und wie Plattformen darauf reagieren, wird enorme Auswirkungen auf die ganze Welt haben.”

Aber auch, wie Demokratien mit gutem Beispiel vorangehen werden.

Foto-Vorschau via wiredforlego unter CC BY-NC 2.0 Lizenz

https://www.europarl.europa.eu/doceo/document/LIBE-PA-692898_EN.pdf

https://santaclaraprinciples.org/