Introduction
Cet article de Carola Frediani a été publié en italien sur Valigia Blù, un blog collectif composé de journalistes de qualité et extrêmement attentifs à la vérification des sources.
L’article est un examen impressionnant de tous ces cas dans lesquels les gouvernements du monde entier obligent les fournisseurs de services (messagerie, courrier électronique, réseaux sociaux, etc.) à affecter la liberté d’expression et la vie privée des utilisateurs.
En particulier, l’un des derniers sujets abordés concerne la dérogation à la directive e-privacy : une dérogation qui oblige les fournisseurs de services à introduire des systèmes d’analyse automatique des messages pour détecter les contenus pédopornographiques.
Cette mesure, malheureusement votée à une large majorité du Parlement européen, aura un impact discutable sur la lutte contre la pédopornographie, et surtout elle représente la plus grande atteinte au secret des correspondances, jamais menée dans l’Europe des démocraties, puisque la fin de la Seconde Guerre mondiale.
Malgré l’importance de la disposition, la presse européenne n’a pas prêté attention à la question : les journaux ont pour la plupart relancé les communiqués du Parlement européen, ou tout au plus ont relancé les communiqués de l’eurodéputé pirate Patrick Breyer, parmi les plus farouches opposants à la mesure.
Face à ce silence, il nous a donc semblé important de faire en sorte que l’article de Carola Frediani puisse avoir une résonance même en dehors des frontières de l’Italie.
Puisque Valigia Blù publie ses articles sous licence CC BY-SA 4.0, après avoir tout de même contacté l’auteur, nous avons essayé de trouver un moyen de diffuser cet article dans le plus grand nombre de langues européennes.
L’utilisateur twitter @TheIdealist_0 a donc décidé de traduire l’article de Carola Frediani en anglais, français et allemand à l’aide d’outils automatiques.
Nous demandons à tous les utilisateurs de contribuer à l’amélioration de la traduction, en utilisant également le “PAD” indiqué dans le tweet de @TheIdealist_0; mais surtout nous vous demandons de donner un maximum de résonance à l’article.
Merci à tous, de l’association Pirati & du blog InformaPirata
Version Italienne Originale : Carola Frediani @carolafrediani
June 6, 2021 12 min read
La pression du gouvernement pousse les plateformes vers plus de censure et moins de confidentialité pour les utilisateurs
Afin de justifier sa décision de forcer un vol Ryanair à atterrir à Minsk, et d’arrêter le journaliste Roman Protasevich et sa petite amie Sofia Sapega, la Biélorussie s’est accrochée à la menace d’une bombe dans l’avion. Et notamment un prétendu e-mail envoyé par des militants du Hamas (le groupe a démenti toute implication). Mais lorsque les chercheurs du Dossier Center ont obtenu et publié ce qui semblait être l’e-mail en question, envoyé à partir d’une adresse du fournisseur de messagerie cryptée Protonmail, la date d’envoi a démenti Minsk. C’était en fait après que les autorités biélorusses eurent averti l’avion de l’éventuelle bombe.
Protonmail et Biélorussie
La partie intéressante de ce détail technique dans une affaire géopolitique plus large est que, peu de temps après, le même service de messagerie crypté, Protonmail, situé en Suisse, est sorti du bois et a décidé de confirmer ces révélations journalistiques. Bien qu’elle n’ait pas pu accéder au contenu des messages dans ses boîtes de réception, la compagnie a pu et voulu confirmer la date et surtout l’heure d’envoi de l’e-mail qui a suivi le rapport de la bombe à l’équipage de Ryanair. “Nous n’avons vu aucune preuve crédible affirmant ce que dit la Biélorussie”, ont-ils ajouté, se disant prêts à coopérer avec les enquêtes européennes (à tel point que les autorités biélorusses ont déclaré qu’il y aurait deux courriels reçus).
“En raison de l’utilisation de Protonmail par les citoyens biélorusses pour protéger leur vie privée, le gouvernement de Loukachenko a tenté de bloquer l’accès à Protonmail depuis l’été 2020”, a souligné le service suisse dans une note. “Nous condamnons ces actions ainsi que les récentes liées au vol Ryanair.”
Répression des médias et des outils de communication
C’est une position qui en a frappé certains, mais qui n’est pas surprenante. La Biélorussie a non seulement essayé de bloquer Protonmail, mais aussi les journaux indépendants. Quelques jours avant le détournement du vol Ryanair, le site d’information biélorusse Tut.by, qui couvrait les manifestations anti-régime qui ont éclaté en août dernier après des allégations de fraude électorale, a été bloqué après une descente de police dans ses locaux. Fin mai, le directeur d’un autre site d’information, Hrodna.life, a été arrêté par la police et interrogé pour avoir publié des contenus “extrémistes”. Au moins 27 professionnels des médias sont actuellement en prison, condamnés ou en attente de jugement, selon l’association biélorusse des journalistes.
Protasevich lui-même, était le directeur de deux chaînes sur l’application de messagerie Telegram qui diffusait des informations sur les manifestations antigouvernementales et comptait des millions d’abonnés. Les chaînes et les applications sont restées accessibles aux citoyens malgré la répression de l’État et les blocages d’Internet.
Nexta Live, l’une des chaînes cofondées par Protasevich qui a publié des nouvelles et des informations en temps réel sur les manifestations, est passée de 300 000 abonnés à 2 millions au cours des trois jours qui ont suivi les élections d’août. Les autorités ont cherché à poursuivre les administrateurs de la chaîne alors que Telegram modifiait ses fonctionnalités à la hâte, leur permettant de publier dans des groupes de manière anonyme. “L’administrateur incognito sera masqué dans la liste des membres du groupe et ses messages dans le chat seront marqués du nom du groupe, similaire aux publications de la chaîne”, a annoncé l’application en septembre.
“Dès le début, Telegram est devenu une partie intégrante des manifestations biélorusses (…) et l’application elle-même n’a pas peur de sa position politique”, a écrit il y a quelque temps l’Institute for Internet & the Just Society.
Applications pro-respect de la vie privé et politique de minimisation des données
Protonmail et Telegram ne sont pas les seuls exemples de services de communication qui ont affronté des régimes autoritaires ou accusés de faire des affaires avec eux.
Signal, une autre application de messagerie cryptée, particulièrement respectée par les experts en cybersécurité et les journalistes, a tiré à vue sur une société israélienne bien connue, Cellebrite, qui vend des outils d’analyse médico-légale et d’extraction de données et de messages des téléphones vers le police de divers États (et est soupçonné, selon certaines enquêtes journalistiques, de vendre également à des États autoritaires). Signal est allé jusqu’à prétendre avoir piraté l’un des produits de la société en envoyant une mise à jour de sécurité à ses clients pour atténuer une vulnérabilité, a rapporté Vice.
Threema, une autre application de messagerie cryptée qui ne nécessite ni numéro de téléphone ni adresse e-mail, originaire de Suisse et principalement utilisée par les utilisateurs allemands, autrichiens et suisses, a récemment remporté une victoire juridique. Le Tribunal fédéral suisse a confirmé une décision antérieure selon laquelle l’entreprise ne peut être assimilée à une entreprise de télécommunications, avec pour conséquence qu’elle n’est pas obligée de conserver une série de données sur les utilisateurs. “La tentative des autorités d’étendre leur sphère d’influence pour accéder à encore plus de données utilisateur a finalement échoué”, a déclaré Roman Flepp, responsable de la division ventes et marketing de l’application.
Cette ligne de conduite – celle de minimiser les données utilisateur – est également fièrement soutenue par Signal lui-même. Fin avril, Signal, écrivait sur son blog, avoir reçu une injonction d’un tribunal américain demandant une série d’informations « qui rentrent dans cette catégorie inexistante, notamment les adresses des utilisateurs, leur correspondance, le nom associé au compte. “. Mais Signal n’a pu fournir aucune donnée, car il n’en avait pas. “Il est impossible de fournir des données que vous n’avez pas”, écrit-il sur son blog. Excepté la date de création d’un compte et la date de votre dernière connexion au service.
Des demandes croissantes des États
Malgré ce petit groupe d’entreprises ou d’organisations pro- respect de la vie privée (Signal, en particulier, est une fondation à but non lucratif) qui semblent avoir, pour des raisons d’affaires ou de principe, des positions très claires dans la défense du droit à la liberté d’expression et de confidentialité, la réalité est qu’à l’heure actuelle, la plupart des plateformes numériques, en particulier les plus grandes, sont accaparées par les États. Même avec des exigences qui restreignent sévèrement ces droits.
Depuis janvier, alors que les protestations antigouvernementales et les manifestations en faveur de l’opposant politique Alexeï Navalny se multiplient, la Russie a intensifié la pression sur Google, Twitter et Facebook. Non seulement le gouvernement a ordonné aux plateformes de conserver toutes les données sur les utilisateurs russes dans le pays d’ici le 1er juillet, mais il a également augmenté les demandes de suppression de contenus jugés illégaux. Et si les entreprises ne s’y conforment pas, elles risquent des amendes ou un accès ralenti à leurs services. TikTok a également été condamné à une amende pour ne pas avoir supprimé des publications qui, selon le gouvernement, encourageaient les jeunes à participer à des manifestations jugées illégales.
Pendant ce temps, au Nigeria, le gouvernement vient d’annoncer qu’il suspendrait les opérations de Twitter dans le pays (vraisemblablement avec des blocages au niveau des télécoms et des FAI) car le réseau social a supprimé les tweets du président Buhari qui menaçaient de violences à l’encontre de certains groupes.
Inde, Twitter et WhatsApp
Mais le plus gros choc du moment a lieu en Inde, une grande démocratie et surtout un énorme marché. En février, le gouvernement a annoncé de nouvelles règles pour les plateformes numériques et les services de messagerie (Règles relatives aux technologies de l’information (Lignes directrices pour les intermédiaires et Code d’éthique des médias numériques)), en vigueur à partir de fin mai. Ils exigent que les plateformes aient des personnes de contact sur le terrain, et résidant en Inde, qui soient légalement responsables. Fournir des mécanismes pour vérifier les comptes, par exemple par numéro de téléphone. Ils doivent être prêts à supprimer le contenu jugé nuisible ou dangereux par un organisme gouvernemental spécifique. Si les plateformes ne se conforment pas, elles risquent de perdre la protection juridique du contenu qu’elles hébergent.
Ces règles sont intervenues juste après un bras de fer entre le gouvernement et Twitter, lorsque ce dernier, non sans incertitude initiale, avait finalement résisté à la censure d’une série de comptes et de tweets liés aux manifestations des agriculteurs. Le bras de fer a récemment culminé avec une visite de la police de Delhi dans les bureaux de l’entreprise. Dans ce cas, Twitter avait qualifié certains tweets d’éminents politiciens du parti nationaliste au pouvoir BJP de “médias manipulés”, après que les vérificateurs des faits les aient également trouvés trompeurs. Mais le gouvernement n’a pas apprécié cette décision et en réponse, il a envoyé des policiers dans les bureaux locaux pour remettre un avis d’enquête sur l’affaire. Le mois dernier, l’Inde avait également demandé à Facebook, Instagram et Twitter de supprimer les contenus critiquant la gestion de la pandémie par le Premier ministre Narendra Modi.
Cryptage de bout en bout dans le réseau
Mais il n’y a pas que la suppression des contenus postés sur les réseaux sociaux qui est en jeu. En effet, parmi les demandes formulées par les nouvelles règles, il en est une en particulier qui a alarmé les services de messagerie cryptée : à savoir qu’ils doivent identifier le premier auteur d’une information ou d’un message diffusé par leur service, si requis par un tribunal ou un arrêté du gouvernement. Mais ce mécanisme de suivi est incompatible avec le cryptage de bout en bout, c’est-à-dire le type de cryptage dans lequel seuls l’expéditeur et le destinataire peuvent lire les messages, mis en œuvre par Whatsapp, Signal, Telegram et d’autres applications et services. La traçabilité nécessiterait en effet de casser le cryptage. “Dès que vous construisez un système qui peut remonter dans le temps et démasquer certains utilisateurs qui ont envoyé un certain contenu, vous avez construit un système qui peut démasquer quiconque envoie n’importe quel contenu”, a commenté le cryptographe Matthew Green à Wired USA.
Cela explique pourquoi Whatsapp a pris une mesure sans précédent le 26 mai, décidant de poursuivre le gouvernement indien pour ces règles, que l’application de messagerie prétend inconstitutionnelles car elles violent le droit des citoyens à la vie privée.
Escalade mondiale
Nous sommes confrontés à une escalade, écrivait Bloomberg dans un article il y a quelques jours, faisant référence à la Russie et à la Biélorussie, mais aussi à d’autres États. Et il a ajouté : nous ne pouvons pas permettre aux autocrates de remodeler Internet après Covid. Or, le problème est que, comme nous l’avons vu en Inde, les démocraties interviennent aussi de manière substantielle et avec des conséquences qui pourraient peser sur la liberté d’expression et le droit à la vie privée. La censure est la nouvelle crise des médias sociaux, et les gouvernements prennent de plus en plus de mesures draconiennes pour empêcher l’expression de la dissidence des citoyens, a écrit le journaliste Casey Newton, qui analyse la relation entre la politique et les plateformes dans son bulletin Platformer. « Alors qu’il a longtemps été la norme dans des pays comme la Chine ou la Russie, le mouvement s’est plus récemment étendu aux gouvernements démocratiques », a-t-il ajouté.
La Grande-Bretagne et le cryptage
La Grande-Bretagne, par exemple, essaie de contrecarrer le plan de Facebook visant à mettre en œuvre le cryptage de bout en bout dans Messenger et Instagram (en plus de Whatsapp, où, comme mentionné, il est déjà présent). Sur la table, un projet de loi, le Online Safety Bill, selon lequel les plateformes doivent démontrer qu’elles prennent des mesures concrètes pour contrer la propagation de contenus malveillants. Et cela a déjà suscité des inquiétudes chez ceux qui craignent que cela ne se transforme en un excès de censure de la part des médias sociaux, laissant de côté le différend sur ce qui devrait être défini comme “nuisible”. Mais ces initiatives pour lutter contre les contenus préjudiciables sont susceptibles d’inclure un cryptage de bout en bout. Il existe également un scénario alternatif et probablement pire : que le ministère de l’Intérieur puisse émettre une ordonnance obligeant Facebook à répondre à une demande d’interception. Dans le jargon, un avis de capacité technique (TCN), qui dans ce cas précis ressemblerait à une injonction qui vise à empêcher l’entreprise d’appliquer un cryptage de bout en bout. Dans un tel scénario, note Wired UK, Facebook ne serait même pas en mesure de le faire savoir.
Les propositions de l’Union européenne [#chatcontrol]
En ce qui concerne l’Union européenne, il y a deux étapes délicates.
La première tient dans une proposition de règlement pour une exemption à certaines protections de la vie privée des communications dans la directive ePrivacy. La dérogation servirait à lutter plus efficacement contre les abus sexuels sur enfants. “La proposition pourrait forcer les services de e-mail et de messagerie à analyser tout le contenu à la recherche d’éventuels éléments illégaux”, commente Patrick Breyer, député européen du parti pirate allemand et rapporteur de la commission des libertés civiles, de la justice et des affaires intérieures, à Blue Suitcase. “Mais ces mécanismes produisent de nombreuses erreurs, ils incluent également du matériel juridique. La Commission n’a pas encore décidé si les services de communication cryptés de bout en bout devraient être inclus. S’ils l’étaient, des applications comme Whatsapp devraient mettre en œuvre des portes dérobées, des voies d’accès au client afin de scanner le contenu avant qu’il ne soit envoyé. Ce système créerait effectivement une porte dérobée qui pourrait être utilisée pour autre chose ou qui pourrait créer des risques de sécurité.
La deuxième étape cruciale est la nouvelle loi sur les services numériques (DSA), c’est-à-dire la nouvelle proposition de règlement sur les services numériques et la responsabilité des plateformes, qui modifie la directive sur le commerce électronique, avec de nouvelles dispositions sur la transparence et la responsabilité pour la modération des contenus.
« DSA ne traite pas directement du chiffrement mais nécessite des plates-formes pour atténuer les risques systémiques. Cela pourrait conduire à une attaque indirecte contre le chiffrement », a ajouté Breyer. « De plus, la Commission encourage l’utilisation de filtres automatiques, mais c’est un risque pour la liberté d’expression car ce qui est illégal dans un contexte, pourrait être légal dans un autre (pensez à une photo d’attentat terroriste, qui peut être interprétée comme de la propagande s’ils sont partagés par des terroristes ou droit de signaler s’ils sont partagés par les médias).
Breyer a déposé des amendements à la Loi sur les services numériques pour assurer une meilleure protection des droits fondamentaux à l’ère numérique. Ceux-ci incluent : la possibilité d’utiliser des services numériques de manière anonyme ; limiter le suivi, c’est-à-dire la collecte de données sur les activités en ligne des utilisateurs ; protéger le cryptage sécurisé (les autorités ne devraient pas être en mesure de limiter le cryptage de bout en bout, car il est essentiel pour la sécurité en ligne). Par ailleurs, l’eurodéputé demande que seules les autorités judiciaires puissent se prononcer sur la légalité des contenus ; qu’aucun filtre préalable ne devrait être requis; que le matériel publié légalement dans un pays européen ne devrait pas être supprimé simplement parce qu’il viole les lois d’un autre pays de l’UE (une demande qui vise à empêcher les lois illibérales dans certains États – Breyer donne l’exemple de la Pologne et de la Hongrie – de supprimer du contenu publié ailleurs) .
Automatisation et censure collatérale
Comme Jillian York, directrice de la liberté d’expression à l’Electronic Frontier Foundation, l’écrit dans son récent livre Silicon Values «The Future of Free Speech under Surveillance Capitalism», les technologies d’intelligence artificielle (apprentissage automatique) sont de plus en plus utilisées pour appliquer les politiques de la plate-forme et ainsi décider quelles expressions sont acceptables, aidant ou remplaçant les modérateurs humains. Cette évolution vers une automatisation quasi complète, associée à un examen minutieux et à une pression croissante de l’État pour supprimer le contenu jugé nuisible, a rendu une modération précise encore plus difficile, entraînant une augmentation de la « censure collatérale ».
Parmi les victimes récentes de ce processus figurent de nombreux utilisateurs palestiniens ou pro-palestiniens qui ont vu leurs publications supprimées de Facebook, Instagram ou Twitter, simplement parce qu’ils ont peut-être utilisé un certain hashtag ou des mots automatiquement associés à des « organisations violentes ou dangereuses » (un cas rapporté par le Washington Post et Slate est le nom de la mosquée Al-Aqsa).
Transparence et droits de l’homme comme guide
“Je pense que toute réglementation des plateformes doit être conforme au cadre international des droits humains, et cela est particulièrement vrai pour toute restriction d’expression”, commente Jillian York elle-même à Blue Suitcase. ” En plus de cela, j’attendrais de la part des gouvernements, qu’ils demandent plus de transparence de la part des plateformes. Nous l’avons vu dans le Digital Services Act, et dans les principes de Santa Clara sur la transparence et la responsabilité en matière de modération des contenus”.
A lire aussi >> For a regulation of digital platforms
Il s’agit de quelques recommandations de base mises en évidence par des organisations et des experts en droits numériques pour garantir que la modération du contenu est juste, impartiale, proportionnelle et respectueuse des droits des utilisateurs. Ces principes stipulent que les plateformes doivent d’abord fournir des données détaillées sur les suppressions de contenu ; ils doivent informer les utilisateurs du motif précis de la suppression, et si le signalement est automatique, s’il émane d’autres utilisateurs, du résultat d’une procédure judiciaire ou d’une demande du gouvernement ; et enfin ils doivent garantir la possibilité d’un recours, traité par une personne différente de celle de la première décision.
“De l’Inde à l’Australie en passant par la Palestine, nous recevons chaque jour de nouvelles histoires d’indignation concernant la suppression de contenu”, a écrit Casey Newton. “Dans certains cas, ces suppressions ont été effectuées à la demande du gouvernement. Dans d’autres, les politiques des plateformes jouent contre les minorités, ce qui rend plus difficile la lecture de leurs messages. Mais quelle qu’en soit la cause, les plaintes concernant la censure ne font que s’intensifier – et la réponse des plateformes aura d’énormes implications dans le monde entier.”
Mais aussi comment les démocraties donneront l’exemple.
Photo preview via wiredforlego under CC BY-NC 2.0 licence
https://www.europarl.europa.eu/doceo/document/LIBE-PA-692898_EN.pdf