Facebook, Twitter, Microsoft et YouTube ont annoncé qu'ils travailleraient ensemble pour construire une énorme base de données. Cette base de données contiendra des images et des vidéos utilisées par les réseaux terroristes Crime, Terrorisme et Sécurité: Le Côté Obscur des Médias Sociaux Crime, Terrorisme et Sécurité: Le Côté Obscur des Médias Sociaux Les médias sociaux ne sont pas seulement des mèmes de chat et des vidéos farces. Les utilisateurs de Facebook, Twitter et Tumblr peuvent tout aussi facilement tomber sur des documents plus sombres distribués par des groupes terroristes technologiquement qualifiés. Que devriez-vous faire à ce propos? Lire la suite pour propager la propagande et atteindre les recrues potentielles. La base de données alertera ces entreprises lorsque quelque chose sur leur site viole probablement leurs conditions d'utilisation.
On dirait une bonne idée, non?
Les détails
Pour le moment, les détails sont un peu flous. Chaque image et vidéo de la base de données aura une «empreinte numérique unique» et les entreprises seront alertées lorsque ce contenu apparaîtra sur leur site. Au début du programme, les entreprises ajouteront seulement «les images et vidéos terroristes les plus extrêmes et les plus flagrantes» à la base de données.
L'idée est que ces images et vidéos seront les plus susceptibles de violer les conditions d'utilisation. Pourquoi devriez-vous lire les conditions d'utilisation, faire en sorte que Pokemon GO s'en aille ... [Tech News Digest] Pourquoi devriez-vous lire les conditions d'utilisation? Allez-y ... [Tech News Digest] Tout le monde saute les Termes de Service passés, PokeGone transforme Pokemon GO en Pokemon NO, Facebook garde vos conversations secrètes, Blizzard fait taire les joueurs de World of Warcraft, et Samuel L. Jackson explique Game of Thrones. Lire la suite de toutes les plates-formes. Cela rend la décision facile de supprimer ce contenu s'il apparaît ailleurs. Chaque entreprise peut décider quelle image et vidéos doivent être dans la base de données. Ils auront également le pouvoir de décider de supprimer le contenu s'il apparaît sur leur site.
C'est à peu près tout ce que nous savons jusqu'à présent. Twitter espère que "cette collaboration mènera à une plus grande efficacité alors que nous continuons à appliquer nos politiques pour aider à réduire le problème mondial pressant du contenu terroriste en ligne." Mais nous n'en savons vraiment pas beaucoup jusqu'à présent. Qui décidera du contenu à contribuer? Les entreprises vont-elles créer des comités d'examen indépendants pour ce genre de chose? Ou vont-ils juste ajouter quelques choses maintenant et puis quand ils en ont envie?
Un mauvais dossier
C'est vraiment difficile de surveiller le contenu en ligne. Que ce soit de la désinformation, de l'abus, des vidéos de recrutement de terroristes Comment les plateformes de médias sociaux combattent les extrémistes Comment les plateformes de médias sociaux affrontent les extrémistes Les réseaux de médias sociaux constituent un outil puissant pour les groupes terroristes, principalement pour la propagande et le recrutement. Alors, que font Facebook et Twitter à ce sujet? Comment les réseaux sociaux peuvent-ils combattre le terrorisme? Lire la suite, ou l'un des innombrables autres types de contenu en ligne, il ya un champ de problèmes inhérents au processus. Qui décide quels groupes sont qualifiés de terroristes? Comment la décision est-elle prise de supprimer le contenu? Est-ce que les entreprises vont le chercher ou comptent sur les utilisateurs pour le signaler?
Microsoft, dans sa déclaration sur le contenu terroriste en ligne, a déclaré ceci:
Lorsque le contenu terroriste de nos services aux consommateurs hébergés est porté à notre attention via notre outil de signalement en ligne, nous le supprimons.
Et ils fournissent un lien vers un formulaire utilisé spécifiquement pour signaler un contenu terroriste. Mais quelle est la probabilité que quelqu'un cherche et utilise ce formulaire? Ils disent aussi qu'ils "enlèveront des liens vers des contenus liés au terrorisme de Bing seulement quand cette suppression est exigée des fournisseurs de recherche en vertu de la loi locale".
Cela met davantage la responsabilité ailleurs.
Problèmes de responsabilité
L'Electronic Frontier Foundation a beaucoup écrit sur les difficultés à contrôler ce type de contenu en ligne. En 2014, ils ont critiqué le plan du Royaume-Uni visant à contraindre les FAI à bloquer le «contenu extrémiste» sans procédures de transparence et de responsabilité. Les groupes de défense des droits de l'homme ont également critiqué la France pour ses définitions très larges de l'activité terroriste.
Comment les plateformes de médias sociaux affrontent les extrémistes Comment les plateformes de médias sociaux affrontent les extrémistes Les réseaux de médias sociaux constituent un outil puissant pour les groupes terroristes, principalement pour la propagande et le recrutement. Alors, que font Facebook et Twitter à ce sujet? Comment les réseaux sociaux peuvent-ils combattre le terrorisme? Lire la suite . Bien que Twitter ait supprimé plus de 100 000 comptes Twitter liés à ISIS et commencé à mieux contrôler les groupes de discours haineux, ils ont une mauvaise réputation de laisser l'extrémisme et les abus envahir leur plate-forme. Facebook semble aussi se contenter de continuer à utiliser une approche non interventionniste sous la bannière de la liberté d'expression.
Bien sûr, c'est assez difficile de gérer ce genre de responsabilité. Je ne dis pas que c'est facile. Mais les entreprises technologiques sont capables de se distancer de ce à quoi leur technologie est utilisée. Cela inclut la propagation d'images terroristes, de vidéos, de campagnes de recrutement et d'autres contenus. En août 2016, un rapport britannique indiquait que Facebook, Twitter et YouTube «échouaient sciemment à combattre l'utilisation de leurs sites pour promouvoir le terrorisme et tuer».
L'établissement d'une base de données d'images et de vidéos ne semble pas susceptible de changer cela. C'est encourageant qu'ils prennent des mesures, mais il est difficile d'imaginer que c'est plus que miteux.
Cela pourrait-il être un problème de confidentialité?
Étant donné que les entreprises ajoutent manuellement des éléments à la base de données après que les utilisateurs les ont signalées, il ne semble pas que vos images ou vidéos puissent accidentellement se retrouver dans la base de données. Ce qui est encourageant. Cependant, la création d'une base de données centrale massive contenant du «mauvais» contenu unique est inquiétante.
C'est en grande partie parce que les responsables de l'époque arrivent à décider ce qui compte comme «mauvais». Cela est particulièrement vrai s'il y a une participation gouvernementale. Vous pourriez faire partie de la majorité un jour, et dans une minorité persécutée la suivante. Le déploiement de ce type de technologie rend ce genre de changement encore plus effrayant.
Bien sûr, rien n'indique que ces entreprises utiliseront cette base de données pour autre chose que la mise en application laxiste de leurs propres directives sur les conditions d'utilisation. Mais le fait que des organisations privées aient développé et déploient cette technologie pourrait inquiéter certaines personnes. Les gouvernements ont sûrement déjà une technologie de surveillance aussi puissante, mais la prolifération pourrait être un signe que les entreprises vont avoir les outils pour recueillir plus d'informations dans un proche avenir.
En ce moment, il n'y a aucune raison de craindre que votre vie privée ne soit mise en danger par la base de données sur le contenu terroriste. Mais les organisations de défense de la vie privée et de défense des droits Qui se bat contre vous et contre la vie privée? Qui se bat en votre nom contre la NSA et pour la vie privée? Il y a plusieurs groupes d'activisme Internet qui se battent pour votre vie privée. Ils font de leur mieux pour éduquer les internautes. Voici quelques-uns d'entre eux qui sont incroyablement actifs. Read More ferait bien de garder un œil sur le déploiement de ce type de technologie ailleurs.
Un pas en avant?
Il est bon de voir que les entreprises de technologie prennent de l'avance et sont proactives sur le contenu terroriste sur leurs plates-formes. Mais leur dossier est plein d'application laxiste et de négligence volontaire. Cet outil aidera-t-il à inverser la tendance? Cela semble improbable. (À moins qu'ils ne l'automatisent, ce qui vient avec un tas d'autres questions.) À mon avis, cette base de données ne changera pas beaucoup, et Twitter, Facebook, Microsoft et YouTube ont très bien conçu comme une mesure de relations publiques au lieu de on voulait réellement faire du bien.
Qu'est-ce que tu penses? Cette base de données aidera-t-elle à lutter contre la propagation du contenu terroriste en ligne? Ou est-ce un geste vide pour attirer l'admiration publique? Partagez votre opinion dans les commentaires ci-dessous!
Crédits image: Yunava1 / Shutterstock