Une histoire récente du Washington Post a donné au public une vision intérieure rare des capacités de surveillance des médias sociaux du service de police de Fresno, qui est en train de tester un logiciel controversé appelé Beware. La pièce a causé une certaine agitation sur la propension supposée du logiciel pour les violations des libertés civiles.
Mais en quoi ce programme diffère-t-il des autres activités de surveillance des médias sociaux effectuées par la police? Méfiez-vous d'une menace réelle des libertés civiles? Ou est-ce que toute cette affaire est exagérée? Et que pouvez-vous faire pour empêcher la police de fouiller dans vos publications sur les médias sociaux?
Un outil évident pour les services de police
Les forces de l'ordre ont probablement utilisé les médias sociaux pour la collecte de renseignements depuis qu'elle est devenue populaire - même en 2006, la police a arrêté un garçon mineur dans le Colorado après avoir posté des photos de lui-même sur MySpace avec un certain nombre d'armes à feu.
L'utilisation des médias sociaux dans les enquêtes est devenue de plus en plus courante depuis lors, et il y a un certain nombre d'histoires témoignant de son efficacité. En 2014, la police de New York a saisi plus de 250 armes vendues illégalement après une enquête approfondie qui a commencé quand les agents ont remarqué qu'un rappeur en herbe avait posté des images d'armes dans son studio sur Instagram.
Il y a eu d'innombrables rapports d'étudiants arrêtés pour avoir publié des bombes et d'autres menaces contre leurs écoles, et de nombreuses arrestations après des messages qui prônent la violence contre la police. Même blagues blagues Comment utiliser Twitter sans visser Comment utiliser Twitter sans visser Twitter peut être une touche cryptique, et il est facile de faire des erreurs de temps en temps - même si vous êtes un utilisateur de longue date. Voici quelques erreurs courantes, et comment les éviter. Read More a abouti à des arrestations. Ce n'est pas limité aux États-Unis, soit; il y a beaucoup de précédents au Royaume-Uni pour avoir été arrêté sur la base de quelque chose de «grossièrement offensant» ou menaçant sur les médias sociaux.
Les médias sociaux sont devenus un lieu important pour les poses et les menaces des gangs, et la police dans des villes comme Chicago et New York a fait un nombre surprenant d'arrestations basées sur Facebook, YouTube, et Instagram où les membres des gangs font quelque chose d'illégal ou expriment leur intention de le faire.
Dans l'ensemble, la surveillance des médias sociaux est un choix évident pour les forces de l'ordre - si les gens postent leurs exploits illégaux sur Facebook, où le monde entier peut les voir, ça va payer pour le surveiller.
Le problème avec prudence: une approche algorithmique
Donc, si la police surveille les médias sociaux depuis des années, pourquoi l'approche de Fresno fait-elle les manchettes? Une partie de la réponse réside dans le fait que Beware utilise une approche algorithmique pour surveiller les médias sociaux. Beaucoup d'outils simplistes de surveillance des médias sociaux (même ceux utilisés par les spécialistes des médias sociaux) Votre guide pour le marketing des médias sociaux Votre guide pour le marketing des médias sociaux À l'heure actuelle, les médias et les entreprises se tournent vers les médias sociaux. aucune entreprise ne peut perdre du temps ou de l'argent à le faire mal.) Pour en savoir plus, il suffit de rechercher des mots-clés ou des modèles spécifiques dans les données, ce que les policiers font à une échelle beaucoup plus petite.
Mais Méfiez-vous, lorsqu'il est donné l'information d'un individu, calcule un "score de menace" basé sur, selon le site Web d'Intrado,
[...] en quelques secondes, des milliards de documents commerciaux [publiquement] disponibles - alertant les intervenants sur des situations potentiellement dangereuses pendant qu'ils se dirigeaient vers une demande d'assistance 9-1-1 ou sur le lieu d'une telle demande.
Les milliards de points de données proviennent des publications sur les médias sociaux, des arrestations et d'autres documents publics, des bases de données commerciales et de nombreux autres types de données, mais d'où ils viennent et comment ils se traduisent en score de menace vert, jaune ou rouge. est un secret commercial gardé par Intrado, le fabricant du logiciel.
La façon dont la police utilise ce système de notation est cependant évidente: si un appelant au 911 ou une personne impliquée dans l'appel a un score de menace jaune ou rouge, les agents seront plus prudents. Cela pourrait signifier être plus armé et prêt pour des problèmes, un état d'esprit qui pourrait avoir de graves conséquences pour l'appelant.
En 2007, la police enquêtait sur le vol de deux consoles PlayStation sur un campus universitaire lorsqu'ils ont découvert des photos du suspect posant avec un certain nombre d'armes à feu sur les médias sociaux. Ils ont envoyé une équipe SWAT à la maison du suspect, et un autre étudiant est mort après qu'un officier ait confondu les sons du bélier utilisé pour entrer dans la maison pour des coups de feu. C'est exactement le genre de réponse fortement armée basée sur l'information glanée des médias sociaux qui inquiète les gens.
L'article de The Post mentionnait qu'une femme qui avait tweeté à propos du jeu Rage et un homme qui vivait dans une maison auparavant occupée par une personne d'intérêt avaient toutes les deux des niveaux de menace élevés. Aucune de ces personnes n'aurait eu une seconde réflexion par un officier de chair et de sang, mais le logiciel d'Intrado pourrait mettre les officiers à la merci s'ils répondaient à un appel de l'un ou l'autre de ces citoyens.
Ce qui inquiète beaucoup de gens, c'est que les calculs de score de menace sont faits par un algorithme développé par une seule entreprise qui ne va pas partager ses équations de sitôt - Méfiez-vous est une boîte noire totale. Les algorithmes contrôlent déjà des parties significatives de notre vie 4 Algorithmes d'apprentissage qui façonnent votre vie 4 Algorithmes d'apprentissage qui façonnent votre vie Vous ne le réalisez peut-être pas mais l'apprentissage automatique est déjà tout autour de vous et peut exercer une influence étonnante sur votre vie . Ne me crois pas? Vous pourriez être surpris. Lire la suite, mais le fait qu'ils peuvent maintenant nous mettre dans une situation dangereuse commence à attirer l'attention des gens.
Les approches algorithmiques du maintien de l'ordre ont suscité de nombreuses critiques par le passé, certains critiques disant qu'ils sont enclins au profilage racial, et d'autres affirmant que les outils sont «racistes». La recherche sur le sujet est peu concluantes, certaines études montrant une diminution de la criminalité à court terme et d'autres ne montrant aucun effet significatif de la technologie prédictive.
Un héritage de surveillance
L'analyse de «milliards» de points de données fait penser à des programmes antérieurs entrepris par le gouvernement américain.
Total Information Awareness (TIA) était une initiative entreprise par le Bureau de sensibilisation à l'information au début des années 2000 qui recueillait des informations sur les achats par carte de crédit, les abonnements aux magazines, la navigation sur le Web, les e-mails, les voyages, les événements légaux et autres informations. pour le stockage dans une base de données centrale. Même après avoir été rebaptisée Terrorist Information Awareness, la TIA a été fermée en raison de l'indignation du public face à l'idée franchement orwellienne.
Un des projets de recherche de DARPA Vous ne le croirez pas: DARPA recherche future dans des ordinateurs avancés Vous ne le croirez pas: DARPA recherche future dans les ordinateurs avancés DARPA est l'une des parties les plus fascinantes et secrètes du gouvernement des États-Unis. Voici quelques-uns des projets les plus avancés de DARPA qui promettent de transformer le monde de la technologie. Read More a examiné un système similaire appelé LifeLog qui permettrait de recueillir ...
... toutes les activités et relations qu'une personne engage. Ceci comprend les achats par carte de crédit, les sites Web visités, le contenu des appels téléphoniques et des courriels envoyés et reçus, les numérisations de télécopies et de courriers envoyés et reçus, les messages instantanés envoyés et reçus, lecture de livres et de magazines, sélections télévisées et radiophoniques, localisation physique au moyen de capteurs GPS portables, [et] données biomédicales capturées par des capteurs portables.
De toute évidence, Beware et d'autres solutions de surveillance des médias sociaux ne sont pas à ce point avancées, et n'ont pas tout à fait le même potentiel pour les violations de la vie privée. Cependant, le modèle du gouvernement américain consistant à créer des logiciels qui ne respectent pas la vie privée ou qui ne sont pas bien compris par le public ou qui sont gardés secrets, inquiète beaucoup de gens. Et la surveillance des médias sociaux par la police donne l'impression qu'elle pourrait devenir un champ de bataille pour les libertés civiles.
Beaucoup de gens ont déjà pris parti. Le grand nombre de programmes de surveillance des médias sociaux disponibles indique que de nombreux services de police et d'autres organisations (y compris les écoles) sont intéressés à utiliser cette technologie.
D'un autre côté, des groupes comme l'ACLU se sont déjà prononcés contre la technologie, disant que cela pourrait permettre aux services de police de «placer les gens sous la suspicion simplement pour avoir dit ce qu'ils pensaient en ligne». Un logiciel de surveillance espionne probablement sur #BlackLivesMatter Hashtag Activism: #powerful ou #pointless? Activisme Hashtag: # puissant ou # sans point? #BringBackOurGirls, #ICantBreathe, et #BlackLivesMatter ont connu une large couverture internationale au cours de l'année écoulée - mais les hashtags sont-ils un moyen efficace de militer? Lire la suite », bien qu'il y ait peu de preuves que c'est le cas.
Et, bien sûr, toute l'information recueillie par Beware est «disponible dans le commerce». Ce que cela signifie est difficile à connaître, car les types de données que les réseaux sociaux vendent semblent changer tout le temps. Comme nous l'avons vu dans le passé, il n'est pas difficile d'obtenir des informations qu'un utilisateur pense privées. Préparez votre compte Confidentialité pour Facebook Graphique Conseils [Conseils Facebook hebdomadaires] Préparez votre compte Confidentialité pour Facebook Recherche sur Facebook [Facebook Conseils Facebook] Facebook lance une nouvelle fonctionnalité pour en savoir plus sur nos amis, beaucoup de gens réalisent que leurs paramètres de confidentialité ne sont plus adéquats. Leur dernière nouveauté, Facebook Graph Search, ne fait pas exception ... Lire la suite en posant les bonnes questions et en utilisant les bons outils.
Je ne serais pas la première personne à associer Beware et d'autres solutions de surveillance des médias sociaux avec le pré-crime de Minority Report ou le crime de 1984 .
La sophistication de logiciels comme Beware est au point où il peut probablement tirer des conclusions basées sur les choses que vous ne dites pas, mais impliquent seulement. Intrado et d'autres fabricants ne veulent pas que leur logiciel soit lié à des romans de science-fiction dystopiques, mais la connexion est évidente.
Leçons apprises
Que vous soyez inquiet ou non des violations potentielles de la confidentialité causées par le logiciel de surveillance des médias sociaux entre les mains des forces de l'ordre, cela devrait vous rappeler que tout ce que vous publiez sur Facebook ou Twitter n'est pas seulement disponible pour vos amis. Il est là pour toujours, et il est probablement entre les mains d'une grande variété de personnes et d'entreprises.
La meilleure chose que vous pouvez faire est de ne pas afficher de choses stupides sur les médias sociaux. Ne faites pas de blagues à propos de faire quelque chose d'illégal. Ne préconisez pas la violence contre la police ou les membres de l'armée. Ne postez pas de photos de vous-même qui pourraient être interprétées comme une menace (surtout avec des armes à feu-ne posez pas de photos de vous-même avec des armes à feu). Beaucoup de ceci est le bon sens, mais Fresno et leur utilisation de Beware devraient souligner l'importance de ces sortes de mesures protectrices.
Il s'agit également d'une question importante à garder à l'esprit lors de la prochaine élection présidentielle américaine. 6 Ressources pour vous aider à suivre l'élection présidentielle américaine 2016 6 Ressources pour vous aider à suivre l'élection présidentielle américaine 2016 Le droit de vote des citoyens détermine le résultat une élection. Soyez un électeur informé et prenez cette tâche importante au sérieux avec l'aide de ces outils. Lire la suite (où les médias sociaux sont également un outil extrêmement important Les campagnes politiques vous suivent sur Facebook, voici pourquoi les campagnes politiques vous suivent sur Facebook, voici pourquoi Vous savez maintenant que les entreprises et le gouvernement utilisent les médias sociaux pour vous suivre. groupe qui regarde, analyse, et capitalise sur chaque mouvement que vous faites sur Facebook: les militants politiques.En savoir plus, intéressant). Cette question pourrait très bien se concrétiser peu de temps après l'assermentation d'un nouveau président, et la façon dont il se déroulera à partir de là dépendra peut-être de qui siège dans le bureau ovale. Cela peut sembler un problème mineur maintenant, mais cela pourrait être très important dans un proche avenir. Cela vaut la peine de garder un œil sur.
Que pensez-vous des services de police qui surveillent les médias sociaux? Pensez-vous qu'ils sont justifiés d'utiliser une approche algorithmique? Ou pensez-vous que cela risque d'entraîner un profilage racial et des jugements inexacts? Devrions-nous nous inquiéter de la progression de ce type de logiciel?
C'est une question compliquée, et je ne suis même pas totalement sûr de ce que je ressens à ce sujet. Il laisse trop entre les mains d'un algorithme qui surveille les gens à leur insu. Mais cela pourrait aussi aider à sauver la vie des agents dans des situations dangereuses. Aidez-moi à le faire dans les commentaires ci-dessous.
Crédits image: Scott Cornell via Shutterstock.com, Ivelin Radkov via Shutterstock.com.