Cela ressemble à quelque chose de 1984 de George Orwell: un homme envoie un e-mail privé et se trouve arrêté pour cela. L'e-mail n'a pas été intercepté par un policier enquêteur; l'homme n'était même pas soupçonné avant son arrestation. L'e-mail a été analysé par un système automatisé que peu de gens connaissent et l'e-mail incriminé a été porté à l'attention des autorités.
Cela ressemble-t-il à un monde dans lequel vous voulez vivre? Ce monde est déjà là - et ce système a été utilisé pour attraper un gars envoyant de la pornographie juvénile Des vérités malheureuses sur la pornographie juvénile et Internet [En vedette] Faits malheureux sur la pornographie juvénile et Internet [en vedette] Un petit carré blanc et un curseur clignotant. Une fenêtre à travers laquelle le monde entier existe. Vous n'avez qu'à dire le mot juste - n'importe quel mot - et votre désir sera livré .... Lire la suite.
Pris la main dans le sac
Alors, comment est-ce arrivé? John Skillern envoyait des photos indécentes d'enfants à un ami et se retrouva bientôt en état d'arrestation. Ce qu'il ne savait pas, c'est que Google analyse automatiquement les images envoyées via Gmail et les compare à une base de données de pornographie enfantine récupérée; Si une correspondance est trouvée, la police est avertie. Dans ce cas, ils ont ensuite obtenu un mandat pour fouiller son ordinateur et sa tablette, où ils ont trouvé d'autres images pornographiques d'enfants.
La loi américaine exige que toute entreprise découvrant des preuves de pornographie juvénile le signale immédiatement à la police. Cela s'applique traditionnellement aux développeurs de photos, aux services d'hébergement de photos et à d'autres entreprises liées à la photographie, mais cela s'applique à toutes les entreprises, y compris les moteurs de recherche. Bien sûr, c'est bien: l'exploitation sexuelle des enfants est un crime odieux et nous devrions y consacrer toutes les ressources dont nous disposons. Les entreprises sont heureuses de se conformer à ces lois, et en général, les gens sont heureux pour eux.
Mais l'existence de cette technologie inquiète certaines personnes.
Comment ça marche?
La technologie utilisée pour la numérisation de pornographie juvénile de Gmail est un logiciel créé par Microsoft appelé PhotoDNA. Quand une image est ajoutée à la base de données PhotoDNA, un hachage mathématique Ce que tout ce truc de hachage MD5 signifie [Explication technologique] Ce que tout ce hachage MD5 signifie en réalité [Technologie expliquée] Voici une version complète de MD5, un hachage et un petit vue d'ensemble des ordinateurs et de la cryptographie. Read More est créé et utilisé comme identifiant unique. Après avoir ajouté quelques milliers d'images à la base de données, il devient très utile pour identifier les photos basées sur ces identifiants, même si ces photos ont subi des modifications mineures.
Microsoft a développé PhotoDNA en collaboration avec le Centre national pour les enfants disparus et exploités (NCMEC), donc il est destiné à la lutte contre la pornographie juvénile depuis le tout début. Et, évidemment, ça marche. Il a pris Skillern, et il est utilisé par Bing, OneDrive, Facebook, Twitter et Gmail, parmi d'autres potentiels.
Malheureusement, PhotoDNA ne peut identifier que les photos qui ont déjà été ajoutées à la base de données, ce qui signifie que la négociation de nouvelles images ne déclenchera pas d'alerte. Mais avec la quantité de matériel illicite qui existe déjà, cela peut être extrêmement utile pour identifier les pornographes d'enfants potentiels.
Était-ce un secret?
Depuis l'annonce de l'arrestation de Skillern, il y a eu beaucoup de discussions sur la question de savoir si le déploiement de PhotoDNA par Gmail est un problème de confidentialité. Gmail diffuse des annonces auprès des utilisateurs et analyse le contenu des e-mails personnels afin de déterminer les annonces à diffuser. Google maintient que cette analyse est effectuée de manière anonyme et que les comptes étudiants, professionnels et gouvernementaux ne sont pas analysés. Des inquiétudes récentes en matière de confidentialité et de légalité ont conduit Google à se désengager un peu de son système de numérisation, mais la révélation de l'utilisation de PhotoDNA fait que de nombreuses personnes se demandent si nous avons toute l'histoire.
Alors que Google n'avait jamais nié qu'ils scannaient les messages Gmail pour la pornographie juvénile, ils étaient très loquaces à ce sujet. Même si les gens sont sûrs de soutenir les mesures anti-pédopornographie, l'idée que Google scanne les images dans leurs e-mails n'a peut-être pas été aussi bien passée. Mais les nouvelles sont maintenant disponibles, et nous devons nous demander si Google se montre à la hauteur de ce qu'ils font avec nos e-mails. Nous savons que le courrier électronique n'est pas sécurisé Pourquoi le courrier électronique ne peut pas être protégé de la surveillance du gouvernement Pourquoi le courrier électronique ne peut-il être protégé? Si vous saviez ce que je sais du courrier électronique, vous ne l'utiliserez peut-être pas non plus. de service de messagerie sécurisé Lavabit comme il l'a récemment fermé. "Il n'y a aucun moyen de faire crypté ... Lire la suite, mais trouver des preuves de surveillance par Google est déconcertant.
Le Panopticon de Gmail
À la fin du XVIIIe siècle, Jeremy Bentham élabora les plans d'un bâtiment appelé panopticon, dans lequel tous les élèves, les enfants ou, le plus souvent, les prisonniers d'un immeuble pouvaient être surveillés par un seul observateur. Aucun détenu n'est capable de dire s'il est surveillé. Il doit donc supposer qu'il est surveillé et l'encourager à modérer son comportement afin de ne pas attirer l'attention sur lui-même.
Est-ce cela que Gmail nous guide? À l'heure actuelle, ils scannent des images pour la pornographie juvénile. Mais, comme certains journalistes ont noté, Google est lié par les lois des pays dans lesquels il opère Du Web à la prison: 6 types de crimes informatiques que vous pouvez vous faire arrêter du Web à la prison: 6 types de crimes informatiques que vous pouvez Arrêtez-vous Parce que les gouvernements du monde entier ont essayé d'apprivoiser l'Internet comme une tempête de nouvelles technologies menace tout, de la censure gouvernementale stricte et le contrôle des médias aux conglomérats de médias enracinés et aux vieux concepts de ... Lire la suite qu'ils retournent d'autres types d'informations trouvées dans leurs analyses. Cela peut sembler fastidieux, mais en acceptant les termes et conditions de Gmail, nous avons donné à Google beaucoup de pouvoir pour faire ce qu'ils veulent avec nos données.
Et est-ce si difficile d'imaginer que cette technologie serait utilisée dans la poursuite des auteurs d'autres crimes? À l'heure actuelle, Google maintient que quelqu'un pourrait planter de manière flagrante un autre type de crime via Gmail et qu'ils ne seraient pas à risque. Mais combien de temps cela sera-t-il le cas? Google coopère maintenant avec les forces de l'ordre en analysant nos messages privés Pouvez-vous échapper à des programmes de surveillance Internet comme PRISM? Pouvez-vous échapper à des programmes de surveillance Internet comme PRISM? Depuis qu'Edward Snowden a dénoncé PRISM, le programme de surveillance secrète de la NSA, nous savons une chose avec certitude: rien de ce qui se passe en ligne ne peut être considéré comme privé. Pouvez-vous vraiment échapper à la ... Lire la suite. Maintenant que cette technologie a été utilisée pour attraper un criminel et qu'elle a été montrée au public, il y a un lien très fort.
Que va scanner Google pour la suite? Menaces terroristes? Meurtres? Vol à l'étalage? Des opinions différentes de celles soutenues par la majorité politique? Indications d'intention d'arrêter d'utiliser les services Google? Nous pourrions assister à un grand tournant dans un proche avenir en raison des demandes croissantes des gouvernements. Et pas seulement les nôtres: que demanderont des gouvernements plus répressifs à Google? E-mails contenant des preuves d'homosexualité? Dissidence politique? Missions humanitaires?
Nous ne savons tout simplement pas. Et il est difficile de dire comment Google va réagir.
Et il sera difficile de dire non après qu'ils ont montré que leur balayage peut attraper des pornographes d'enfants. Qui va leur demander d'arrêter d'utiliser cette technologie alors qu'on leur demandera inévitablement «Soutenez-vous la pornographie infantile, alors?» En réponse? Il n'y aura peut-être pas de retour en arrière, l'opinion publique va être difficile à renverser contre un système qui capture certains des criminels les plus vilipendés du monde.
Est-ce le début de la fin de la vie privée?
S'il y a une seule entreprise synonyme d'Internet, c'est Google. Et s'ils scannent nos e-mails, la vie privée en ligne pourrait prendre fin (au moins dans les principaux canaux, il y aura toujours d'autres options). Si vous lisez ma partie de la journée d'action Ne nous espionnez pas, les leçons apprises de ne pas nous espionner: Votre guide sur la vie privée sur Internet Les leçons apprises de ne pas espionner sur nous: Votre guide sur la vie privée sur Internet Lire la suite Je saurai que j'ai peur que la vie privée fasse face à des attaques sérieuses venant de plusieurs directions, tant d'entreprises que gouvernementales. Et cette coopération entre les deux pourrait créer des problèmes pour la confidentialité et la sécurité en ligne.
Bien que je ne pense pas que nous voyons un mouvement calculé par Google pour améliorer l'opinion publique de leur numérisation, je pense qu'ils feront de leur mieux pour faire de cette chose une bonne chose. Ils n'avaient peut-être pas espéré que cette numérisation soit portée à l'attention du public, mais il y a amplement l'occasion ici de montrer au monde ce qu'ils peuvent faire pour nous en échange d'une partie de notre vie privée.
La prochaine étape que Google prendra en réponse à cette histoire sera très révélatrice, et j'ai hâte de suivre cette histoire pour voir ce qu'ils en disent. Qu'est-ce que tu penses? Google dépasse-t-il ses limites en scannant chaque image que nous envoyons? Ou êtes-vous heureux de sacrifier une partie de votre vie privée pour lutter contre la pornographie juvénile? Ressentez-vous la même chose si Google commence à scanner pour d'autres crimes? Ou si les gouvernements commencent à leur demander de retourner certains e-mails? Il y a beaucoup de place pour la controverse et la discussion ici-carillon ci-dessous et laissez-nous savoir ce que vous pensez!
Crédits image: Tous les yeux qui voient. Doodle style (édité) via Shutterstock, Man en noir via Shutterstock, Micah Baldwin via flickr, DieBuche via Wikimedia Commons, Robert Scoble via flickr, Ben Roberts via flickr.