Facebook : les outils de surveillance conduisent à l'arrestation d'un pédophile

Facebook : les outils de surveillance conduisent à l'arrestation d'un pédophile

Surveillance nécessaire ou espionnage ?

À l’instar de nombreux sites communautaires ou ayant simplement une fonctionnalité de discussion en ligne, Facebook dispose d’outils automatiques pour repérer les éventuels pédophiles. L’arrestation récente d’un homme prouve autant un certain degré d'efficacité de ces outils que l’espionnage systématique des conversations.

  

Une détection automatique pour plus de 900 millions d'utilisateurs

L’événement a été rapporté par l’agence Reuters au sein d’un très long article consacré aux tenants et aboutissants d’une telle protection. Facebook dispose d’outils automatisés servant au repérage des discussions pouvant déboucher sur une atteinte aux mineurs. La pédophilie représente presque toujours la raison première de cette analyse.

Reuters a pu obtenir quelques réponses du directeur de la sécurité de Facebook, Joe Sullivan. Ce dernier a confirmé que des systèmes automatiques étaient en place. Il explique de plus que cette mission ne peut pas être confiée directement à des personnes, car la société compartimente la vie privée et les employés. À la place, les outils scannent les conversations et remontent des alertes en cas de danger potentiel. Ces dernières sont par contre examinées une à une par une équipe dédiée pour séparer les cas avérés des faux positifs.

Et c’est précisément un cas avéré qui fait les gros titres actuellement. « Un homme d'une trentaine d'années parlait de sexe avec une fillette de 13 ans résidant en Floride, et envisageait de la rencontrer avec l'école le lendemain. Le système d’analyse des messages a automatiquement signalé l'échange aux employés, qui l'ont lu avant d’alerter la police. Cette dernière a arrêté l'homme le lendemain » précise Joe Sullivan. Il ajoute que cette analyse est basée sur plusieurs critères, comme l’écart d’âge entre les participants, la distance géographique, l’emploi de mots-clés et/ou de combinaison de mots ou encore la comparaison avec des discussions réelles et archivées.

Un flou laissant une place prépondérante au contrôle parental

Pour autant, les détails sur la sécurité réellement mis en place ne sont pas nombreux. On ne sait par exemple pas depuis quand une telle sécurité a été mise en place. Il est cependant possible que des évènements passés aient soudainement embrasé la poudrière Facebook. On se rappelle ainsi qu’une journaliste de World Net Daily s’était créé un faux profilde jeune fille qui avait rapidement abouti à des contacts très explicites. On ne connaît pas non plus la taille de l’équipe dédiée à la vérification des alertes.

Il faut également noter que cette « révélation » intervient dans un contexte d’ouverture prochaine des inscriptions sur Facebook aux enfants âgés de 13 et moins. Toutefois, cette ouverture s’accompagnera d’outils dédiés aux parents qui, justement, n’existent pas aujourd’hui. De plus, cela ne règle pas la question de la protection des nombreux adolescents qui sont déjà sur le réseau social. En outre, comme le souligne Reuters, l’explosion des smartphones rend le contrôle parental nettement plus délicat : il ne s’agit plus d’un ordinateur commun au sein d’un foyer.

Un équilibre délicat

Joe Sullivan parle de technologies générant peu de faux positifs. Pour Reuters, il s’agit de lire en filigrane : de nombreuses conversations dangereuses ne sont sans doute pas détectées. Par exemple, Facebook ne s’embarrasse pas vraiment des relations qu’il estime « préexistantes ». D’un autre côté, modifier le degré de tolérance des outils automatiques pourrait générer un flot conséquent de faux positifs et entrainer des mésaventures pour les personnes concernées, au risque de porter gravement atteinte à leur image.

Bien entendu, l’arrestation d’un pédophile est difficilement contestable. Cependant, la surveillance active de plus de 900 millions d’utilisateurs pose une fois de plus la question du respect de la vie privée : où s’arrête la surveillance et où commence l’espionnage ?

Nous avons contacté Facebook pour obtenir davantage de renseignements et attendons actuellement une réponse.

(Vincent Hermann - PC Impact)