Le journal allemand Süddeutsche Zeitung a eu accès à des documents internes de Facebook sur la gestion de sa modération, rapportent le Monde et Radio Canada. On y apprend notamment que l’entreprise définit des « catégories protégées » (liées à l’orientation sexuelle, au sexe, aux origines ethniques…). Et que l’association de deux catégories protégées déclenche une censure automatisée. « Par exemple, les « femmes irlandaises » regroupent les catégories « nationalité » et « sexe » ; elles sont donc protégées, soulignent ces documents. Il est donc interdit d’écrire que « les femmes irlandaises sont stupides ». En revanche, les adolescents irlandais ne le sont pas, car la catégorie « adolescent » n’est pas protégée. Il est donc possible de dire du mal des adolescents irlandais. »
Un éclairage intéressant sur les règles de modération de Facebook qui ressemblent à une formule mathématique, parée pour toujours plus d’automatisation…

Le site d’information Propublica, quant à lui, a demandé aux utilisateurs de Facebook de partager les centres d’intérêt que Facebook leur attribue, permettant aux journalistes du site de récupérer quelques 50 000 attributs que Facebook utilise pour classer les utilisateurs. Or, soulignent Julia Angwin, Terry Parris Jr. et Surya Mattu, Facebook a également recours à l’achat de données auprès de courtiers pour classer et cibler ses utilisateurs (la liste des courtiers auxquels FB a recours est disponible ici). Comme l’explique Slate.fr, les catégories qu’applique FB ne recoupent pas vraiment les centres d’intérêt que FB montre à ses utilisateurs, notamment parce que ce ciblage s’augmente de données extérieures à FB et qu’une part de ces catégories (comme «ménages dont le revenu se situe entre 100.000 et 125.000 dollars» ou «particuliers qui sont des clients réguliers des magasins “tout à un dollar”») sont générées par les courtiers en données auxquels s’approvisionne FB. FB renvoie ses utilisateurs qui ne veulent pas être catégorisés, à des modalités de Do Not Track auprès de chacun des nombreux courtiers où il s’approvisionne. Reste que la procédure n’est pas si simple. La journaliste Julia Angwin a tenté de se retirer auprès des courtiers, sans vraiment y parvenir.

Une belle démonstration que malgré la transparence affichée (FB permet à chacun de voir les centres d’intérêt qui le caractérise), la symétrie d’information entre la plateforme et l’utilisateur est encore loin d’être parfaite.