Les règles de modération chez Bodyguard

Vous trouverez ici un guide détaillant les différentes règles de modération afin de choisir les paramètres qui vous correspondent le mieux.

1. Les différentes Règles de Modérations

A. Contexte:

Les règles de modération sont les indications que nous donnons à notre technologie. Nous avons construit plusieurs modèles afin d'adapter nos règles de modération à la sensibilité de nos clients.

Nous gardons les commentaires détectés comme :

• Positive
• Neutral
• Negative criticism
• Vulgarity
• Self Harm

Nous supprimons les commentaires détectés comme :

• Racism
• LGBTQIA+Phobia
• Misogyny
• Ableism
• Moral harassment
• Sexual harassment
• Terrorism and violent extremism
• Threat
• Pedophilia
• Doxxing
• SPAM/SCAM/Flood
• Ads

Le choix des règles de modération a un impact direct sur les commentaires détectés comme :

• Insult
• Hatred
• Body Shaming
• Profanity
• Vulgarity
• Sexually Explicit
• Drug Explicit
• Weapon Explicit
• Reputation harm
• Boycott

B. Configuration des règles :

Type de protection:

Un modèle de règle de modération est basé sur deux types de protections possibles :

• Individuel 

Les commentaires détectés comme étant des insultes, de la haine et du body shaming sont supprimés uniquement lorsqu'ils sont dirigés vers l'utilisateur, sa famille ou l'entité.

• Général 

Les commentaires détectés comme étant des insultes, de la haine et du body shaming sont supprimés, quelle que soit la cible.

 

Type de Tolérance

• Très stricte 

Tous les contenus détectés comme étant vulgaires, appelant au boycott, visant à nuire à la réputation, sexuellement explicites ou encore liés à la drogue ou à des armes sont supprimés s'ils ont une sévérité haute ou au-dessus.

• Stricte 

Tous les contenus détectés comme étant des insultes, de la haine et du body shaming sont supprimés. Les commentaires visant à nuire à la réputation ainsi que ceux appelant au boycott sont supprimés s'ils ont une sévérité haute ou au-dessus.

• Balanced

Les contenus détectés comme étant des insultes, de la haine et du body shaming de gravité moyenne ou supérieure sont supprimés. Les commentaires visant à nuire à la réputation ainsi que ceux appelant au boycott sont supprimés s'ils ont une sévérité haute ou au-dessus.

• Permissive

Les contenus détectés comme étant des insultes, de la haine et du bodyshaming de gravité élevée ou supérieure sont supprimés. 

2. La construction des règles de modération

Étape 1: Analyse

La modération par la technologie Bodyguard s'articule autour de trois aspects des commentaires toxiques :

• La Classification: Types de contenu toxique
• Cible
• Sévérité

A. Les classifications de contenu toxique et de commentaires Undesirable 

Points clés :

• Bodyguard supprime les commentaires indésirables qui polluent l'espace communautaire, selon les règles de modération choisies.
• Bodyguard applique des règles de modération extrêmement strictes pour les types de contenus toxiques suivants : racisme, phobie LGBT+, misogynie, harcèlement moral, harcèlement sexuel et menaces.

➡️ Pour plus de détails, voir l'article suivant

B. Cible d'un contenu toxique

Avant de prendre la décision de Supprimer ou de Conserver un commentaire haineux, la technologie Bodyguard identifie la cible du commentaire :

• User : le titulaire du compte qui a publié le post
• Group : un groupe spécifique de personnes ou une communauté
• Everyone : tout le monde
• User family : famille et amis proches de l'utilisateur
• Author of comment : l'autrice ou auteur du commentaire, s'adressant à elle-même ou lui-même
• Single person : une personne en particulier
• No one : aucune personne ou groupe en particulier

C. Sévérité d'un contenu toxique

Ensuite, Bodyguard va définir le niveau de sévérité du contenu analysé (de "low" pour "bas" à "critical" pour "très haut"). Pour rappel les commentaires des catégories racisme, phobie LGBT+, misogynie, harcèlement moral, harcèlement sexuel et menaces sont supprimés indifférement de leurs sévérités. 

Voici quelques exemples dans différentes catégories :

• Insultes :

  • Basse (Low) : “T’es un con !

  • Moyenne (Medium) : “Vous êtes des sacs à merde !”

  • Haute (High) : “C’est une pute !”

  • Très haute (Critical) : “Va te faire foutre, tête de bite !”

• Haine :

• • Basse (Low) : “Tu nous saoules !”

  • Moyenne (Medium) : “Arrête de dire de la merde !”

  • Haute (High) : “On s’en branle de vos excuses, bougez vous le cul !”

  • Très haute (Critical) :“Vous avez pas de couilles, vous me faites vomir !”

• Bodyshaming :

• • Basse (Low) : “T’es moche !”

  • Moyenne (Medium) : “Berk, elle est dégueulasse !”

  • Haute (High) : “Va faire un régime, patapouf !”

  • Très Haute (Critical) : “C’est un gros porc, il me dégoutes !”

• Harcèlement Sexuel :

• •  “Elle me fait bander !”

  •  “J’ai envie de lui péter le cul !”

  • “Suce moi, salope !”

  •  “J’te baise !”

• Racisme :

• •  “Les arabes sont des terroristes”

  •  “Les gitans sont des voleurs”

  • “Les noirs ressemblent à des singes”

  •  “Toujours les mêmes, retournez dans votre pays !”

• LGBTQA+ Phobie :

• • “L’homosexualité est une maladie”

  • “Les trans me dégoutent”

  •  “Les pédés iront en enfer”

  •  “Ces tapettes ne méritent pas de vivre”

• Misogynie :

• • “Va faire la vaisselle !”

  • “La place de la femme, c’est à la cuisine !”

  • “Les femmes sont inférieures aux hommes”

  • “Va me faire à manger”

Étape 2 : décision

Enfin, Bodyguard appliquera les règles définies par le client pour décider de l'action de modération à entreprendre : supprimer ou conserver le commentaire.

Veuillez vous référer à cet article pour comprendre le fonctionnement des décisions sur chaque réseau social.