Le cyberharcèlement est la gangrène des réseaux sociaux et la plateforme de streaming Twitch n’y échappe pas.

Créé en 2011 et détenu par le géant Amazon depuis 2014, Twitch est un réseau social qui permet à des streamers de réaliser des directs vidéos. La plupart de ces lives montrent des parties de jeux vidéos, mais on peut aussi trouver des cours de cuisine ou des débats.

La plateforme permet donc aux utilisateurs de suivre ces streamers en live et de discuter avec eux via un chat, ce qui peut parfois devenir une source de problème. Insultes, menaces de mort, envoi de contenus violents… De nombreux créateurs de chaine Twitch ont décidé de dire stop. Ils ont notamment fait ‘grève’ en septembre dernier en lançant le hashtag “a day off Twitch” (un jour sans Twitch) afin d’alerter la plateforme sur ces comportements abusifs.

Les streameuses particulièrement visées

Chloé est une streameuse belge de 25 ans. Il y a 2 ans, elle crée sa chaine de stream, Chloé_live, qui compte aujourd’hui dix milles abonnés, et sur laquelle elle réalise des lives jeux vidéos. Comme beaucoup d’autres, elle est souvent victime de harcèlement sur la plateforme. “Vu que l’on est en direct, les gens cherchent à avoir une interaction“, mais pas forcément positive. “C’est souvent des réflexions sur le physique du genre ‘tu es moche’ ou ‘tu es mal habillée’, parfois ce sont des compliments du style ‘tu es jolie aujourd’hui’, mais là aussi, c’est malaisant.”

Des insultes qui sont souvent liées à sa condition de femme, les premières victimes de ce harcèlement sur Twitch. “J’ai aussi des réflexions sur mes compétences. Si je prends le mode facile pendant une partie ou que je fais une erreur, on va me dire que c’est parce que je suis une femme. Or, le jeu vidéo, que tu sois une fille ou un garçon, ça ne change rien. Cela n’a pas de sens.“

La place des femmes dans le stream est compliquée, “mais comme partout dans la société” nous confit Chloé. “Il n’y a pas de mise en avant des femmes qui sont sous-représentées“. Il y a un an, elle décide donc de lancer Stream’Her, un groupe d’entraide pour les streameuses et qui visent à valoriser leur travail. Mais là encore, elle a essuyé une vague de haine.

“Quand j’ai annoncé la création du projet sur Twitter, je me suis pris une vague d’insultes, c’était incroyable. J’ai même fini par supprimer le tweet.“. Durant un live sur Stream’Her, la jeune belge a également été victime de harcèlement. “Quelqu’un avait balancé le lien du streaming sur un forum en appelant à venir insulter ‘cette bande de féministes’. 300, 400 personnes sont arrivées sur le live pour nous envoyer des commentaires ultra négatifs.” Face à ce problème récurent, Twitch a donc décidé de réagir.

L’intelligence artificielle comme solution

Le 30 novembre dernier, Twitch publie un communiqué dans lequel l’entreprise annonce vouloir utiliser l’intelligence artificielle pour détecter les “utilisateurs suspects“. Cet outil – appelé “Suspicious User Detection” (détection d’utilisateur suspect) – doit permettre aux créateurs de contenu de modérer leur chat en les aidant à identifier les comptes douteux et ainsi les bannir.

En effet, le problème principal – et qui est présent sur tous les réseaux sociaux – c’est qu’un utilisateur banni peut créer un nouveau compte dès que le sien est supprimé. L’idée est donc de suivre ces utilisateurs et les empêcher de recréer des nouveaux comptes en permanence. Comme dit la plateforme “lorsque vous bannissez quelqu’un de votre canal, il doit être banni de votre communauté pour de bon.“

Pour ce faire, Twitch compte s’appuyer sur “l’apprentissage automatique“. Ce nouveau système est censé identifier les comptes comme “probablement” ou “possiblement” douteux.

Concrètement, quand les comptes sont étiquetés comme “fraudeurs probables“, les messages que ceux-ci envoient sur le chat ne sont visibles que pour le créateur de la chaine et ses modérateurs afin qu’ils puissent choisir de laisser la restriction telle quelle, de surveiller l’utilisateur, ou de le bannir du canal.

Quand les comptes sont identifiés comme “possibles fraudeurs“, les messages apparaissent dans le chat normalement, mais le compte sera signalé au créateur et à ses modérateurs afin qu’ils puissent surveiller l’utilisateur et le bannir du chat si nécessaire. Cette fonctionnalité a été ajoutée par défaut à toutes les chaines de Twitch.

Pour Chloé, le problème principal de la plateforme vient en effet de la création infinie de comptes. “Je n’ai pas encore utilisé ce nouvel outil sur Twitch et je n’ai pas eu de retour. Je pense que c’est encore tôt pour savoir s’il sera efficace, mais je l’espère.” Pour elle, le sujet est compliqué car “Twitch génère de l’argent et si on ajoute de la modération, cela sera moins rentable.” Pourtant, elle confirme que “la solution, c’est la modération.”

“Pour l’instant, le modérateur de Twitch qui est censé identifier les insultes fonctionne très mal. La version française n’est pas du tout au point. Je pense qu’ils devraient s’inspirer des outils de modération externe comme ‘bodyguard’ qui marche bien en français“. Un live Stream’Her est justement prévu fin janvier en collaboration avec cet outil de modération. Une occasion supplémentaire de faire entendre leurs voix et réclamer du changement sur la plateforme.

Aurore Dessaigne

Le cyberharcèlement est la gangrène des réseaux sociaux et la plateforme de streaming Twitch n’y échappe pas.Créé en 2011 et détenu par le géant Amazon depuis 2014, Twitch est un réseau social qui permet à des streamers de réaliser des directs vidéos. La plupart de ces lives montrent des parties de jeux vidéos, mais on peut aussi trouver des cours de cuisine ou des débats. La plateforme permet donc aux utilisateurs de suivre ces streamers en live et de discuter avec eux via un chat, ce qui peut parfois devenir une source de problème. Insultes, menaces de mort, envoi de contenus violents… De nombreux créateurs de chaine Twitch ont décidé de dire stop. Ils ont notamment fait ‘grève’ en septembre dernier en lançant le hashtag “a day off Twitch” (un jour sans Twitch) afin d’alerter la plateforme sur ces comportements abusifs. Chloé est une streameuse belge de 25 ans. Il y a 2 ans, elle crée sa chaine de stream, Chloé_live, qui compte aujourd’hui dix milles abonnés, et sur laquelle elle réalise des lives jeux vidéos. Comme beaucoup d’autres, elle est souvent victime de harcèlement sur la plateforme. “Vu que l’on est en direct, les gens cherchent à avoir une interaction”, mais pas forcément positive. “C’est souvent des réflexions sur le physique du genre ‘tu es moche’ ou ‘tu es mal habillée’, parfois ce sont des compliments du style ‘tu es jolie aujourd’hui’, mais là aussi, c’est malaisant.” Des insultes qui sont souvent liées à sa condition de femme, les premières victimes de ce harcèlement sur Twitch. “J’ai aussi des réflexions sur mes compétences. Si je prends le mode facile pendant une partie ou que je fais une erreur, on va me dire que c’est parce que je suis une femme. Or, le jeu vidéo, que tu sois une fille ou un garçon, ça ne change rien. Cela n’a pas de sens.”La place des femmes dans le stream est compliquée, “mais comme partout dans la société” nous confit Chloé. “Il n’y a pas de mise en avant des femmes qui sont sous-représentées”. Il y a un an, elle décide donc de lancer Stream’Her, un groupe d’entraide pour les streameuses et qui visent à valoriser leur travail. Mais là encore, elle a essuyé une vague de haine.”Quand j’ai annoncé la création du projet sur Twitter, je me suis pris une vague d’insultes, c’était incroyable. J’ai même fini par supprimer le tweet.”. Durant un live sur Stream’Her, la jeune belge a également été victime de harcèlement. “Quelqu’un avait balancé le lien du streaming sur un forum en appelant à venir insulter ‘cette bande de féministes’. 300, 400 personnes sont arrivées sur le live pour nous envoyer des commentaires ultra négatifs.” Face à ce problème récurent, Twitch a donc décidé de réagir.Le 30 novembre dernier, Twitch publie un communiqué dans lequel l’entreprise annonce vouloir utiliser l’intelligence artificielle pour détecter les “utilisateurs suspects”. Cet outil – appelé “Suspicious User Detection” (détection d’utilisateur suspect) – doit permettre aux créateurs de contenu de modérer leur chat en les aidant à identifier les comptes douteux et ainsi les bannir. En effet, le problème principal – et qui est présent sur tous les réseaux sociaux – c’est qu’un utilisateur banni peut créer un nouveau compte dès que le sien est supprimé. L’idée est donc de suivre ces utilisateurs et les empêcher de recréer des nouveaux comptes en permanence. Comme dit la plateforme “lorsque vous bannissez quelqu’un de votre canal, il doit être banni de votre communauté pour de bon.”Pour ce faire, Twitch compte s’appuyer sur “l’apprentissage automatique”. Ce nouveau système est censé identifier les comptes comme “probablement” ou “possiblement” douteux. Concrètement, quand les comptes sont étiquetés comme “fraudeurs probables”, les messages que ceux-ci envoient sur le chat ne sont visibles que pour le créateur de la chaine et ses modérateurs afin qu’ils puissent choisir de laisser la restriction telle quelle, de surveiller l’utilisateur, ou de le bannir du canal.Quand les comptes sont identifiés comme “possibles fraudeurs”, les messages apparaissent dans le chat normalement, mais le compte sera signalé au créateur et à ses modérateurs afin qu’ils puissent surveiller l’utilisateur et le bannir du chat si nécessaire. Cette fonctionnalité a été ajoutée par défaut à toutes les chaines de Twitch.Pour Chloé, le problème principal de la plateforme vient en effet de la création infinie de comptes. “Je n’ai pas encore utilisé ce nouvel outil sur Twitch et je n’ai pas eu de retour. Je pense que c’est encore tôt pour savoir s’il sera efficace, mais je l’espère.” Pour elle, le sujet est compliqué car “Twitch génère de l’argent et si on ajoute de la modération, cela sera moins rentable.” Pourtant, elle confirme que “la solution, c’est la modération.” “Pour l’instant, le modérateur de Twitch qui est censé identifier les insultes fonctionne très mal. La version française n’est pas du tout au point. Je pense qu’ils devraient s’inspirer des outils de modération externe comme ‘bodyguard’ qui marche bien en français”. Un live Stream’Her est justement prévu fin janvier en collaboration avec cet outil de modération. Une occasion supplémentaire de faire entendre leurs voix et réclamer du changement sur la plateforme.Aurore Dessaigne