Les articles de presse de Yahoo contiennent de nombreux commentaires peu recommandables, un peu comme le reste d'Internet. L'équipe de Yahoo a donc décidé d'utiliser sa section de commentaires afin de développer un algorithme capable d'identifier avec succès les pires contrevenants. Leur nouvel algorithme de détection des abus fonctionne 90 % du temps, ce qui, selon eux, le rend plus efficace que les tentatives d'autres organisations d'accomplir des exploits similaires, et décrit comme un grand pas en avant dans le domaine. 90 pour cent Est-ce que ça sonne plutôt bien, je l'admets.
Filaire rapporte que Yahoo publie également la première base de données organisée et accessible au public de discours de haine en ligne dans le cadre de son projet de lutte contre les abus. Cela signifie que d'autres sites pourront utiliser la base de données de commentaires de Yahoo afin de concevoir leurs propres algorithmes. L'algorithme de Yahoo a été développé sur la base de l'apprentissage automatique et également des données rapportées par les utilisateurs concernant leurs sections de commentaires.
La partie la plus délicate de tout algorithme de modération de commentaires est de gérer les faux positifs. De nombreux algorithmes de détection d'abus recherchent des mots ou des phrases spécifiques, comme des insultes ou des insultes courantes, et signalent automatiquement les commentaires pour modération. Cependant, cela a pour résultat que les commentaires sont signalés même s'ils font référence à une insulte dans le contexte de dire que ce n'est pas approprié, par exemple, ou si le commentaire est une imitation sarcastique d'un troll. L'algorithme de Yahoo peut apparemment détecter certains schémas vocaux, et il est conçu pour faire la différence entre le sarcasme plaisant et l'abus réel. (Bien sûr, si votre commentaire hilarant ne se distingue pas d'un abus réel, alors je suis presque sûr que l'algorithme le signalera toujours, mais je ne peux pas dire avec certitude comment cette partie de l'IA fonctionne.)
Yahoo a fait appel à des modérateurs de commentaires formés pour aider à perfectionner l'algorithme, et ils ont également payé des modérateurs non formés, et ils ont constaté que les modérateurs formés étaient bien meilleurs pour déterminer quels commentaires étaient appropriés (un peu évident, mais bon). Au cours de la création de l'IA, Yahoo a découvert que le travail de ces modérateurs humains formés était essentiel pour maintenir l'efficacité de l'algorithme et perfectionner ses techniques de détection.
Bien sûr, les algorithmes ont encore des biais , ce qui nécessiterait une équipe (espérons-le diversifiée) de modérateurs humains pour continuer à itérer sur les méthodologies utilisées pour classer les commentaires. Cela semble être un travail difficile, mais au moins Yahoo comprend maintenant l'importance de la formation et de la valorisation des rôles de leurs modérateurs humains bien formés et de leur nouveau collègue IA.
ticket de parking procès par combat
(passant par Le prochain Web , image via Michael Cordedda/Flickr )
