Modération de contenu en espagnol et entraînement de classificateur pour une plateforme latino-américaine

Le client exploite une plateforme sociale et de contenu généré par les utilisateurs avec une base d'utilisateurs substantielle en Colombie, au Mexique, en Argentine, au Chili, au Pérou et en Amérique centrale, aux côtés d'un segment lusophone brésilien. Le volume de contenu est élevé et majoritairement en espagnol, avec une forte variation régionale dans l'argot, l'humour et les références culturelles.

La modération automatisée de la plateforme performait mal sur l'espagnol d'Amérique latine. Le classificateur de toxicité, entraîné en grande partie sur des données anglaises et castillanes, atteignait 72,0 % de précision et 61,4 % de rappel sur le contenu latino-américain. Un faible rappel signifiait que le contenu nuisible persistait ; une faible précision signifiait que le contenu anodin était supprimé, générant des plaintes et des accusations de censure arbitraire. L'échec se concentrait précisément sur le contenu qui compte le plus. L'argot régional, le langage codé et les insultes dépendantes du contexte étaient systématiquement manqués, tandis que le vocabulaire anodin dans un pays et offensant dans un autre était traité de façon incohérente. Le temps de réponse aggravait le préjudice, avec un délai médian entre le signalement et l'action de 45 minutes, dépassant quatre heures pendant les pics. Le bien-être des modérateurs était devenu une crise de rétention, avec une attrition annualisée supérieure à 70 % sous l'arrangement précédent, produisant une main-d'œuvre en permanence inexpérimentée et une qualité de décision dégradée.

Corpshore Colombia a proposé Cali pour sa composition démographique latino-américaine et son marché du travail des services en croissance, et a proposé un modèle de modération bâti autour d'un routage des décisions par région plutôt que d'un effectif uniforme.

Le cadre de bien-être a été décisif. L'approche documentée de Corpshore, rotation obligatoire hors des files à forte intensité, temps de décompression programmés, accompagnement psychologique sur site et soutien par les pairs, a été jugée sensiblement plus développée que les offres concurrentes, et le client avait conclu que son problème d'attrition était la cause racine de son problème de qualité. Corpshore a également proposé d'associer la modération humaine à l'entraînement du classificateur au sein d'un seul projet.

Soixante-six modérateurs à Cali issus de diverses nationalités latino-américaines, huit spécialistes de l'entraînement IA sur l'amélioration du classificateur, cinq responsables confiance et sécurité et deux conseillers en bien-être sur site. La couverture est de 24 heures sur des équipes tournantes. Tous les modérateurs suivent une intégration de six semaines couvrant la politique, le contexte régional, les cadres de décision, l'escalade et la pratique du bien-être avant de traiter du contenu en direct, avec une formation distincte et des limites de rotation pour les catégories les plus difficiles.

Routage des décisions par région. Le contenu est routé vers un modérateur familier de la langue et du contexte culturel de la région d'origine plutôt que vers une file générique en espagnol, ce qui répond à l'incohérence qu'un effectif uniforme ne peut résoudre.

Les décisions des modérateurs comme données d'entraînement. Chaque décision, avec son contexte régional et son code de raisonnement, alimente le jeu d'entraînement du classificateur. Six cycles de réentraînement ont été menés, chacun intégrant les décisions humaines du cycle précédent.

Tri augmenté par l'IA, pas de remplacement. Le classificateur pré-note et priorise plutôt que d'agir de façon autonome au-delà d'une étroite bande de haute confiance, gardant le discernement humain sur le contenu ambigu tout en retirant le volume routinier, ce qui a produit l'amélioration du temps de réponse sans coût de précision.

Le bien-être comme exigence opérationnelle. Les limites de rotation, la décompression, l'accompagnement psychologique sur site et le soutien par les pairs sont programmés et appliqués. L'attrition sur ce compte est de 21 % annualisée contre les 70 % antérieurs du client, et le client attribue l'amélioration de la qualité des décisions principalement à l'ancienneté.

Précision et rappel du classificateur en espagnol

La précision du classificateur est passée de 72,0 % à 94,0 % et le rappel de 61,4 % à 93,1 % au fil de six cycles de réentraînement. L'amélioration de la précision a réduit les suppressions à tort, source des critiques publiques de la plateforme. Le délai médian entre le signalement et l'action est tombé de 45 minutes à 4 minutes, maintenu pendant les pics car le tri par IA absorbe le volume routinier qui patientait auparavant derrière les cas ambigus. L'attrition des modérateurs est tombée de plus de 70 % à 21 %, et la précision des décisions au regard de la revue des responsables confiance et sécurité est passée de 79 % à 96 %.

Le corpus d'entraînement annoté par région et la taxonomie des codes de raisonnement appartiennent au client et soutiendront le développement du classificateur indépendamment de tout fournisseur. Le cadre de bien-être a été adopté comme norme de Corpshore Colombia pour les comptes traitant du contenu pénible. Le projet s'est étendu à la modération en portugais brésilien et au red-teaming des fonctionnalités de contenu génératif du client.