IBI-001314 - Gravepublie
Biais de modération de contenu
Content Moderation Bias
Score IBI
7.7
sur 10
Sévérité4_grave
Fréquencesystematique
Ampleur groupes4
Difficulté détection3
🇫🇷 Définition (FR)
Systèmes de modération pénalisant disproportionnellement certains groupes linguistiques ou culturels.
🇬🇧 Definition (EN)
Moderation systems disproportionately penalizing certain linguistic or cultural groups.
Taxonomie TriAxis
Classification structurelle
O
Origine
O2
Computationnel & Statistique
L
Cycle de vie
L2
Représentation
S
Spécifique
S22
Biais linguistique
💡
Exemple concret
Twitter modère plus sévèrement les tweets en dialecte afro-américain qu'en anglais standard.
📊 Métriques de détection
Demographic Parity DifferenceDisparate Impact RatioEqualized Odds Difference
⚙ Seuils d'alerte
Disparate Impact Ratio0.8
Equalized Odds Difference0.1
Demographic Parity Difference0.1
📚 Sources & Références Scientifiques
- •People Who Share Encounters with Racism Are Silenced Online by Humans and Machines, but a Guideline-Reframing Intervention Holds PromiseCinoo Lee, Kristina Gligoric, Pratyusha Ria Kalluri, Maggie Harrington, Esin Durmus, Kiara L. Sanchez, Nay San, Danny Tse, Xuan Zhao, MarYam G. Hamedani, Hazel Rose Markus, Dan Jurafsky, Jennifer Eberhardt (2024)
- •
🛡 Impact & Mitigation
🎯 Groupes vulnérables impactés
Personnes noires / afro-desc.Locuteurs langues minoritaires
🛠 Méthodologies de mitigation
- DEMO_PARITY : Parité démographique
- AUDIT_TIERS : Audit par tiers indépendant
🏢 Secteurs concernés
Médias et plateformes sociales (Risque: /5)
⚖ Réglementations applicables
🌍 International
- •ISO_42001 : ISO/IEC 42001:2023
- •UNESCO_2021 : UNESCO - Recommandation sur l'éthique de l'IA
- •OECD_AI_PRINCIPLES : OCDE - Principes IA
- •COE_AI_CONVENTION_INT : Conseil de l'Europe - Convention IA
🇪🇺 Europe
- •DSA_27 : Digital Services Act (UE) 2022/2065
📋 Métadonnées
Contributeur
Mohamadou SIDIBE
Institution
AI BIAIS INITIATIVE
Version
1
Créé le
14 octobre 2026
Mis à jour le
4 novembre 2026
UUID
66ab1b46-1a5f-407f-a899-04be9145b781
Explorer d'autres biais
250 biais documentés, classés par la taxonomie TriAxis.