IBI-002404 - Gravepublie
Biais de composition démographique
Demographic Composition Bias
Score IBI
7.4
sur 10
Sévérité4_grave
Fréquencesystematique
Ampleur groupes4
Difficulté détection2
🇫🇷 Définition (FR)
LLMs générant des histoires ou exemples avec des distributions démographiques non représentatives.
🇬🇧 Definition (EN)
LLMs generating stories or examples with non-representative demographic distributions.
Taxonomie TriAxis
Classification structurelle
O
Origine
O2
Computationnel & Statistique
L
Cycle de vie
L2
Représentation
S
Spécifique
S16
Biais d'exclusion
💡
Exemple concret
Demandez à un LLM de générer 10 portraits de CEO : 9 seront blancs, tous seront des hommes.
📊 Métriques de détection
Demographic Parity DifferenceDisparate Impact RatioEqualized Odds Difference
⚙ Seuils d'alerte
Disparate Impact Ratio0.8
Equalized Odds Difference0.1
Demographic Parity Difference0.1
📚 Sources & Références Scientifiques
- •Evaluating the Social Impact of Generative AI Systems in Systems and SocietyIrene Solaiman, Zeerak Talat, William Agnew, Lama Ahmad, Su Lin Blodgett, Dylan Baker, Hal Daumé III, Sasha Luccioni, Margaret Mitchell, et al. (2023)
- •Missing the Margins: A Systematic Literature Review on the Demographic Representativeness of LLMsIndira Sen, Marlene Lutz, Elisa Rogers, David Garcia, Markus Strohmaier (2025)
- •Large language models that replace human participants can harmfully misportray and flatten identity groupsAngelina Wang, Jamie Morgenstern, John P. Dickerson (2025)
🛡 Impact & Mitigation
🎯 Groupes vulnérables impactés
FemmesPersonnes noires / afro-desc.
🛠 Méthodologies de mitigation
- DEMO_PARITY : Parité démographique
- AUDIT_TIERS : Audit par tiers indépendant
🏢 Secteurs concernés
Médias et plateformes sociales (Risque: /5)Ressources humaines et recrutement (Risque: /5)
⚖ Réglementations applicables
🇪🇺 Europe
- •AI_ACT_10 : AI Act (UE) 2024/1689
🌍 International
- •ISO_42001 : ISO/IEC 42001:2023
- •UNESCO_2021 : UNESCO - Recommandation sur l'éthique de l'IA
- •OECD_AI_PRINCIPLES : OCDE - Principes IA
- •COE_AI_CONVENTION_INT : Conseil de l'Europe - Convention IA
📋 Métadonnées
Contributeur
Mohamadou SIDIBE
Institution
AI BIAIS INITIATIVE
Version
1
Créé le
14 octobre 2026
Mis à jour le
4 novembre 2026
UUID
84e7ef90-c374-4e83-84e5-af3a52bbff33
Explorer d'autres biais
250 biais documentés, classés par la taxonomie TriAxis.