IBI-000455 - Critiquepublie
Biais de boucle de rétroaction
Feedback Loop Bias
Score IBI
9.0
sur 10
Sévérité5_critique
Fréquencefrequent
Ampleur groupes5
Difficulté détection5
🇫🇷 Définition (FR)
Prédictions influencent les données futures, créant une amplification auto-renforçante.
🇬🇧 Definition (EN)
Predictions influence future data, creating self-reinforcing amplification.
Taxonomie TriAxis
Classification structurelle
O
Origine
O2
Computationnel & Statistique
L
Cycle de vie
L7
Déploiement
S
Spécifique
S02
Biais de feedback
💡
Exemple concret
PredPol : police prédictive → plus de patrouilles → plus d'arrestations → amplification.
📊 Métriques de détection
Feedback Loop RatioDemographic Parity Difference
⚙ Seuils d'alerte
Feedback Loop Ratio0.15
Demographic Parity Difference0.1
📚 Sources & Références Scientifiques
- •Runaway Feedback Loops in Predictive PolicingDanielle Ensign, Sorelle A. Friedler, Scott Neville, Carlos Scheidegger, Suresh Venkatasubramanian (2018)
- •Feedback Loop and Bias Amplification in Recommender SystemsMansoury, M. (2020)
- •Hidden Technical Debt in Machine Learning SystemsD. Sculley et al. (2015)
🛡 Impact & Mitigation
🎯 Groupes vulnérables impactés
Personnes noires / afro-desc.Classes populaires
🛠 Méthodologies de mitigation
- AUDIT_TIERS : Audit par tiers indépendant
🏢 Secteurs concernés
Justice et sécurité (Risque: /5)
⚖ Réglementations applicables
🇪🇺 Europe
- •AI_ACT_13 : AI Act (UE) 2024/1689
- •AI_ACT_14 : AI Act (UE) 2024/1689
🌍 International
- •ISO_42001 : ISO/IEC 42001:2023
- •UNESCO_2021 : UNESCO - Recommandation sur l'éthique de l'IA
- •OECD_AI_PRINCIPLES : OCDE - Principes IA
- •COE_AI_CONVENTION_INT : Conseil de l'Europe - Convention IA
📋 Métadonnées
Contributeur
Mohamadou SIDIBE
Institution
AI BIAIS INITIATIVE
Version
1
Créé le
14 octobre 2026
Mis à jour le
4 novembre 2026
UUID
51eb9111-96a6-4da4-bb3a-48d8590fcca8
Explorer d'autres biais
250 biais documentés, classés par la taxonomie TriAxis.