IBI-001575 - Critiquepublie
Biais d'opacité algorithmique
Algorithmic Opacity Bias
Score IBI
9.2
sur 10
Sévérité5_critique
Fréquencesystematique
Ampleur groupes5
Difficulté détection4
🇫🇷 Définition (FR)
Systèmes d'IA fonctionnant de manière opaque, empêchant les citoyens de comprendre et contester les décisions.
🇬🇧 Definition (EN)
AI systems operating opaquely, preventing citizens from understanding and contesting decisions.
Taxonomie TriAxis
Classification structurelle
O
Origine
O1
Systémique
L
Cycle de vie
L7
Déploiement
S
Spécifique
S26
Biais réglementaire
💡
Exemple concret
Un citoyen ne peut pas comprendre pourquoi son allocation sociale a été refusée par un algorithme.
📊 Métriques de détection
Distribution ShiftDemographic Parity Difference
⚙ Seuils d'alerte
Distribution Shift0.1
Demographic Parity Difference0.1
📚 Sources & Références Scientifiques
- •The Scored Society: Due Process for Automated PredictionsDanielle Keats Citron, Frank A. Pasquale (2014)
- •
- •A Unified Approach to Interpreting Model PredictionsScott Lundberg, Su-In Lee (2017)
- •
- •The Black Box Society: The Secret Algorithms that Control Money and InformationFrank Pasquale (2015)
🛡 Impact & Mitigation
🎯 Groupes vulnérables impactés
Classes populaires
🛠 Méthodologies de mitigation
- AUDIT_TIERS : Audit par tiers indépendant
🏢 Secteurs concernés
Justice et sécurité (Risque: /5)
⚖ Réglementations applicables
🇪🇺 Europe
- •AI_ACT_13 : AI Act (UE) 2024/1689
- •RGPD_22 : RGPD (UE) 2016/679
🌍 International
- •ISO_42001 : ISO/IEC 42001:2023
- •UNESCO_2021 : UNESCO - Recommandation sur l'éthique de l'IA
- •OECD_AI_PRINCIPLES : OCDE - Principes IA
- •COE_AI_CONVENTION_INT : Conseil de l'Europe - Convention IA
🌐 autre
- •IN_DPDP_RULES : Inde - Digital Personal Data Protection Rules
- •BR_LGPD : Brésil - LGPD
📋 Métadonnées
Contributeur
Mohamadou SIDIBE
Institution
AI BIAIS INITIATIVE
Version
1
Créé le
14 octobre 2026
Mis à jour le
4 novembre 2026
UUID
c91d20ba-56d3-45c1-9e89-14aaf5451453
Explorer d'autres biais
250 biais documentés, classés par la taxonomie TriAxis.