IBI-002314 - Gravepublie
Biais d'interprétabilité mécaniste
Mechanistic Interpretability Bias
Score IBI
8.3
sur 10
Sévérité4_grave
Fréquencesystematique
Ampleur groupes4
Difficulté détection5
🇫🇷 Définition (FR)
Difficulté à identifier les circuits neuronaux responsables des biais dans les grands modèles.
🇬🇧 Definition (EN)
Difficulty identifying neural circuits responsible for bias in large models.
Taxonomie TriAxis
Classification structurelle
O
Origine
O2
Computationnel & Statistique
L
Cycle de vie
L6
Évaluation
S
Spécifique
S27
Biais émergent
💡
Exemple concret
Les chercheurs ne peuvent pas localiser ni corriger précisément un biais dans un LLM de 1T paramètres.
📊 Métriques de détection
Demographic Parity DifferenceDisparate Impact RatioEqualized Odds Difference
⚙ Seuils d'alerte
Disparate Impact Ratio0.8
Equalized Odds Difference0.1
Demographic Parity Difference0.1
📚 Sources & Références Scientifiques
- •Towards Monosemanticity: Decomposing Language Models With Dictionary LearningTrenton Bricken, Adly Templeton, Joshua Batson, Brian Chen, Adam Jermyn, Tom Conerly, Nicholas Turner, Cem Anil, Carson Denison, Amanda Askell, Chris Olah, et al. (2023)
- •The Quest for the Right Mediator: Surveying Mechanistic Interpretability for NLP Through the Lens of Causal Mediation AnalysisAaron Mueller, Jannik Brinkmann, Millicent Li, Samuel Marks, Koyena Pal, Nikhil Prakash, Can Rager, Aruna Sankaranarayanan, Arnab Sen Sharma, Jiuding Sun, Eric Todd, David Bau, Yonatan Belinkov (2026)
🛡 Impact & Mitigation
🎯 Groupes vulnérables impactés
Aucun groupe spécifique.
🛠 Méthodologies de mitigation
- AUDIT_TIERS : Audit par tiers indépendant
🏢 Secteurs concernés
Médias et plateformes sociales (Risque: /5)
⚖ Réglementations applicables
🌍 International
- •ISO_42001 : ISO/IEC 42001:2023
- •UNESCO_2021 : UNESCO - Recommandation sur l'éthique de l'IA
- •OECD_AI_PRINCIPLES : OCDE - Principes IA
- •COE_AI_CONVENTION_INT : Conseil de l'Europe - Convention IA
📋 Métadonnées
Contributeur
Mohamadou SIDIBE
Institution
AI BIAIS INITIATIVE
Version
1
Créé le
14 octobre 2026
Mis à jour le
4 novembre 2026
UUID
12e6f645-3412-488d-88ed-107be38f50a7
Explorer d'autres biais
250 biais documentés, classés par la taxonomie TriAxis.