IBI-001464 - Gravepublie
Biais de généralisation hors distribution
Out-of-distribution Generalization Bias
Score IBI
7.2
sur 10
Sévérité4_grave
Fréquencefrequent
Ampleur groupes4
Difficulté détection3
🇫🇷 Définition (FR)
Défaillance d'un modèle sur des données hors de sa distribution d'entraînement.
🇬🇧 Definition (EN)
Model failure on data outside its training distribution.
Taxonomie TriAxis
Classification structurelle
O
Origine
O2
Computationnel & Statistique
L
Cycle de vie
L7
Déploiement
S
Spécifique
S07
Dérive de distribution
💡
Exemple concret
Un modèle médical entraîné sur des données urbaines échoue sur les populations rurales.
📊 Métriques de détection
Distribution ShiftDemographic Parity Difference
⚙ Seuils d'alerte
Distribution Shift0.1
Demographic Parity Difference0.1
📚 Sources & Références Scientifiques
- •The Many Faces of Robustness: A Critical Analysis of Out-of-Distribution GeneralizationHendrycks, D., Basart, S., Mu, N., et al. (2021)
- •Variable generalization performance of a deep learning model to detect pneumonia in chest radiographs: A cross-sectional studyJohn R. Zech, Marcus A. Badgeley, Manway Liu, Anthony B. Costa, Joseph J. Titano, Eric Karl Oermann (2018)
🛡 Impact & Mitigation
🔬 Preuves documentées (Études & Incidents)
- Popular sepsis prediction tool less accurate than claimed (communiqu� de Michigan Medicine) : Source : https://www.eurekalert.org/news-releases/702951
Impact :
🎯 Groupes vulnérables impactés
Zones rurales
🛠 Méthodologies de mitigation
- PSI : Population Stability Index
- AUDIT_TIERS : Audit par tiers indépendant
🏢 Secteurs concernés
Santé et médecine (Risque: /5)
⚖ Réglementations applicables
🌍 International
- •ISO_42001 : ISO/IEC 42001:2023
- •UNESCO_2021 : UNESCO - Recommandation sur l'éthique de l'IA
- •OECD_AI_PRINCIPLES : OCDE - Principes IA
- •COE_AI_CONVENTION_INT : Conseil de l'Europe - Convention IA
📋 Métadonnées
Contributeur
Mohamadou SIDIBE
Institution
AI BIAIS INITIATIVE
Version
1
Créé le
14 octobre 2026
Mis à jour le
4 novembre 2026
UUID
0c2e6b65-bd5b-4ab4-a1f6-6d105280dc57
Explorer d'autres biais
250 biais documentés, classés par la taxonomie TriAxis.