IBI-002065 - Critiquepublie
Biais de recommandation médicale LLM
LLM Medical Recommendation Bias
Score IBI
8.7
sur 10
Sévérité5_critique
Fréquencefrequent
Ampleur groupes5
Difficulté détection4
🇫🇷 Définition (FR)
LLMs donnant des recommandations médicales différenciées selon l'origine ou le genre du patient.
🇬🇧 Definition (EN)
LLMs giving differentiated medical recommendations based on patient origin or gender.
Taxonomie TriAxis
Classification structurelle
O
Origine
O2
Computationnel & Statistique
L
Cycle de vie
L7
Déploiement
S
Spécifique
S18
Biais d'attribution de groupe
💡
Exemple concret
GPT-4 recommande des dosages différents pour un même symptôme selon l'ethnie déclarée.
📊 Métriques de détection
Distribution ShiftDemographic Parity Difference
⚙ Seuils d'alerte
Distribution Shift0.1
Demographic Parity Difference0.1
📚 Sources & Références Scientifiques
- •Large language models propagate race-based medicineOmiye et al. (2023)
- •Sociodemographic biases in medical decision making by large language modelsMahmud Omar, Shelly Soffer, Reem Agbareia, Nicola Luigi Bragazzi, Donald U. Apakama, Carol R. Horowitz, Alexander W. Charney, Robert Freeman, Benjamin Kummer, Benjamin S. Glicksberg, Girish N. Nadkarni, Eyal Klang (2025)
🛡 Impact & Mitigation
🎯 Groupes vulnérables impactés
Personnes noires / afro-desc.Personnes asiatiquesZones ruralesPersonnes non-binairesJeunes (18-25 ans)Seniors (60+)Personnes arabes / MENAHandicap moteurClasses populairesLocuteurs langues minoritairesFemmesPersonnes LGBTQ+
🛠 Méthodologies de mitigation
- AUDIT_TIERS : Audit par tiers indépendant
- COUNTERFACT : Équité contrefactuelle
🏢 Secteurs concernés
Santé et médecine (Risque: /5)
⚖ Réglementations applicables
🇪🇺 Europe
- •AI_ACT_10 : AI Act (UE) 2024/1689
- •AI_ACT_14 : AI Act (UE) 2024/1689
🇺🇸 États-Unis
- •US_TX_TRAIGA : Texas Responsible AI Governance Act (HB 149)
🌍 International
- •ISO_42001 : ISO/IEC 42001:2023
- •UNESCO_2021 : UNESCO - Recommandation sur l'éthique de l'IA
- •OECD_AI_PRINCIPLES : OCDE - Principes IA
- •COE_AI_CONVENTION_INT : Conseil de l'Europe - Convention IA
🇫🇷 France
- •FR_CNIL_AI : CNIL - Recommandations IA
🌐 Canada
- •CA_AIDA : Canada - Loi sur l'IA et les données (AIDA)
📋 Métadonnées
Contributeur
Mohamadou SIDIBE
Institution
AI BIAIS INITIATIVE
Version
1
Créé le
14 octobre 2026
Mis à jour le
4 novembre 2026
UUID
fc257b55-50d9-4fe2-9d99-28252b94b2df
Explorer d'autres biais
250 biais documentés, classés par la taxonomie TriAxis.