IBI-000894 - Gravepublie
Biais de RLHF (renforcement par feedback humain)
RLHF Bias
Score IBI
7.5
sur 10
Sévérité4_grave
Fréquencefrequent
Ampleur groupes4
Difficulté détection4
🇫🇷 Définition (FR)
Biais introduits par les préférences des annotateurs dans l'apprentissage par renforcement.
🇬🇧 Definition (EN)
Bias introduced by annotator preferences in reinforcement learning.
Taxonomie TriAxis
Classification structurelle
O
Origine
O3
Humain-Cognitif
L
Cycle de vie
L5
Apprentissage
S
Spécifique
S28
Biais d'interaction
💡
Exemple concret
Les LLMs entraînés par RLHF favorisent les réponses longues et verbeuses.
📊 Métriques de détection
Demographic Parity DifferenceDisparate Impact RatioEqualized Odds Difference
⚙ Seuils d'alerte
Disparate Impact Ratio0.8
Equalized Odds Difference0.1
Demographic Parity Difference0.1
📚 Sources & Références Scientifiques
- •Training language models to follow instructions with human feedbackLong Ouyang, Jeff Wu, Xu Jiang, Diogo Almeida, Carroll L. Wainwright, Pamela Mishkin, Chong Zhang, Sandhini Agarwal, Katarina Slama, Alex Ray, John Schulman, Jacob Hilton, Fraser Kelton, Luke Miller, Maddie Simens, Amanda Askell, Peter Welinder, Paul Christiano, Jan Leike, Ryan Lowe (2022)
- •From Lists to Emojis: How Format Bias Affects Model AlignmentXuanchang Zhang, Wei Xiong, Lichang Chen, Tianyi Zhou, Heng Huang, Tong Zhang (2024)
- •Alignment Tampering: How Reinforcement Learning from Human Feedback Is Exploited to Optimize Misaligned BiasesDongyoon Hahm, Dylan Hadfield-Menell, Kimin Lee (2026)
🛡 Impact & Mitigation
🎯 Groupes vulnérables impactés
Aucun groupe spécifique.
🛠 Méthodologies de mitigation
- AUDIT_TIERS : Audit par tiers indépendant
🏢 Secteurs concernés
Médias et plateformes sociales (Risque: /5)
⚖ Réglementations applicables
🇪🇺 Europe
- •AI_ACT_13 : AI Act (UE) 2024/1689
- •AI_ACT_15 : AI Act (UE) 2024/1689
- •AI_ACT_9 : AI Act (UE) 2024/1689
🇺🇸 États-Unis
- •US_CO_SB24_205 : Colorado AI Act (SB 24-205)
- •US_NIST_AI_RMF : NIST AI Risk Management Framework 1.0
🌍 International
- •ISO_42001 : ISO/IEC 42001:2023
- •UNESCO_2021 : UNESCO - Recommandation sur l'éthique de l'IA
- •OECD_AI_PRINCIPLES : OCDE - Principes IA
- •COE_AI_CONVENTION_INT : Conseil de l'Europe - Convention IA
🌐 autre
- •SG_AI_GOVERNANCE : Singapour - AI Governance Framework
📋 Métadonnées
Contributeur
Mohamadou SIDIBE
Institution
AI BIAIS INITIATIVE
Version
1
Créé le
14 octobre 2026
Mis à jour le
4 novembre 2026
UUID
418f7633-b8f6-40f4-8968-c9ec07b4d65c
Explorer d'autres biais
250 biais documentés, classés par la taxonomie TriAxis.