L’IA et le fantôme des échecs : comment le biais du survivant hante nos algorithmes
Par Jp@NeuroStratum — Article original publié le 15 avril 2025
Résumé — Pendant la Seconde Guerre mondiale, on voulait blinder les avions là où ils revenaient criblés de balles. Abraham Wald, mathématicien, a renversé la table : il faut blinder là où les avions survivants ne sont pas touchés — car les autres ne sont jamais revenus. Le biais du survivant. Ce biais cognitif fondamental hante aujourd’hui nos IA : elles apprennent sur les données qui nous parviennent, pas sur celles qui ont disparu. Plongée dans les conséquences vertigineuses de ce biais dans la recommandation, la médecine, le recrutement — partout où l’IA décide sur la base d’une histoire incomplète.
⏱ Temps de lecture estimé : 3 minutes
L’anecdote est fameuse. Pendant la Seconde Guerre mondiale, l’état-major américain examine les avions qui reviennent de mission. Ils sont criblés de balles, surtout au niveau des ailes et du fuselage. Décision évidente : il faut blinder ces zones. Abraham Wald, mathématicien au Statistical Research Group, lève la main : « Non. Il faut blinder là où ces avions ne sont PAS touchés. »
Le Retournement Qui Change Tout
Pourquoi ? Parce que les avions qu’on examine sont les survivants. Ceux qui ont été touchés au moteur, aux réservoirs, au cockpit — ne sont pas revenus. Ce sont donc ces zones-là qui sont vitales. Les impacts sur les ailes sont « acceptables » puisque les avions en sont revenus. Les impacts ailleurs sont mortels par définition — ils ne figurent dans aucune donnée observable.
Le Même Piège dans Nos IA Modernes
Ce biais du survivant hante nos IA. Elles apprennent sur ce qui leur parvient. Mais ce qui leur parvient est filtré, trié, conservé — par des processus eux-mêmes biaisés. Les profils LinkedIn conservés ne sont pas un échantillon aléatoire de tous les profils créés : ce sont les profils actifs, ceux dont les propriétaires ont réussi. Les startups dont on parle sont celles qui ont survécu. Les articles cités sont ceux qui ont été lus.
Une IA de recrutement entraînée sur les CV de ceux qui ont réussi dans une entreprise apprendra à reproduire les caractéristiques de ces profils — et à rejeter ceux qui ressemblent à ceux qui ont été licenciés. Une IA médicale entraînée sur les patients qui ont consulté apprend mal sur ceux qui n’ont jamais consulté. Une IA de recommandation entraînée sur les clics des utilisateurs actifs ignore les besoins des utilisateurs silencieux.
Comment y Remédier ?
Il n’existe pas de solution magique. Il faut constamment se poser la question d’Abraham Wald : quelles sont les données qui manquent ? Quels sont les silences dans mon dataset ? Qui n’est jamais entendu ? Cette posture critique — intégrer les absents dans son analyse — est peut-être la compétence la plus précieuse à développer à l’ère de l’IA. Plus que de savoir prompter, savoir poser la question : qui n’est pas là ?
Écrit avec le soutien de l’IA pour aider à organiser les pensées et façonner le langage.
Jp@NeuroStratum
Pour Aller plus Loin
- Biais du survivant — article Wikipedia : → https://fr.wikipedia.org/wiki/Biais_du_survivant
- Abraham Wald — biographie Wikipedia : → https://fr.wikipedia.org/wiki/Abraham_Wald
- Algorithmic bias — article Wikipedia : → https://en.wikipedia.org/wiki/Algorithmic_bias#Data_bias
- Selection bias — article Wikipedia : → https://en.wikipedia.org/wiki/Selection_bias
Article publié initialement sur Skool IA Mastery le 15 avril 2025.
