Café philo du 9 janvier 2024

 

La question des biais cognitifs: 

Sommes-nous condamnés aux raisonnements erronés ?


En bleu, les mises en perspective philosophiques

La cognition est l'ensemble des processus mentaux qui se rapportent à la fonction de connaissance. Ils mettent en jeu la mémoire, le langage, le raisonnement, l'apprentissage, l'intelligence, la résolution de problèmes, la prise de décision, la perception ou l'attention

Comment qualifier le regard, la perception des humains, quelle que soit leur personnalité ?

Ils traitent l’information d’un point de vue égocentré, de manière intuitive et marquée par le sentiment d’évidence immédiate.

Ainsi nous avons peu à peu renoncé à croire que la Terre était :

  • plate (Parménide en affirmait déjà le caractère sphérique),

  • immobile (Héraclide du Pont proposait l’idée d’une rotation de la Terre sur elle-même).

  • au centre de l’univers, même s’il est bien vrai, que notre observation ordinaire nous enjoint de considérer que c’est le soleil qui tourne autour de la Terre, et non l’inverse (Aristarque de Samos proposait l’hypothèse d’une Terre tournant autour du soleil et non l’inverse),

Notre conception de l’espace a considérablement évolué.

La recherche de l’objectivité a conduit les hommes, que ce soit par l’observation ou la spéculation purement théorique, à tenter de dépasser leur perception égocentrée du monde.

Les nouvelles conceptions qui se sont offertes sur le marché cognitif ont mis longtemps à s’imposer.

Le système héliocentrique, par exemple, fut conçu, quoique sous une forme moins aboutie, 18 siècles avant Copernic, par le grec Aristarque de Samos.

Le fait que ce système s’est imposé plus tardivement dans la pensée humaine que le système géocentrique peut trouver bien des explications savantes, mais aucune ne disqualifiera l’idée que son acceptation tardive doit beaucoup au fait qu’il est contre-intuitif, qu’il lui a fallu, pour montrer sa supériorité, passer outre le sentiment d’évidence immédiate et trompeuse que nous suggèrent les limites spatiales de notre expérience commune.

« L’arche Terre ne se meut pas » écrivait Husserl. Cela signifie que l’expérience fondatrice demeure : c’est toujours à partir du vécu d’une Terre stable, au-dessus de laquelle nous voyons défiler des astres, que nous formons nos conceptions cosmologiques.


Définition des biais cognitifs

Ils sont :

*une distorsion naturelle dans le processus d’acquisition de l’information.

*une déviation dans le traitement cognitif d’une information

* un ensemble d’erreurs de raisonnement (pratiques, théoriques, conscients ou inconscients) qui aboutissent à une croyance fausse

Ils nous font évaluer une situation à partir de stéréotypes, filtres ou interprétations erronées.

La théorie des biais cognitifs a été développée au début des années 70 par les psychologues Amos Tversky et Daniel Kahneman (psychologue et économiste). Ces derniers cherchaient à justifier la prise de décision irrationnelle dans le domaine économique.


Caractéristiques des biais cognitifs

L’involontarité : on ne contrôle pas directement la production d’un biais. Si certaines conditions sont en place, alors le jugement produit sera biaisé.

L’imperceptibilité : le recours au mécanisme qui produit les biais cognitifs semble largement échapper à la conscience du sujet. On dira donc que ses propres biais lui sont imperceptibles ; il ne se rend pas compte que son raisonnement le mène à une erreur.

L’inconformité : inconformes aux règles de raisonnement traditionnelles.


Problématique

À quelle condition pourrions-nous dépasser nos biais cognitifs ?


Nous proposons d’examiner cette théorie des biais cognitifs à partir de quelques exemples :


EXEMPLE I

Description orale présentée au premier groupe : Marco est intelligent, travailleur, sanguin, critique, têtu et envieux.

Description orale présentée au deuxième groupe : Marco est envieux, têtu, critique, sanguin, travailleur et intelligent

Question : que pensez-vous de Marco ?

L’ordre dans lequel sont placés les adjectifs peuvent avoir une influence sur la représentation de quelque chose ou quelqu’un.

Biais de préambule-prologue ou biais de primauté : le souvenir d'éléments obtenus lors d'une première-dernière impression sont plus vivaces par rapport aux éléments suivants-précédents.

Salomon Asch (1946) a mis en relief, le premier, ce phénomène de la cognition humaine. Pour cela, il présenta à deux groupes d’individus distincts la description, en une phrase, d’une même personnalité, avec les mêmes qualités et les mêmes défauts. Mais, dans un cas, les défauts étaient présentés en premier et, dans l’autre, en dernier.

Ce biais est très lié aux conditions de l’expérimentation. L’expérimentateur présente cette caractérisation de « Marco » en donnant pour consigne à chaque groupe de l’évaluer sans préjugés. Autrement dit, les sujets de l’expérimentation doivent faire comme si la proposition qu’ils doivent examiner « tombait du ciel ». Mais cela n’est jamais le cas. Par exemple lors de cette expérimentation, nous avons très bien perçu dans les réponses que les groupes avaient tenu compte qu’ils répondaient dans le cadre d’une expérimentation sur les biais cognitifs !

C’est parce que toute proposition est reçue en fonction du contexte de son énonciation qu’elle a, pour son récepteur, non seulement une signification, mais aussi un sens, c’est-à-dire une valeur qui lui est propre.

Les deux phrases proposées ont exactement la même signification (les mêmes mots sont utilisés), mais n’ont pas le même sens. Car pour le récepteur, dans le contexte où il reçoit la proposition, l’ordre dans lequel l’émetteur a choisi de placer les adjectifs manifeste une intention : c’est pourquoi il ne comprend pas les deux phrases de la même manière. Ce « biais cognitif » n’est donc pas en soi un défaut de maîtrise cognitive. Ce serait plutôt une richesse de la capacité cognitive.

Biais d’épilogue : tendance à se remémorer plus facilement et/ou à accorder plus d’importance aux derniers éléments d’une série. A propos d’un repas, par exemple, on pourra considérer que le menu était très attrayant si le dessert nous a particulièrement réjoui.


EXEMPLE II

Biais de confirmation : tendance à ne prêter attention qu’aux données qui confirment une hypothèse de départ, en l’occurrence ses propres opinions initiales et à ignorer les données qui la contredisent.

Les participants à l’étude lisent chacun deux rapports fictifs sur les effets de la peine de mort sur les taux de meurtre dans différents états américains, dans une version brève d’abord, puis dans une version détaillée.

Ces deux travaux présentent des conclusions contraires :

(1) les effets de la peine de mort sur le taux de meurtre sont positifs,

(2) les effets de la peine de mort sur le taux de meurtre sont négatifs.

Dans chaque rapport, les faiblesses de l’étude réalisée sont mises en évidence, de manière égale.

Malgré cela, les participants en viennent à utiliser les travaux de manière à confirmer leurs opinions initiales, en ne prêtant attention qu’aux résultats du travail qui les confirment.

Les résultats présentés dans le travail qui infirment leurs opinions sont considérés comme faibles.

On appelle cette manière de fausser un débat objectif entre deux thèses, un « biais de confirmation » parce qu’il tend à confirmer la vision du monde que l’on a déjà. On a tous une vision du monde en fonction de laquelle on fait ses choix lorsqu’on doit choisir sans avoir la disponibilité pour une longue réflexion – et c’est presque toujours le cas dans la vie. Cette vision du monde est une certaine hiérarchisation des valeurs et pointe vers une certaine idée du Bien par laquelle on veut donner sens à sa vie. Notre vision du monde en général évolue – par exemple pendant l’adolescence – mais elle doit rester assez stable pour faciliter l’usage de notre liberté dans la vie courante ; c’est pourquoi nous sommes enclins, entre deux thèses opposées mais plausiblement argumentées, à choisir celle qui la confirme.

Le débat démocratique, par exemple sur la peine de mort, présuppose que nous nous donnions collectivement la disponibilité de mettre entre parenthèses, le temps du débat, notre vision du monde particulière, afin d’examiner objectivement les arguments des uns et des autres, parce que cela nous ouvre la perspective d’avancer vers un Bien Commun !


EXEMPLE III

Le biais généré par l’« heuristique de disponibilité »

Le premier des biais, et le plus connu des psychologues cognitifs de l’erreur, appartient précisément au registre des erreurs inductives que Tversky et Kahneman (1973) ont identifiées au début des années 70 et qu’ils nommèrent « heuristique de disponibilité »

Il consiste en un raisonnement basé uniquement ou principalement sur les informations immédiatement disponibles à sa mémoire, en particulier lorsqu'elles sont stéréotypées

L'heuristique de disponibilité ne mène pas forcément à des conclusions biaisées. Il peut s'agir d'un mode de raisonnement efficace qui permet de résoudre un problème avec un effort cognitif minimal. Confrontée à une situation, la personne ne cherchera pas à acquérir de nouvelles informations qui pourraient éclairer la situation ou la question sous un autre jour, de manière plus rationnelle ou objective.

Ce sont les informations immédiatement disponibles qui sont privilégiées ou surestimées.

Nous confondons la validité d’une idée avec la rapidité avec laquelle elle vient à l’esprit

1er cas

En situation de stress intense la panique induit une action à partir de la première chose qui vient à l’esprit : une personne dans un immeuble en feu pense tout de suite à escalier = sortie. Il cherchera à descendre dans un escalier enfumé au lieu de se protéger et d'attendre les secours dans un appartement calfeutré.

La représentation mentale de l'escalier comme une éventuelle voie de sortie est saillante et prend le pas sur d'autres éléments (comme la possibilité de fumées toxiques, etc.) qui devraient amener à reconsidérer cette option.

2ème cas

Des informations répétées par plusieurs sources ou à plusieurs reprises deviennent plus facilement une représentation mentale. C'est ainsi qu'une rumeur peut se répandre.

Campagne de désinformation…ancrer un mode opératoire dans l’esprit du public (exemple personnel d’avertissement par une dame du village, en Grèce, à Hios, de faire attention aux albanais alors qu’il n’y en avait pas sur l’île…)

3ème cas

« Considérez la lettre r. Parmi les mots comportant trois lettres et plus de la langue anglaise, le r apparaît selon vous plus fréquemment en première ou troisième position ? ». Une grande majorité des individus a répondu qu'il y avait, dans la langue anglaise, plus de mots commençant par la lettre r que de mots dont la troisième lettre est r, alors que c'est le contraire qui est vrai.

Dans le même temps donné, l’opération qui consiste à trouver un mot commençant par la lettre r est plus fréquemment couronnée de succès que celle de trouver un mot dont la troisième lettre est r ; de là vient l'impression fausse, qu'il y a dans la langue anglaise plus de mots dont la première lettre est r que de mots dont la troisième lettre est r.

Le raisonnement est donc : « Si dans un temps donné je trouve plus d'exemples d'une catégorie que d'une autre, c'est que la première est plus importante que la seconde. »

4ème exemple

En couple ou avec amis, vous discutez de la meilleure destination pour les vacances Une proposition surgit, un endroit paradisiaque et presque parfait. Assez vite vous vous souvenez d’un article lu récemment sur les actes de violence dans ce pays, et alors vous suggérez d’abandonner cette destination. Vous ne prenez pas en compte d’autres données, ni pesez le pour ou le contre

Question soulevée : si les problèmes posés par ce biais relèvent d’un dérapage de la logique inductive, c’est qu’il s’agit d’y estimer la validité d’un énoncé général à partir d’exemples particuliers (ceux que nous sommes capables de nous remémorer).

Le biais d’« heuristique de disponibilité » est particulièrement intéressant du fait de l’ampleur de son utilisation par la communication de propagande.

Pourquoi les messages publicitaires sont-ils aussi envahissants, insistants, intrusifs ? Pour que, dans le public-cible, soit spontanément associés à certains désirs, des comportements d’achat déterminés.

Ce qu’on appelle « l’opinion publique », et qui sert à justifier bien des décisions politiques, est essentiellement générée à partir du biais d’« heuristique de disponibilité ». Elle se fonde en effet sur des sondages où il est demandé au sondé de répondre instantanément, sans réfléchir, selon un choix de réponses très limité – très souvent OUI/NON – à des questions (comme sur la peine de mort) pour lesquelles on n’a pas de réponse simple, mais une réponse qu’on aimerait développer comme nuancée, conditionnelle, et même hésitante. Alors que fait-on ? On va à la réponse la plus disponible, celle qui a été répétée mille fois dans les médias dominants. C’est ainsi que l’opinion publique suit toujours les campagnes de presse qui ont précédé les sondages.

On peut lire un approfondissement de cet usage social du biais d’« heuristique de disponibilité » dans P-J Dessertine, Démocratie… ou mercatocratie ?, éditions Yves Michel, 2023, chap. 3 « La manipulation réactive ».


EXEMPLE IV

Le biais de la dissonance cognitive

Léon Festinger 1957

Les personnes interprètent les informations en fonction de leurs représentations et s’exposent plus volontiers à celles qui s’accordent à leurs attitudes, opinions, croyances, représentations, idées.

Tension interne face à pensées, attitudes en contradiction avec les siennes

Toucher à ces modalités de pensée ou d’action implique que l’on touche à la structure identitaire sur laquelle le sujet s’appuie.

La modification de cette structure peut avoir un coût existentiel important.

Plus les cognitions seront liées aux valeurs essentielles du sujet, et plus elles seront nombreuses, plus la dissonance sera forte.

La rectification d'idées acquises est plus pénible pour un individu que l’apprentissage d'idées nouvelles pour lesquelles il ne possède pas encore de modèle.

Apporter des informations nouvelles qui s’avèrent dissonantes par rapport à la structure de connaissance initiale peut provoquer le fait que l’apprentissage soit vécu comme une situation conflictuelle.

C’est pour cela qu’il est faux de supposer qu’il existe une correspondance parfaite entre l’exposition d’un public à une information et la quantité de données perçues et retenues. Tant la perception comme le souvenir sont faussés par ses propres attitudes, opinions, motivations, intérêts.

Réduction de la dissonance

  • changer sa propre croyance,

  • protéger la structure initiale pour garder la cohérence, maintenir la stabilité, donc transformer l’information reçue et apprendre mal

  • rejeter ou réfuter cette information, voire dévaloriser l’interlocuteur, en recherchant le soutien d'autres personnes qui partagent les mêmes croyances, et en tentant d'en persuader les autres

La terre est remplacée par une cacahouète

Quelle est trajectoire d’une cacahuète avec la même position et même vitesse que la terre ?

Réponses d’ingénieurs très diverses …..elle part à l’infini….elle va tomber dans le soleil…sans opinion….

La cacahouète a exactement la même trajectoire que la terre « Le mouvement d’un corps dans un champ de gravitation est indépendant de sa masse »

On peut connaître les équations de Newton de la gravitation, faire des calculs complexes mais on continue à lire la gravitation comme Aristote, avec l’idée que la gravitation c’est une affaire de masse, quand les masses sont différentes les trajectoires sont différentes, comme pour la chute des corps.


  • L’intellect est beaucoup plus formaté par notre expérience et on oublie que la physique est contre intuitive. Les lois physiques énoncent des situations que nous ne voyons pas.

Bout de bois et morceau de marbre 

Expérience tactile avec élèves ingénieurs : venez toucher, lequel est le plus froid ?

La réponse c’est le marbre, au contact ça semble plus froid

Question de raisonnement : deux glaçons de même température sont posés sur chaque bout, les deux objets sont à la même température et dans la même pièce : lequel va fondre le plus vite ?

Hésitations….réponses diverses….

Résultat : celui qui est sur le morceau de marbre fond plus vite. Sur le morceau de bois il peut rester des dizaines de minutes

Explication : le marbre conduit mieux la chaleur que le bois qui est un très bon isolant thermique. Quand on positionne dans de l’eau bouillante une cuillère en bois et une cuillère en métal on constate que la cuillère en métal devient chaude nettement plus rapidement que celle en bois.

Pour fondre le glaçon absorbe de la chaleur. Ce dernier va donc fondre plus facilement lorsqu’il sera placé sur un matériau meilleur conducteur de chaleur.

Force est de constater que c’est le même facteur qui opère dans ces « dissonances cognitives » que dans ce qui a été analysé plus haut comme le « biais de confirmation » : soit une tension psychique entre ce que le sujet est enclin à accréditer comme connaissance parce que cela est conforme à sa vision du monde préalable, et ce que requiert l’examen objectif pour arriver à une connaissance partageable par tous. La différence semble uniquement due à ce que les illustrations prises ici concernent le domaine des sciences physiques et non des problèmes de société. Mais tous les savoirs que l’on considère comme acquis prennent place dans sa vision du monde.


Conclusion

Nos biais sont incorrigibles mais pas ingérables….

On peut être intelligent et pas rationnel…..


Le cognitivisme est une approche individualiste de la connaissance humaine. Tout se jouerait dans la manière dont l’individu convertit les informations venant de ses sens en connaissance ; et cela relèverait essentiellement de l’usage qu’il fait de son cerveau.

Le biais cognitif serait la conséquence d’une sous-utilisation du cerveau qui ne permettrait pas de surmonter, soit la prégnance des expériences sensibles, soit la facilité d’aller vers les réponses déjà disponibles, soit le conservatisme d’une vision du monde confortable.

La solution serait alors, pour chacun, d’améliorer l’usage de son cerveau :

  • soit en révolutionnant l’apprentissage pour l’harmoniser aux lois de fonctionnement du cerveau (cf. Céline Alvarez, Les lois naturelles de l’enfant, Les arènes, 2016) ;

  • soit en nourrissant le cerveau d’appendices techniques extérieurs qui le rendent plus performant. L’IA (intelligence artificielle) prétend aujourd’hui apporter plus efficacement que jamais ce service ;

  • soit en introduisant dans le cerveau des « matières » qui en améliorent le fonctionnement de manière ciblée : prise de substances psychotropes, stimulation électro-magnétique transcrânienne, implants dans le cerveau d’électrodes, voire de puces connectées à un ordinateur.

La psychologie des biais cognitifs apporte une connaissance renouvelée, précisément documentée, de phénomènes de méconnaissances qui auparavant étaient désignés par les notions de croyance, d’opinion, ou d’illusion. Ces trois désignations des méconnaissances étaient opposées à la connaissance vraie parce que partageable par tous, et qu’on nommait, depuis l’Antiquité, la science. La science s’appuie sur deux piliers : l’expérience partagée et la raison.

  • L’expérience partagée, c’est le fait que tous les humains peuvent partager leurs vécus pour en faire des connaissances communes : le glaçon sur le marbre fond plus vite que sur le bois, la rame plongée dans l’eau apparaît brisée, etc.

  • La raison est le mode de penser en lequel tous les humains peuvent retrouver car « « Il n'y a qu'une seule et même raison pour tous les hommes ; ils ne deviennent étrangers et impénétrables les uns aux autres que lorsqu'ils s'en écartent. » (Simone Weil, Oppression et liberté, 1934)

Il apparaît alors que le problème de la connaissance est fondamentalement social. Et c’est terriblement le réduire qu’en faire, comme le cognitivisme, un problème d’usage de son cerveau par un individu.

Ce n’est donc que collectivement que l’on peut sortir de ses inclinations spontanées à méconnaitre, qu’on les appelle croyances, opinions, illusions ou, plus récemment, biais cognitifs.

Et le dispositif le plus fécond pour le faire est le débat véritable : celui qui s’appuie sur l’expérience partagée, et l’argumentation rationnelle. Débat en lequel chacun accepte que sa proposition soit critiquée par l’autre du point de vue de la raison et de l’expérience partagée, et rectifiée ou invalidée si nécessaire. Ce qui présuppose que chacun soit venu débattre dans l’état d’esprit que le plus important est le bien commun de parvenir à une connaissance partagée, et non de faire valoir ses intérêts propres.


  Dominique Schaefer

Pierre-Jean Dessertine