Infographie - 8 biais cognitifs amplifiés par l’IA générative

Note : Ce contenu faisait auparavant partie du site web ouimaisjellm.ca. Il a été importé ici pour archivage.

Je te présente aujourd’hui un article et une infographie inspirés de l’article Are We the Experiment ? de Laura Federico paru dans Psychology Today.

Les biais cognitifs sont des raccourcis mentaux utilisés comme heuristique pour éviter de traiter toutes les informations que nous recevons. S’ils sont pratiques dans un contexte de survie, ils s’infiltrent aussi dans notre travail intellectuel moderne. Comme ces biais font partie de nos créations, et que ce sont nos créations qui alimentent les banques de données utilisées pour entraîner les algorithmes d’IA générative, ces biais sont appris et amplifiés par cette technologie.

Je te présente en détail ces huit biais cognitifs qui sont particulièrement touchés par l’usage croissant des algorithmes d’IA générative.

1. L’anthropomorphisme, c’est de donner des caractéristiques humaines à des non-humains. Un exemple fréquent est de parler aux animaux comme à un enfant. Dans le contexte de l’intelligence artificielle générative, c’est associer des comportements de mémorisation, de réflexion, de pensée critique, d’empathie et de compréhension mutuelle à un algorithme qui prédit des mots ou produit des images.
2. L’apophénie, c’est de construire des liens et des significations entre des concepts qui ne sont pas reliés. La divination, qu’elle se pratique par le tarot, l’astrologie ou la lecture des lignes de la main, repose sur l’idée que des concepts apparemment non reliés peuvent être connectés.  Les modèles de langage, quant à eux, établissent des liens en se basant sur la proximité sémantique des mots, c’est-à-dire des mots ou des contextes qui cooccurrent ou se substituent mutuellement.
3. Le biais d’autorité, c’est lorsqu’on accorde une valeur plus important à une opinion lorsqu’elle provient de ce qu’on considère comme une autorité, ou une expertise, sur un sujet. C’est un argument fréquemment utilisé dans les discours marketing autour de l’IA générative. Les influenceurs racontent souvent que ces algorithmes possèdent une vaste banque de connaissances parce qu’ils ont « lu » tout le contenu disponible sur Internet. En réalité, les modèles de langage ne contiennent que des nombres, pas des mots. Lors de l’entraînement, un modèle de langage a une vision tunnel des textes, se concentrant uniquement sur un aspect de la lecture : la construction de phrases grammaticalement et sémantiquement correctes.
4. Le biais de confirmation, aussi représenté par l’expression « Cherry Picking » en anglais, est la tendance à rechercher et à interpréter l’information d’une manière qui confirme nos croyances ou nos préjugés existants. C’est le biais cognitif le plus facile à automatiser lorsqu’on a accès à des données de rétroaction. Dans le contexte du commerce en ligne, par exemple, le simple fait d’ajouter un produit à son panier ou de l’acheter démontre un intérêt pour celui-ci. Sur les réseaux sociaux, les interactions et les publications contribuent à alimenter le fil d’actualité avec du contenu sémantiquement similaire, créant ainsi une bulle d’information. C’est la forme ultime de biais de confirmation, car elle est maintenant automatisée.
5. L’effet Eliza, c’est un peu semblable à l’anthropomorphisme, mais ici, c’est de donner des traits humains à des logiciels, même si on connait leurs limites. C’est donc une extrapolation des fonctionnalités qui ont réellement été programmées. On pourrait intégrer ici le concept de propriétés émergentes, qui n’a jamais été démontré pour décrire les comportements dits de réflexion et de résolution de problèmes mathématiques complexes.
6. L’effet de halo est au cœur de la création des modes dans le capitalisme. Un produit nouvellement lancé sur le marché suscite un émerveillement lié à sa nouveauté plutôt qu’à ses prouesses techniques. L’adoption rapide du produit permet ensuite de recueillir des données de rétroaction et d’apporter des améliorations rapides. Ce biais cognitif est souvent à l’origine des stratégies de Growth Hacking, populaires dans les startups logicielles. On pourrait même dire que c’est ce biais qui permet au modèle « Fake it until you make it » de fonctionner.
7. La paréidolie, c’est un mélange d’imagination, de désir et d’expérience sensorielle. Notre perception sensorielle joue un rôle important dans l’identification de formes dans des stimuli aléatoires, comme les nuages.  Après un certain temps, on développe inconsciemment la capacité de reconnaître des formes dans tous les nuages, car on a un fort désir d’y voir quelque chose.  Un phénomène similaire se produit avec les sorties des différents algorithmes génératifs.  Étant donné qu’on fournit un prompt pour définir ce qu’on veut obtenir, on est plus enclins à trouver les éléments souhaités dans la sortie générée.
8. La folie à deux, c’est lorsqu’un utilisateur et un logiciel développement leur propre langage commun, ce qui mène à une forme d’enfermement. On le voit au travers de l’utilisation réciproque de formules positives telles que “tu as raison”, “tu es le seul à me comprendre” et éventuellement, un sentiment d’attachement fort et incompréhensible de l’externe se crée. C’est le point de départ de ce qui peut devenir une psychose déclenchée par l’intelligence artificielle.