Note : Ce contenu faisait auparavant partie du site web ouimaisjellm.ca. Il a été importé ici pour archivage.
Une équipe de chercheur·es de la University of Washington, à Seattle, ont documenté un cas de bromisme, une intoxication au brome, causée par une recommandation du robot conversationnel ChatGPT 3.5.
Le patient cherchait des moyens de limiter le sel dans son alimentation, en s’inspirant d’un cours d’alimentation suivi au collège. Il a demandé conseil à ChatGPT sur des moyens de substituer le sel de table, et s’est fait proposer du bromure de sodium. C’est généralement utilisé comme un nettoyant. Le sel de table –qui a pour nom scientifique chlorure de sodium– est une molécule formée de chlore et de sodium. L’atome voisin du chlore, dans la famille des halogènes, est le brome. Ce qui pourrait expliquer l’association faite par ChatGPT.
Néanmoins, cette proximité a des conséquences plutôt graves. Le bromure de sodium a des propriétés hallucinogènes. 8% des admissions en psychiatrie sont causées par une intoxication au brome. Une des sources fréquence est une surdose de sirop contre la toux à base de bromure de dextrométhorphane. On pourrait croire ici que l’intelligence artificielle se cherchait un partenaire d’hallucination.
Les auteurs rappellent que l’intelligence artificielle générative n’a aucune capacité d’analyse ou de raisonnement, et se base sur des associations de mots hors de leur contexte respectif. Ils rappellent que même si ces outils peuvent créer un meilleur lien entre les citoyens et la science, ils peuvent donner des conseils qui n’auraient jamais été donnés par un·e professionnel·le de la santé.
Source: https://www.acpjournals.org/doi/epdf/10.7326/aimcc.2024.1260
