Manuel d'alchimie du code
Note : Ce contenu faisait auparavant partie du site web ouimaisjellm.ca. Il a été importé ici pour archivage.
C’est bien connu que ChatGPT et autres assistants basés sur des LLM ont des hallucinations. Ces modèles sont basés sur des statistiques et incluent aussi une dose d’aléatoire pour simuler la créativité. Ce qui peut mener à des scénarios dignes de romans. Malheureusement, ça peut mener à l’invention de crimes.
Voici quelques cas qui sont sortis dans l’actualité :
- AI hallucinations: ChatGPT created a fake child murderer
- Australian Mayor Threatens To Sue Over Alleged ChatGPT Defamation
- AI hallucinations caused artificial intelligence to falsely describe these people as criminals
Quelques questions pour ouvrir la discussion:
- As-tu déjà vu de quoi de similaire sur toi, sur un de tes proches, une personnalité publique que tu apprécies ?
- Est-ce que tu es déjà tombé dans un piège de fausses nouvelles qui semblait visiblement généré par IA ?
- Comment peut-on prévenir ça ?
