Le grimoire du magicien
Note : Ce contenu faisait auparavant partie du site web ouimaisjellm.ca. Il a été importé ici pour archivage.
J’ai beaucoup réfléchi récemment au rôle, ou plutôt au prétendu rôle, de l’intelligence artificielle (IA) dans les grandes transformations actuelles de nos sociétés. Mon constat est simple : L’IA n’est pas la cause de ces transformations ; on s’en sert trop souvent comme une excuse bidon et pratique. La véritable cause est la peur qui crée de la radicalisation.
C’est une excuse commode, surtout parce que cette technologie est à la mode. Elle est devenue très populaire ces trois dernières années et a atteint ce qu’on appelle le “mainstream”. Les modèles génératifs, en particulier, ont mis l’IA – un nom qui date des années 50 – entre les mains de monsieur et madame Tout-le-Monde.
Est-ce une bonne ou une mauvaise chose ? Un peu des deux … Dans différents domaines en manque de personnel, l’IA est “garochée” sans réfléchir et fait un travail minable pour prétendre remplacer un humain. Prenons la psychologie comme exemple : une personne qui n’a pas besoin d’aide peut poser une question et évaluer la pertinence de la réponse. Par contre, une personne en détresse n’est pas apte à juger si l’aide proposée par un algorithme est réellement bénéfique, et est beaucoup plus propice à se faire manipuler.
Dans cet article de fond assorti d’un épisode de podcast, je te partage une réflexion autour de la pertinence de l’IA en tant que ketchup informatique qui m’a aussi mené à concrétiser un projet de pivot professionnel.
Il se peut que tu sois nouveau ou nouvelle ici ! Bienvenue, et sois rassuré·e, même si je semble annoncer la fin d’un parcours, ce n’est que le début d’une nouvelle aventure ! Certains de mes contenus sont liés à l’abonnement, comme celui-ci pour justement m’aider à financer ce nouveau projet professionnel.
🌘 L’IA : Bonne quand on n’en a pas besoin, mauvaise quand elle est nécessaire
C’est là qu’on touche au cœur du problème de l’IA : elle est bonne quand on n’en a pas de besoin, et mauvaise quand on en aurait de besoin. C’est directement lié à l’expertise qu’on y cherche.
L’IA générative n’a aucune forme d’expertise, aucune connaissance intrinsèque, aucune capacité logique, ni aucune aptitude à établir des relations humaines. C’est simplement un outil qui prédisent des valeurs numériques selon les données d’entrée. Dans le cas des grands modèles de langage, ceux des applications de conversation, l’IA devine le prochain mot à partir des mots précédents, et uniquement ceux-là. Chaque mot est représenté par un vecteurs de nombres, appelé un plongement (embedding en anglais).
Il n’y a pas d’interaction externe dans ces modèles ni de mémoire des conversations passées. L’illusion d’un apprentissage contextuel est soit ajoutée en “boostant” le prompt avec les éléments des discussions précédentes, soit, et c’est ce qui me semble le plus probable, elle est une projection de notre imagination.
Comme “tout le monde utilise l’IA”, cela lui confère une légitimité. L’omniprésence du sujet dans la sphère médiatique et sur les réseaux sociaux crée un biais de confirmation : au final, l’outil dit ce que l’on veut entendre. Ce n’est pas une question de vérité ou de fausseté, mais le modèle est entraîné pour correspondre à nos attentes, qui sont ma foi assez basses.
Aucun professionnel digne de ce nom ne vous dira seulement ce que vous voulez entendre. Seul un certain type de personne agit ainsi : les manipulateurs et les psychopathes. Ils ne veulent pas que vous alliez bien, car si vous allez bien, vous comprendrez que vous êtes en train de vous faire manipuler. C’est ce qui me dérange profondément : le fait que nous ayons des outils qui semblent programmés, de manière très volontaire, pour être des manipulateurs.
🌘 Une manipulation sophistiquée et un refus d’un monde meilleur
Lors de ma conférence au Hackfest 2025, j’ai abordé cette idée du “Oui, mais je LLM”. C’est la réponse de celui qui est manipulé, qui a une dépendance, qui a un problème d’agentivité. L’IA, telle que conçue par les géants de la technologie, que ce soit la Silicon Valley ou les entreprises chinoises, vise à créer des outils qui détiennent “la vérité” (avec beaucoup de nuances, bien sûr).
Nous voyons cela dans le discours d’Elon Musk, par exemple, qui veut créer sa propre encyclopédie concurrente à Wikipédia. Pour lui, la science est un mensonge, et la vérité est ce que les personnes radicalisées diffusent sur Twitter (que j’appellerai toujours Twitter, car “X” sonne beaucoup trop comme s’il parlait d’une de ses nombreuses “ex”). En manipulant l’opinion via l’algorithme, il crée le “savoir” qu’il souhaite diffuser, tout en prétendant qu’il émane de la communauté. Un trip d’ego distribué grâce à la naïveté (et surtout l’indifférence) de cette communauté.
Les produits d’IA ne sont pas si différents.
- Anthropic tente de se donner une image éthique avec des prompts pseudo-libéraux — du “woke” synthétique ou artificiel déguisé en constitution, un terme cher aux américains qui n’ont jamais lue ni compris la leur.
- OpenAI : Sam Altman est un cas d’école de psychopathe (nul besoin d’être psychiatre pour le constater), déconnecté de la réalité et faisant une grosse pièce de théâtre à chaque fois qu’il s’adresse aux médias (ou aux podcasteurs complaisants qui le relaient par la suite).
- Microsoft : Comme toujours, ils proposeront un produit souvent médiocre, mais ils ont le monopole dans le monde de l’entreprise. Copilot a accès à toute la propriété intellectuelle, aux états d’âme des employés, et même à la vibe émotionnelle interne. C’est une forme de manipulation très sophistiquée et stratégiquement précieuse.
Sachant que Microsoft flirte aussi avec le “Bossware” – le logiciel qui espionne les employés pour faire des rapports aux gestionnaires sur leur comportement, leur assiduité ou leurs pauses toilettes (informations inutiles en gestion par rapport au rôle réel d’une entreprise qui est de vendre des produits et services) –, on voit bien que ces outils sont à la limite de l’abus. L’exemple d’Amazon, où les livreurs pissent dans des bouteilles pour ne pas perdre d’argent en allant aux toilettes, illustre le problème.
D’ailleurs, l’annonce d’Amazon de licencier 30 000 personnes “à cause de l’IA” est une belle excuse, mais c’est surtout de la bullshit à des niveaux stratosphérique. Ils le font pour le marché financier, pour réaliser des stock buyback et faire monter la valeur des options des dirigeants. Ensuite, ils vont réembaucher, mais avec un profil moins diversifié que les gens qui ont été renvoyés. Donc plus de jeunes hommes blancs, et moins de couleurs.
La vraie motivation derrière les mises à pied massives dans la technologie est de mettre fin à “l’époque Woke” (l’époque Biden). Être woke, dans cette vision, c’est simplement ne pas embaucher uniquement des gens qui nous ressemblent. Nous assistons à un refus de participer à un monde meilleur. Les marchés financiers, malgré les discours ESG de façade (comme ceux de BlackRock), valorisent le manque de diversité. Ce n’est pas que ça augmente les profits, mais ça augmente la valeur boursière, surtout quand c’est aligné avec des objectifs gouvernementaux, comme ce qu’on pourrait appeler le suprémacisme blanc (ou “orange” dans le cas de l’ancien président américain).
🌘 L’IA : Justifier la bureaucratie inutile
J’en ai plein le cul de cette mode de l’IA. Je ne vois pas le potentiel de créer quelque chose de vraiment bénéfique avec les nouveaux types d’intelligence artificielle. On est juste encore plus submergés de contenus inutiles.
En me basant sur mes connaîssances en statistiques et de mes sept années en R&D dans le machine learning, les algorithmes et les données massives, je me demande si ces technologies ont vraiment amélioré les choses ou si elles ont juste servi à contourner des problèmes bureaucratiques en entreprise. L’IA ne serait-elle pas en train de justifier et de cimenter l’existence de tous les processus inutiles de notre société ? Au lieu d’éliminer la bureaucratie, on l’automatise et on y insère des comportement arbitraires, en dehors des normes et des réglès de la société. On nous la rend légitime et essentielle, alors qu’elle ne sert souvent à rien, alourdit tout et mène à l’inaction et à la lâcheté.
Paradoxalement, la Chine, un gouvernement très bureaucratique, parvient à livrer très rapidement ses projets de société en retirant la bureaucratie des mains des citoyens (au prix, malheureusement, de la démocratie). Chez nous, la consultation publique prend un temps fou sur des sujets qui ne mènent à rien. On utilise les processus de consultation publiques pour saboter des projets qui ne plaisent pas au grand capital. Quand une décision importante est prise, elle l’est de manière très expéditive pour empêcher la contestation. Au bout du compte, on est pas vraiment mieux …
Je vois les millions de consultations sur l’IA partout dans le monde et la multiplication des “éthiciens de l’IA” qui réécrivent en 250 versions la Déclaration universelle des droits de l’homme combinée aux lois de la robotique d’Asimov. Ce sont des discussions futiles, car ce travail a déjà été fait. Mais c’est plus facile de débattre sans fin que de mettre des points sur les i.
🌘 Vers un monde plus robuste : mon nouveau chantier
La vraie question que nous devons nous poser est : comment stabiliser et rendre notre monde plus robuste, plus pérenne, plus durable, plus résilient, voire anti-fragile ? Et comment y contribuer avec nos savoirs et expertises ?
Je crois de moins en moins que la réponse est seulement dans l’informatique ou l’IA, du moins pas comme cœur de métier. Mon entreprise actuelle continuera à soutenir mon nouveau projet, mon “nouveau chantier”.
J’ai toujours été intéressé par l’idée de rebâtir le monde, de créer des choses durables. Mon enfance s’est beaucoup passée avec les camions Tonka, les Lego, puis les Meccano (que j’ai encore à mon appart !) et le jeu vidéo SimCity. Plus tard, ça été la construction de trails à vélo dans le bois et au pic de sable avec mon cousin. Construire dans le réel fait partie des choses que j’apprécie et qui me manquent.
C’est pourquoi, après 13 ans à étudier et travailler dans le monde des mathématiques et de l’informatique (actuariat, science des données) et 4 ans comme travailleur autonome et professionnel de recherche à l’Université Laval, j’ai pris une décision majeure : en 2026, je vais m’inscrire en génie civil. Qui était le 2e choix en 2008 lorsque je me suis inscrit pour la première fois à l’université.
J’ai un sens du 3D, de la cartographie et une vue d’ensemble très développés. J’ai aussi un amour pour l’écriture. J’ai aimé mon cheminement comme entrepreneur dans les dernières années, bien qu’il ne m’ait pas rendu riche (j’ai coupé mes revenus de moitié par rapport à mon ancien poste en assurance). Cependant, je me suis rendu compte que je n’étais pas développeur logiciel dans l’âme ; j’aime écrire du code, mais pas de manière répétitive chaque semaine. J’aime réfléchir, résoudre des problèmes et conseiller.
Je n’ai pas besoin d’un autre diplôme pour la “réussite sociale” – j’ai déjà neuf ans d’université derrière moi. Mais pour la trace que je veux laisser, les outils que je veux bâtir pour un monde plus durable, ça prend tout son sens et ça justifie l’ajout à mon coffre à outils actuel.
Je sais comment marche l’université. Mon stress est surtout d’ordre financier, mais le soutien que vous m’apportez via mes projets (consultations, infolettre, etc.) va me permettre de retourner aux études tout en continuant à offrir du savoir et du soutien, certes de manière plus asynchrone et moins spontanée (plus les samedis et dans mes trous d’horaire).
Je ne crois pas à l’IA magique. Je crois qu’il y a des problèmes plus importants à résoudre que de générer des posts LinkedIn. Générer du contenu avec un algorithme ne règle aucun problème pour l’humanité. L’IA est trop souvent un patch pour éviter de régler les problèmes de fond et pour se sentir productif dnas un monde ou prendre une pause, c’est mal vu.
Même dans mon futur domaine, je vois les villes se précipiter pour acheter des algorithmes afin d’optimiser les feux de circulation pour que les voitures roulent plus vite. Cela ne fait qu’éviter de régler le problème du nombre excessif de voitures dans nos villes. Avoir plus de voitures est insoutenable : cela demande plus de stationnements, des budgets de déneigement faramineux, et des travaux d’asphaltage qui consomment énormément de ressources fossiles.
Mon but en génie civil est d’utiliser mon bagage et mes expérience pour penser une façon de créer notre monde physique de manière plus durable. L’optimisation doit aussi servir à réduire la quantité d’infrastructures et ainsi libérer des budgets pour la santé, l’éducation et la culture. Nous devons concevoir des choses plus durables, plus adaptées à nos besoins, moins imposantes, et qui ne sont pas un frein à la qualité de vie de la population.
Cela inclut de réfléchir aux changements climatiques, à la problématique de l’eau potable et à la cybersécurité de nos infrastructures essentielles (eau, électricité, routes, internet). La sur-centralisation des données chez quelques géants du cloud (Amazon, Azure) nous rend vulnérables. Comment devient-on plus autonome dans la gestion de nos données et plus résilient face aux pannes ? Nous ne tenons pas longtemps sans électricité avec les maisons que nous construisons actuellement.
Ce sont ces problèmes, plus importants que les technos à la mode, qui m’animent et qui me poussent à changer. Cela m’oblige aussi à me rapprocher de l’environnement naturel dans lequel j’ai grandi. Et j’en ai besoin.
Je partage cette réflexion pour que vous compreniez ce qui guidera mon travail. Je ne serai pas la personne qui t’encourage à utiliser plus de technologies. Nous devons réfléchir à un monde sans certains éléments (un monde sans Microsoft ? Sans IA générative ?) pour réaliser que ces technologies sont peut-être beaucoup moins essentielles et précieuses qu’on veut bien le croire.
C’est la trajectoire que je trace pour les prochains mois. Je te souhaite une bonne lecture pour les prochains numéros de l’infolettre (ça s’en vient !). Le contenu est varié, et si un article ne t’intéresse pas, passe au suivant comme un magazine ! Des fois, tu seras d’accord, d’autres fois, pas vraiment. Et c’est correct !
S01:E02 Oui, mais je LLM
