Utiliser des chatbots LLM localement et protéger ses données
Comment utiliser des grands modèles de langage (LLM) localement dans un contexte de recherche académique ?
En collaboration avec la communauté de recherche DALIAS, dont il est membre et co-administrateur, François Pelletier présente un atelier sur l’utilisation de grands modèles de langage locaux dans le contexte spécifique de la recherche académique et scientifique.
En collaboration avec la communauté de recherche DALIAS, dont je suis membre et co-administrateur, j’ai le plaisir de présenter un atelier sur les LLM locaux, mais spécifique au contexte de la recherche académique et aux infrastructures HPC, en utilisant notamment Jupyter Notebook.
Cet atelier vise à familiariser les chercheur·es avec des outils d’IA générative capables de fonctionner hors ligne, tels que Ollama et la bibliothèque Transformers pour Python.
Les exemples concrets abordés incluront :
– La génération de données synthétiques à l’aide de l’interface locale Open Web UI ;
– L’exécution d’un modèle sur une grappe HPC via le système de modules CVMFS utilisé par les infrastructures canadiennes.
Les codes sources et guides d’installation seront mis à disposition lors de la présentation, facilitant ainsi l’expérimentation et la mise en œuvre pratique.
Consultation stratégique IA et vie privée — 2 heures — 490 $