En collaboration avec la communauté de recherche DALIAS, dont je suis membre et co-administrateur, j’ai le plaisir de présenter un atelier sur les LLM locaux, mais spécifique au contexte de la recherche académique et aux infrastructures HPC, en utilisant notamment Jupyter Notebook.
Cet atelier vise à familiariser les chercheur·es avec des outils d’IA générative capables de fonctionner hors ligne, tels que Ollama et la bibliothèque Transformers pour Python.
Les exemples concrets abordés incluront :
– La génération de données synthétiques à l’aide de l’interface locale Open Web UI ;
– L’exécution d’un modèle sur une grappe HPC via le système de modules CVMFS utilisé par les infrastructures canadiennes.
Les codes sources et guides d’installation seront mis à disposition lors de la présentation, facilitant ainsi l’expérimentation et la mise en œuvre pratique.
