Un modèle spécialisé et léger, entraîné et ajusté pour une tâche précise, égale voire dépasse souvent un modèle généraliste pour une fraction du coût de calcul. Des méthodes d'écoconception des algorithmes peuvent être employées. Par ailleurs, il convient de tester si l'ajout de contexte au moment de la requête (RAG) suffit avant d'envisager un ré-entraînement complet (fine-tuning).

• Privilégier des modèles d’IA les moins consommateurs de ressources pour la réalisation d’une tâche (possible de se référer aux sites suivants : (Ouvre une nouvelle fenêtre) AI Energy Score, (Ouvre une nouvelle fenêtre) Green Algorithms...).
• Pour des tâches précises, privilégier des systèmes d'IA spécialisés et personnalisés.
• Privilégier le réemploi de briques technologiques, par exemple les modèles pré-entraînés, pour éviter de nouveaux calculs
• Partager autant que possible les algorithmes développés pour des réutilisations futures au sein de l’organisation ou en open-source.
• Utiliser des méthodes d’écoconception des algorithmes, comme des méthodes de compression des algorithmes.

La frugalité implique d'éviter les doublons et les projets en silo qui sous-utilisent les capacités de stockage, en mutualisant les hébergements existants, en privilégiant les solutions déjà déployées par l'État, et en dimensionnant les capacités de calcul sur l'usage réel plutôt que sur des pics théoriques.

• Construire des bases de données les plus qualitatives possible et d’une taille adéquate au besoin du projet IA, en évitant d’intégrer des données inutiles à la solution.
• Définir une politique de gestion de la donnée la plus vertueuse possible, en termes de redondances et d'archivages.
• Suivre les impacts énergétiques des développements d’un système d’IA avec des outils reconnus ou certifiés, comme (Ouvre une nouvelle fenêtre) Code Carbon (impact en temps réel des « runs » des algorithmes) ou (Ouvre une nouvelle fenêtre) Ecologits(impact d’appels API pour des modèles de langage).
• Anticiper via des tests sur de petites quantités de données pour extrapoler l’impact du projet ou en se référant à des projets similaires.

Quand un projet passe par un marché, la sobriété d'une solution IA se négocie dès le cahier des charges. Une (Ouvre une nouvelle fenêtre) fiche pratique conjointe, construite pour outiller cette étape, permet de sourcer les prestataires et les technologies, d'intégrer des exigences proportionnées dans les marchés et de mesurer l'empreinte des projets. Parmi les clauses recommandées :

• Mesurer l’impact environnemental de la solution, notamment la consommation d’eau et d’énergie, et se référer à des indicateurs de performance sur les infrastructures hébergeant la solution.
• Être transparent sur le nombre d’entraînements et de réentrainements du modèle d’IA utilisé, sur leur impact environnemental et sur les actions mises en œuvre pour minimiser ces impacts.
• S'engager à ne pas augmenter la complexité de l’algorithme sans en informer le pouvoir adjudicateur et à lui laisser le choix de rester sur la version antérieure pour ne pas générer un surplus de consommation non adapté à son besoin.
• Mettre en place des pratiques de gestion des données dans le but d’en réduire l’impact environnemental, en définissant leur cycle de vie et durée de rétention selon les différentes technologies de stockage, et dans le respect des exigences du RGPD.

La frugalité ne concerne pas que les projets mais se joue aussi dans l'usage courant de l'IA générative par les agents. Parmi les réflexes à adopter et diffuser au sein des équipes :

• Préférer, quand elles suffisent, les recherches documentaires simples et limiter les requêtes redondantes.
• Afficher les consommations énergétiques ou l’impact carbone des requête d'un utilisateur ou d'une organisation à un système d’IA à usage général, avec des équivalents remarquables. Des estimations peuvent être faites en utilisant (Ouvre une nouvelle fenêtre) Ecologits.
• Organiser des sessions de formation aux enjeux de frugalité en variant les approches : l'impact de l'IA sur les ressources, les émissions de gaz à effet de serre associées, les bonnes pratiques à adopter en gestion de projet et en programmation.
• Désigner un référent IA frugale, en charge de coordonner les engagements ci-dessus, par exemple un responsable numérique ou un chef de projet IA.