Quand le Shadow AI tourne à plein régime dans vos collectivités

Quand la base dépasse le sommet

J'observe un phénomène fascinant dans nos collectivités : le Shadow AI tourne à plein régime. Les agents testent, expérimentent, s'approprient ces outils sans attendre les directives d'en haut. Ils automatisent leurs comptes-rendus, reformulent leurs articles, génèrent des idées pour leurs projets. À Bordeaux Métropole, la DSI a pu mesurer un usage quotidien significatif de ChatGPT, sans qu’aujourd’hui son usage soit encouragé ou interdit.

Dans de nombreuses collectivités, la hiérarchie attend encore que « la doctrine soit posée » ou que « la stratégie soit définie ». Sauf que l'usage, lui, n'attend pas. Il se développe, se répand, crée des habitudes – bonnes ou mauvaises.

Pourquoi cette situation ?

Les collectivités ont raison de prendre leur temps face à l'IA. Les enjeux sont énormes : secteur fragile et mouvant, questions de sécurité non résolues, risques d'inégalités entre agents, coût d'investissement et impact écologique, doute sur le réel bénéfice pour le service public... Autant de bonnes raisons de ne pas foncer tête baissée.

Mais quel est le risque ? Que les habitudes se prennent sans cadre. Avec des retours de bâton quand la stratégie officielle sera enfin posée, et des réactions négatives d'agents déjà aguerris qui ne pourront plus faire ce qu'ils veulent, sur les outils qu'ils ont choisis.

Les risques du laisser-faire

Car rappelons-le : ChatGPT & co sont des outils certes puissants, mais surtout erratiques nécessitant un encadrement humain. C'est comme un jeune stagiaire un peu foufou, très enthousiaste, qu'il faut constamment guider et remettre sur les bons rails.

Sans encadrement, les risques sont réels :

• sécurité vis-à-vis de données sensibles ;
• désinformation involontaire ;
• inégalités de traitement entre agents de la collectivité et usagers ;
• perte de contrôle sur la qualité des réponses.

Comment gérer cette transition ?

Il convient donc d'avancer avec mesure, réflexion, hauteur... mais vite !

Alors que certains se sont lancés la tête la première dans l’IA avec par exemple le maire de la ville d’Arcachon qui a offert un abonnement payant à ChatGPT à tous ses habitants, d’autres ont d’ores et déjà mis en place des chartes d’usages : la région Occitanie, Montpellier, Nantes, Paris-Saclay… et Bordeaux Métropole qui fera bientôt voter par ses élus sa doctrine de l’IA.

Voici quelques pistes que j’ai observées chez les collectivités les plus matures.

• Créer de petites task forces : un petit groupe d'agents issus de différentes directions qui testent, identifient les risques, créent des process et transmettent.
• Éviter les investissements massifs : l'IA générative n'est pas un logiciel qu'on implémente, mais un outil encore volatil. Faites des expériences délimitées.
• Garder l'humain dans la boucle : résistez à la tentation de l'automatisation totale et magique.
• Former avant d'équiper : démystifiez l'IA générative avant d'apprendre à l'utiliser.
• Commencer par se concentrer sur l'analyse de données textuelles, facilement vérifiables et contrôlables : support aux usagers, création de contenus, génération d'idées.

L'urgence de la réflexion

La question n'est donc plus de savoir si les agents du service public doivent utiliser l'IA – ils le font déjà. La question est : « Et en vrai, on en fait quoi au quotidien et avec quel bénéfice réel ? » Comment accompagner cette appropriation plutôt que de la subir ?

Et si vous ne l’avez pas encore consultée : allez jeter un œil sur la boussole de l’IA, concoctée en grande partie par Pierre Bergmiller, Estelle Dumout, votre serviteur, avec le soutien de l'Observatoire de la com publique numérique et de Cap’Com.
Boussole dont les contenus ont été débattus aux dernières Rencontres nationales de la communication numérique de Rennes et qui le seront encore au prochain Forum Cap’Com d’Angers.

Visuel créé en partie avec l’assistance de Google Gemini.