Textes, images, hypertrucages : les nouvelles règles de transparence imposées par l’AI Act

Au cœur de l'été, pendant que vous aviez les doigts de pied en éventail sur une plage ou plus vraisemblablement que vous affrontiez une énième vague de chaleur, l'article 50 de l'AI Act est devenu applicable. Et c'est la panique à la rentrée : quand faut-il signaler que vous travaillez avec l'intelligence artificielle ? Faut-il éviter certains outils ? Faisons le point sur ce qui change réellement.

Ce qu'est l'AI Act et ce que dit son article 50

L’AI Act est le règlement européen qui encadre le développement, le déploiement et l’utilisation des systèmes d’intelligence artificielle en fonction de leur niveau de risque. Entré en vigueur le 1^er août 2024, il s’applique progressivement.

Son article 50, applicable depuis le 2 août 2026, impose des obligations de transparence pour certains usages de l’IA : informer les personnes lorsqu’elles interagissent avec une IA et signaler certains contenus générés ou manipulés par IA.

Le règlement distingue les fournisseurs, comme OpenAI, Google ou Mistral AI, qui développent et proposent ces systèmes, et les déployeurs, c’est-à-dire les entreprises, administrations ou collectivités qui les utilisent dans le cadre de leur activité.

Des obligations concernent les deux catégories. Nous nous concentrerons ici sur celles qui s’appliquent directement aux collectivités.

Les principaux points du règlement européen

Obligation d'étiquetage des textes d'intérêt public générés par IA

Ce que dit le règlement

« Les déployeurs d'un système d'IA qui génère ou manipule un texte publié dans le but d'informer le public sur des questions d'intérêt public doivent indiquer que le texte a été généré ou manipulé artificiellement. »

« Cette obligation ne s'applique pas (...) lorsque le contenu généré par l'IA a fait l'objet d'un processus d'examen humain ou de contrôle éditorial et qu'une personne physique ou morale détient la responsabilité éditoriale de la publication du contenu. »

Ce que cela signifie pour une collectivité

Si vous publiez des textes générés par IA sans contrôle ni relecture préalable, vous devez signaler leur origine artificielle.

Cette obligation peut être levée à deux conditions : le contenu doit faire l’objet d’un véritable contrôle humain avant publication et la collectivité doit en assumer la responsabilité éditoriale. Une simple relecture ou correction orthographique ne suffit pas : le responsable doit pouvoir « approuver, modifier ou rejeter le contenu sur des bases substantielles », précise la Commission européenne.

Concrètement, deux réflexes à consolider dès maintenant :

• formaliser un circuit de relecture et de validation, avec des traces dans votre CMS ou votre outil de planning éditorial ;
• identifier clairement le responsable éditorial sur chacun de vos supports, avec sa fonction et ses coordonnées.

Obligation d'étiquetage des hypertrucages

Ce que dit le règlement

« Les déployeurs d’un système d’IA qui génère ou manipule des images ou des contenus audio ou vidéo constituant un hypertrucage indiquent que les contenus ont été générés ou manipulés par une IA. »

Ce que cela signifie pour une collectivité

L'obligation d'étiquetage ne concerne pas toutes les images produites par IA, seulement celles qui s'apparentent à un hypertrucage ou deepfake. C'est-à-dire, selon les critères de la Commission européenne, un contenu qui ressemble à une personne, un lieu, un objet ou un événement réels de façon suffisamment crédible pour risquer de tromper le public sur son authenticité.

Par exemple :

• la photo réaliste d'un élu jouant au football, alors que celui-ci n'a jamais mis les pieds sur un terrain ;
• la vidéo de la place du marché après travaux, présentée comme si c'était une prise de vue du site réel. Le lieu existe, la représentation est trompeuse sur son état actuel.

Le critère décisif est la possibilité que le contenu soit pris à tort pour authentique ou véridique. Donc une image au format cartoon pour illustrer un post de réseaux sociaux, un visuel générique pour une newsletter, une mascotte animée fictive créée pour un événement particulier ne nécessitent pas, selon le texte européen, de mention particulière.

À noter : certains contenus pourront malgré tout être automatiquement signalés comme générés par IA, comme nous le verrons plus loin.

Obligation d'information quand le public parle à une IA

Si vous avez créé votre propre chatbot pour répondre aux usagers sur votre site web, ou, plus vraisemblablement, si vous utilisez une solution externe en marque blanche, il faut signaler clairement aux utilisateurs qu'ils conversent avec une IA et ce dès la première interaction. C'est le seul cas actuellement où une collectivité pourrait entrer dans la case « fournisseur ».

Marquage technique des contenus générés par IA

Cette obligation concerne les fournisseurs d’IA générative comme Mistral, Anthropic (Claude), OpenAI (ChatGPT), Google (Gemini) ou Adobe (Firefly), qui doivent être capables de « marquer » techniquement les contenus qu'ils contribuent à créer. Pour faciliter leur mise en conformité, ils peuvent adhérer au « Code de bonnes pratiques sur la transparence des contenus générés par IA » publié par la Commission européenne.

Ces acteurs développent déjà différentes techniques permettant d’identifier ces contenus : filigranes, marqueurs invisibles ou métadonnées, notamment à travers des standards comme C2PA, sorte de carte d’identité numérique du fichier indiquant son origine et les transformations qu’il a subies. Anthropic a également annoncé un système de marquage spécifique pour les textes générés par Claude.

Traduction concrète, déjà visible dans vos usages : des outils comme Facebook et Instagram peuvent détecter certains de ces marqueurs et afficher automatiquement une mention signalant l’usage de l’IA, sans intervention de la collectivité.

Ce que cela signifie pour une collectivité

Cela ne vous dispense pas de vos propres obligations de transparence lorsqu’elles s’appliquent. Quel que soit l’outil utilisé, le point essentiel reste le contrôle humain et éditorial du contenu avant sa diffusion. Et la liste des signataires du « Code de bonnes pratiques » ne doit pas être interprétée comme une liste d’outils autorisés, ou « conformes » par principe.

Le rôle renforcé du service communication

Ces nouvelles obligations renforcent le rôle stratégique du service communication : il devient la plaque tournante de la validation et de la diffusion des contenus publiés au nom de la collectivité. Mais encore faut-il que l’ensemble des services en ait conscience. Un agent ne peut plus générer un texte (ou une image) avec une IA et le diffuser directement ou le fournir au service communication sans dévoiler son origine.

C’est tout l’enjeu de la lutte contre la « shadow IA », ces usages qui se développent en dehors de tout cadre identifié. La réponse passe à la fois par la formation des agents, et par une charte d’usage de l’IA à l’échelle de la collectivité, qui fixe des règles communes et identifie notamment le service communication comme un point de contrôle avant toute publication externe.

Les risques en cas de non-respect du règlement européen

Les entreprises risquent une amende pouvant atteindre 15 millions d'euros ou 3 % de leur chiffre d'affaires annuel mondial. Les sanctions pour les collectivités doivent être décidées au niveau national, au moment de la transposition de l'AI Act, qui n'est pas encore finalisée en France.

Mais, au-delà du risque juridique, le principal danger est réputationnel pour une mairie, un département ou une région : une utilisation opaque ou mal maîtrisée de l’IA peut entamer la crédibilité de la parole publique et nourrir la défiance des citoyens.

À l’inverse, la maîtrise et la transparence des usages de l’IA deviennent un moyen de garantir la fiabilité de l'information diffusée. En particulier sur le web et les réseaux sociaux, où il devient de plus en plus difficile d'en vérifier l'origine et la véracité. Dans cet environnement, la collectivité, par l'intermédiaire de son service communication, a aussi un rôle à affirmer : celui d’un émetteur public identifiable et digne de confiance.

NDA : pour cet article, j'ai utilisé Claude Sonnet 5, ChatGPT 5.6-sol et Mistral Medium 3.1. Ils servent à la collecte et au résumé d'informations, à la vérification des sources et de compagnons de réflexion éditoriale. Comme d'habitude, j'ai rédigé l'essentiel des idées et du texte, mais il reste forcément quelques tournures typiques des modèles de langage.