Logo « Made by AI »
Le texte européen dit AI Act (Règlement UE 2024/1689) a posé les bases du cadre légal de la production et de l’utilisation des systèmes d’IA générative. S’agissant d’un règlement européen il est d’application direct en droit national.
Si la très grande partie de ce texte vise les sociétés éditrices de solutions IA certaines de ces dispositions concernent plus spécifiquement les utilisateurs et leur imposent des obligations de transparences lorsque que des contenus IA sont diffusés auprès du public.
Le AI Act distingue deux catégories : « les fournisseurs » c’est-à-dire la personne physique ou morale, autorité publique, agence ou organisme qui développe (ou fait développer) un système d’IA et le met sur le marché sous son propre nom et « les déployeurs » c’est-à-dire la personne physique ou morale, autorité publique, agence ou autre organisme qui utilise sous sa propre autorité un système d’IA à des fins professionnels.
Donc toute société qui utilise un système d’IA du marché dans le cadre de son activité professionnelle est considéré comme un « déployeur » au sens du règlement européen.
Or l’article 50 de ce texte impose aux déployeurs certaines obligations de transparence dont deux vont impacter l’usage quasi quotidien que certaines entreprises peuvent faire de l’IA :
- La création de contenus audiovisuels par l’IA :
Les utilisateurs qui génèrent ou manipulent des images ou des contenus audio ou vidéo constituant un hypertrucage – « deepfake »- (que le contenu soit entièrement créé par l’IA ou ajouté à un contenu existant) doivent indiquer que les contenus ont été générés par une IA.
Un contenu image, audio ou vidéo généré par l’IA qui recréerait des personnes, des objets, des lieux, des entités ou des événements existants et « donnerait faussement l’impression à une personne d’être authentique ou véridique » rentre dans cette catégorie et sera soumis à un obligation de marquage.
Les lignes directrices en cours d’élaboration par la Commission Européenne donnent quelques exemples concrets. Selon ce document, rentre dans cette catégorie :
– Une image manipulée par l’IA représentant une scène dans laquelle apparaissent deux footballeurs professionnels devant un bâtiment ressemblant à un stade de football.
– Un enregistrement audio généré par l’IA comprenant le clonage vocal des animateurs habituels d’un podcast de presse et d’un invité discutant de l’actualité.
– Une vidéo générée par l’IA montrant une personne ressemblant à un homme politique prononçant un discours devant un public.
– Une vidéo générée par l’IA présentant une représentation générée par l’IA d’une célébrité influente dans un contexte publicitaire ou promotionnel.
– Une modification substantielle, réalisée à l’aide de l’IA, des détails de l’arrière-plan d’images journalistiques est susceptible d’affecter négativement l’authenticité et la véracité du contenu.
Le critère retenu par le règlement est de pouvoir potentiellement tromper ou induire en erreur les con sommateurs quant à l’authenticité ou à la véracité du contenu. L’authenticité d’un contenu désigne le fait que celui-ci corresponde ou non à ce qu’il prétend être en termes de source ou de processus de création.
Dès lors des contenus purement fantaisiste qui ne reprennent pas des éléments du réel ne seront pas soumis à cette obligation de marquage. Les lignes directrices de la Commission Européenne donnent là encore quelques exemples très concrets :
– Une image générée par l’IA représentant une scène dans laquelle un sphinx survole la tour Eiffel.
– Une vidéo générée par l’IA montrant des souris discutant en langage humain du meilleur type de fromage dans le cadre d’une campagne publicitaire pour un fabricant de fromage.
– Dessin animé généré par l’IA à partir d’une image préexistante illustrant un événement historique
- La création de textes par l’IA :
Les utilisateurs qui génèrent ou manipulent des textes publiés dans le but d’informer le public sur des questions d’intérêt public sans que ce texte n’ait fait l’objet d’un contrôle éditorial par un humain doivent indiquer que le texte a été créé par une IA.
Les utilisateurs devront être à même de pouvoir justifier de :
– l’identification de la personne physique ou morale assumant la responsabilité éditoriale (nom, fonction et coordonnées). Il faudra publier les coordonnées de la personne physique ou morale qui assume la responsabilité éditoriale du contenu.
– un aperçu des mesures organisationnelles concrètes ainsi que des ressources humaines allouées pour garantir qu’un examen humain ou un contrôle éditorial adéquat a été effectué.
La Commission Européenne travaille sur un guide précisant de quel manière l’information doit être diffusée et notamment par la mise en œuvre d’un logo qui devra figurer sur ce type de contenu pour informer le public de l’utilisation d’un outil IA.
L’application de cette obligation de transparence pour les « déployeurs » entre en principe en vigueur le 2 aout 2026.
Les sanctions aux obligations prévues à l’article 50 de l’IA Act sont une peine d’amende administrative pouvant aller jusqu’à 15 000 000 € ou, si le contrevenant est une entreprise, jusqu’à 3 % de son chiffre d’affaires annuel mondial total. Ces peines sont bien évidemment des maximum.
***
Pour toute information, contacter Fabien Honorat (honorat@pechenard.com).