Article 50 de l’AI Act : comment faire comprendre aux utilisateurs d’un chatbot que leur interlocuteur est une IA ?

01Quand l’utilisateur doit-il être informé qu’il échange avec une IA ?

Il ne s’agit pas d’évaluer une impression générale de transparence. Le règlement impose au fournisseur d’un système conçu pour interagir directement avec des personnes physiques de veiller à ce qu’elles soient informées qu’elles échangent avec une IA, sous réserve des exceptions prévues par le texte.^[1] Le test doit donc répondre à une question concrète : à quel moment une personne qui ouvre le dialogue reçoit-elle cette information ?

Dans le protocole proposé ici, je recommande de ne pas autoriser la mise en ligne si, au plus tard au moment requis, l’information n’est pas perceptible dans le parcours contrôlé.

Le contrôle ne peut donc pas se limiter à la présence d’une phrase dans la documentation. Une formulation exacte, placée derrière un lien ou affichée après plusieurs échanges, ne répond pas au même besoin qu’un message visible dès l’ouverture. La Commission demande que l’information soit fournie dès le début de la première interaction, de manière claire, distincte et accessible.^[3] Le paragraphe 5 de l’article 50 prévoit qu’elle doit l’être au plus tard lors de la première interaction ou de la première exposition.^[4]

J’en fais un critère d’acceptation : le chatbot ne devrait pas être mis en ligne si, dans un scénario représentatif, une personne peut commencer la conversation sans comprendre qu’elle échange avec une IA. Ce critère guide la décision de mise en service. Il ne constitue pas, à lui seul, un avis définitif sur la conformité juridique du service.

La formulation doit répondre clairement à la question que se pose l’utilisateur : « avec qui suis-je en train d’échanger ? » Le nom commercial du service, une icône ou un ton particulier ne donnent pas nécessairement la réponse. Le message initial doit indiquer, dans des termes adaptés au contexte, que l’interlocuteur est une IA.

1. 01

   Qualifier l’interaction

   Déterminer si le système dialogue directement avec une personne et repérer l’état exact dans lequel cet échange commence.

2. 02

   Repérer l’information

   Déterminer à quel moment la présence de l’IA devient perceptible, avant toute saisie ou action qui engage la conversation.

3. 03

   Examiner le message seul

   Vérifier que la formulation reste compréhensible sans dépendre d’une icône, d’une couleur ou d’un document annexe.

4. 04

   Rejouer le parcours

   Ouvrir le service dans son état public, puis suivre l’ordre réel du parcours au clavier et avec les aides prévues.

5. 05

   Consigner la décision

   Conserver le scénario, la version contrôlée, l’écart observé et la raison précise pour laquelle la mise en ligne est acceptée ou bloquée.

Cette méthode relie la qualification du service, l’examen de l’interface, le test et la décision finale. Elle évite qu’une discussion abstraite sur la conformité remplace l’examen du produit réellement livré. Le premier repère est simple : il faut pouvoir nommer le moment précis où l’information sur l’IA devient visible. Si ce moment reste impossible à déterminer, le contrôle n’est pas terminé.

02Où placer la mention pour qu’elle soit réellement vue ?

Les lignes directrices de la Commission demandent que les systèmes soient conçus pour informer explicitement les personnes lorsqu’elles interagissent directement avec une IA.^[5] Le protocole vérifie donc si la mention est bien perçue lorsque la fenêtre est déjà ouverte, qu’un message est envoyé automatiquement, qu’une bannière se superpose au contenu ou que l’ordre de lecture conduit directement au champ de saisie.

Il faut distinguer le texte prévu de l’information réellement accessible à l’utilisateur. La formulation est examinée séparément de la manière dont elle apparaît avant le début du dialogue. La Commission demande que la personne sache si elle interagit avec une IA ou avec un humain, sauf lorsque la nature artificielle du système est évidente.^[6]

La clarté dépend également des mots employés. Dans ce protocole, la simple mention « Assistant virtuel » n’est pas considérée comme une information suffisante sur la nature de l’interlocuteur. Le critère exige une phrase indiquant clairement que l’utilisateur dialogue avec une IA. Le message peut ensuite préciser les sujets traités et expliquer comment obtenir une autre forme d’assistance lorsque le système atteint ses limites.

Ces recommandations pratiques ne doivent pas être confondues avec le contenu strictement établi par l’article 50. Les sources réunies portent sur l’identification de l’IA. Elles ne permettent pas de présenter chaque choix d’interface comme une obligation juridique autonome. Cette distinction permet de soumettre le produit à un test exigeant sans donner au protocole une portée juridique qu’il n’a pas.

La finalité de la règle aide néanmoins à concevoir l’interface. La Commission relie la transparence à la possibilité de savoir que l’on échange avec une machine et de décider en connaissance de cause.^[7] Le message initial est donc utile s’il permet réellement à la personne de comprendre la nature de l’échange et de choisir comment elle souhaite poursuivre.

03Une personne qui utilise le chatbot sans souris est-elle clairement informée qu’elle échange avec une IA ?

Le test commence au véritable point d’entrée de l’interface, sans utiliser la souris ni placer artificiellement le focus au bon endroit. Il vérifie que le message identifiant l’IA apparaît dans un ordre cohérent, puis que l’utilisateur peut accéder au dialogue, relire son contenu et atteindre les commandes annoncées.

Ce protocole ne prétend pas couvrir à lui seul toutes les exigences d’accessibilité. Il vise les défauts susceptibles de rendre l’information initiale purement théorique : focus invisible, déplacement immédiat vers le champ de saisie, bouton dont le nom est incompréhensible, mise à jour silencieuse ou fenêtre impossible à fermer. Chaque défaut doit donner lieu à une observation précise, et non à une appréciation générale comme « accessible » ou « peu accessible ».

L’interface doit permettre de comprendre qui est l’auteur de chaque message, ce que fait chaque commande et quand une mise à jour importante survient. L’utilisateur ne devrait pas avoir à parcourir toute la page pour retrouver ces informations. Ces vérifications permettent de s’assurer que l’information reste accessible dans le composant tel qu’il est effectivement proposé aux utilisateurs.

Cette matrice relie chaque mode de parcours à une observation et à une décision.

Un test réussi doit pouvoir être reproduit dans l’environnement destiné au public. Une démonstration effectuée dans une session déjà ouverte, avec un historique ou des réglages particuliers, ne suffit pas. Le procès-verbal doit décrire l’état initial, les actions réalisées et le résultat observé. Cette précision permet de distinguer un problème de contenu d’une rupture de navigation.

04Que vérifier lorsqu’un humain reprend la conversation ?

Lorsqu’une reprise humaine est annoncée, elle doit avoir lieu et le changement d’interlocuteur doit être clairement indiqué. Plus généralement, la Commission demande que l’utilisateur sache s’il échange avec une IA ou avec un humain.^[8]

Le transfert vers une personne n’est pas présenté ici comme une obligation générale de l’article 50. Il devient un critère d’acceptation lorsque le parcours le propose comme une issue possible. Vérifier uniquement la présence d’un bouton ne suffit pas. Le test doit confirmer que la demande est reçue, que le nouvel interlocuteur est clairement identifié, que le focus reste correctement placé et que le contexte prévu est transmis après avoir recueilli l’accord nécessaire.

Le contexte utile ne correspond pas nécessairement à l’intégralité de la conversation. Il dépend de la demande, du périmètre autorisé et des règles applicables aux données, qui nécessitent une analyse distincte. Le contrôle doit simplement rendre la décision explicite : quelles informations sont nécessaires à la reprise, lesquelles ne doivent pas être transmises et comment l’utilisateur est informé de ce passage.

L’exception fondée sur le caractère évident de l’IA doit elle aussi être appréciée dans son contexte. Le considérant pertinent adopte le point de vue d’une personne raisonnablement informée, attentive et avisée, compte tenu des circonstances et de l’usage.^[9] La présence du mot « IA » dans le nom d’une marque ne dispense donc pas automatiquement d’examiner la présentation réelle du service, surtout s’il reprend les codes visuels ou le nom d’une personne.

Une reprise humaine réussie ne compense pas une identification tardive de l’IA. Elle répond à une autre question : que se passe-t-il lorsque le système atteint sa limite ou lorsque l’utilisateur ne souhaite pas poursuivre avec lui ? Les contrôles doivent rester distincts pour que chaque échec conduise à une correction précise.

05Conserver une preuve du test avant la mise en ligne

Le test doit être reproductible dans la version destinée au public. Une simple copie du message ne suffit pas. Le dossier d’acceptation doit montrer comment l’information demandée par la Commission apparaît lorsqu’une personne interagit avec un chatbot, un agent ou un avatar d’IA.^[10] Le texte prévu ne prouve ni le moment auquel il s’affiche, ni son accessibilité au clavier, ni le bon fonctionnement de la suite du parcours.

La preuve commence par l’identification de la version testée et de son état initial. Le dossier décrit le scénario, rapporte ce qui a été observé et consigne la décision. Une autre personne doit pouvoir refaire le test sans connaître les choix de conception. Si elle obtient un résultat différent, le contrôle doit être repris. La transparence devient ainsi une caractéristique vérifiée de l’interface avant sa mise en ligne.

Le dossier d’acceptation précise le périmètre du contrôle et les changements qui imposeraient un nouveau test. Toute modification du message initial, de l’ordre du focus, du composant de dialogue ou de la voie de reprise humaine doit conduire à rejouer les scénarios concernés.

Une difficulté plus profonde peut également apparaître : personne ne sait encore quels sujets le système peut traiter, quelles données il mobilise, quand il doit s’arrêter ni qui reprend la demande. Dans ce cas, il est trop tôt pour corriger l’interface. Le cadrage d’assistants conversationnels permet de définir le périmètre, les règles de fonctionnement et les critères d’acceptation avant de reprendre le travail de conception.

Avant d’autoriser la mise en ligne, il faut donc vérifier qu’une personne reçoit l’information au bon moment, peut en prendre connaissance au cours de son parcours et peut réellement emprunter la voie qui lui est proposée. La transparence devient alors un critère concret de la décision de mise en service.