Aller au contenu
Technologies, vie privée et IA

Agents conversationnels d’IA et responsabilité après Moffatt c. Air Canada

Les entreprises sont responsables de ce que leurs agents conversationnels d’IA disent aux clients. Dans Moffatt c. Air Canada, 2024 BCCRT 149, le tribunal a rejeté l’idée qu’un agent conversationnel serait une entité distincte et a conclu à une déclaration inexacte faite par négligence. Le droit de la protection du consommateur et de la concurrence s’applique aussi, les avis de non-responsabilité ont leurs limites, et le projet de loi C-34 réglementerait certains services d’agents conversationnels de type compagnon.

Client clavardant avec l’assistant du site Web d’une compagnie aérienne, illustrant la responsabilité liée aux agents conversationnels d’IA

L’essentiel

  • Dans Moffatt, une compagnie aérienne a été tenue responsable d’une déclaration inexacte faite par négligence par l’agent conversationnel de son site Web.
  • Le tribunal a affirmé qu’une entreprise est responsable de toute l’information de son site, qu’elle provienne d’une page statique ou d’un agent conversationnel.
  • Les clients n’ont pas à contre-vérifier un agent conversationnel au moyen d’autres pages du même site.
  • L’article 74.01 de la Loi sur la concurrence vise les indications trompeuses faites de quelque manière que ce soit.
  • Le projet de loi C-34 réglementerait les services d’agents conversationnels qui simulent des relations humaines durables.
  • L’ancrage dans des sources fiables, la limitation des sujets, les essais et le transfert à un humain réduisent le risque.

Agents conversationnels d’IA et responsabilité après Moffatt

Les agents conversationnels d’IA répondent désormais aux questions des clients sur les prix, les politiques, les remboursements, l’admissibilité et les produits pour des entreprises de toutes tailles. Lorsqu’un agent conversationnel se trompe, qui est responsable ? La réponse canadienne la plus citée est Moffatt c. Air Canada, 2024 BCCRT 149, une décision en matière de petites créances du Tribunal de résolution civile de la Colombie-Britannique. Le montant en jeu était modeste, mais le raisonnement a été largement commenté parce qu’il rejette l’idée qu’une entreprise puisse se dissocier de ce que son agent conversationnel dit aux clients.

Client clavardant avec l’assistant du site Web d’une compagnie aérienne, illustrant la responsabilité liée aux agents conversationnels d’IA
Une entreprise est responsable de l’information que fournit son agent conversationnel destiné aux clients, comme de toute autre partie de son site Web.

Cette analyse examine la décision, les fondements juridiques applicables aux déclarations des agents conversationnels, les limites des avis de non-responsabilité, le cadre émergent de la sécurité en ligne pour certains services d’agents conversationnels et les contrôles pratiques pour l’IA destinée aux clients. Il s’agit d’information générale et non d’un avis juridique.

Les faits dans Moffatt c. Air Canada

En novembre 2022, à la suite du décès d’un grand-parent, un client a utilisé un agent conversationnel sur le site Web de la compagnie aérienne en cherchant des vols. L’agent conversationnel a laissé entendre que le client pouvait demander rétroactivement un tarif de deuil. Les mots « tarifs de deuil » dans la réponse renvoyaient par hyperlien à une page distincte sur la politique de la compagnie en la matière, qui indiquait que la politique ne s’appliquait pas aux demandes présentées après le voyage.

Le client a réservé ses vols et a ensuite demandé un remboursement partiel, que la compagnie a refusé parce que les demandes rétroactives n’étaient pas permises. Un représentant de la compagnie a par la suite reconnu que l’agent conversationnel avait fourni des « propos trompeurs » et indiqué que le problème avait été noté pour que l’agent soit mis à jour.

Le client a réclamé la différence entre les tarifs réguliers payés et les tarifs de deuil allégués. La compagnie a soutenu que le client n’avait pas suivi la procédure appropriée, qu’elle ne pouvait pas être tenue responsable de l’information fournie par l’agent conversationnel et que les dispositions de son tarif limitaient sa responsabilité.

La décision

Dans une décision du 14 février 2024, le membre du tribunal Christopher C. Rivers a accueilli l’essentiel de la demande sur le fondement de la déclaration inexacte faite par négligence. Le tribunal a conclu que, compte tenu de la relation commerciale entre un fournisseur de services et un consommateur, la compagnie aérienne avait une obligation de diligence envers le client, et que la norme applicable exigeait qu’elle prenne des précautions raisonnables pour s’assurer que ses déclarations étaient exactes et non trompeuses.

Le tribunal a qualifié de « remarquable » la prétention de la compagnie selon laquelle l’agent conversationnel serait en fait une entité juridique distincte responsable de ses propres actes.

Même si un agent conversationnel comporte une composante interactive, a affirmé le tribunal, il demeure simplement une partie du site Web de la compagnie, et il devrait être évident que l’entreprise est responsable de toute l’information figurant sur son site, qu’elle provienne d’une page statique ou d’un agent conversationnel.

Le tribunal a conclu que la compagnie n’avait pas pris de précautions raisonnables pour assurer l’exactitude de son agent conversationnel, et que le client s’y était fié raisonnablement : rien ne permettait à un client de savoir qu’une partie du site était exacte et une autre non, ni ne l’obligeait à vérifier l’information trouvée dans une partie du site au moyen d’une autre.

L’argument fondé sur le tarif a échoué parce que la compagnie n’avait pas produit les parties pertinentes du tarif. Le tribunal a ordonné le paiement de 650,88 $ en dommages-intérêts, de 36,14 $ en intérêts avant jugement et de 125 $ en frais de tribunal, soit un total de 812,02 $.

Ce que la décision tranche et ne tranche pas

En tant que décision d’un tribunal administratif en matière de petites créances, Moffatt ne lie pas les tribunaux judiciaires, et les faits étaient simples. La décision n’a pas examiné une limitation de responsabilité soigneusement rédigée et dûment prouvée, un client commercial ou un agent conversationnel clairement présenté comme expérimental.

Mais son raisonnement central reflète des principes juridiques ordinaires que les tribunaux appliqueront vraisemblablement : une entreprise qui déploie des agents conversationnels d’IA pour communiquer avec ses clients fait siens leurs propos, et le fait qu’une réponse ait été générée par un logiciel plutôt que tapée par un employé ne change rien à l’analyse. La décision indique aussi que les tribunaux ne s’attendront pas facilement à ce que les consommateurs contre-vérifient un agent conversationnel au moyen d’autres pages du même site.

FondementÉléments clésApplication aux agents conversationnels
Déclaration inexacte faite par négligenceObligation de diligence, déclaration fausse ou trompeuse, négligence, confiance raisonnable, préjudiceLe fondement de Moffatt; réponses inexactes sur des politiques ou des prix
ContratLes déclarations peuvent faire partie du contrat ou le modifierPromesses de l’agent sur les conditions, les remboursements ou les caractéristiques
Lois sur la protection du consommateurInterdiction des pratiques trompeuses ou déloyalesRéponses trompeuses aux consommateurs ; recours prévus par la loi
Loi sur la concurrenceIndications fausses ou trompeuses sur un point important données au publicAffirmations de l’agent qui font la promotion de produits ou d’intérêts commerciaux
Droit de la vie privéeConsentement, limitation des fins, mesures de sécuritéCollecte et utilisation de renseignements personnels dans les conversations

Protection du consommateur et droit de la concurrence

Au-delà de la négligence, les déclarations des agents conversationnels d’IA peuvent faire intervenir des régimes légaux. Aux termes de l’alinéa 74.01(1)a) de la Loi sur la concurrence, est susceptible d’examen le comportement de quiconque donne au public, de quelque manière que ce soit, aux fins de promouvoir un produit ou des intérêts commerciaux, des indications fausses ou trompeuses sur un point important. Rien dans ce libellé n’exempte les communications automatisées.

Les lois provinciales sur la protection du consommateur, comme la Business Practices and Consumer Protection Act de la Colombie-Britannique, interdisent les actes ou pratiques trompeurs dans les opérations de consommation et prévoient des recours pouvant comprendre des dommages-intérêts et l’annulation de contrats. Pour les entreprises, le point pratique est que les réponses des agents conversationnels devraient être traitées comme des communications de marketing et de service à la clientèle soumises aux mêmes normes juridiques que toute autre.

Les limites des avis de non-responsabilité

De nombreuses entreprises ajoutent des avis indiquant que les réponses de l’agent conversationnel peuvent être inexactes et que les clients devraient consulter les politiques officielles. Ces avis peuvent aider, mais leur effet est limité. Dans Moffatt, le tribunal n’a pas été convaincu que les clients devraient vérifier une partie d’un site au moyen d’une autre. Le droit de la protection du consommateur peut écarter ou limiter l’effet des avis de non-responsabilité dans les contrats de consommation, et un avis qui contredit l’impression générale créée par un agent présenté comme une source d’aide fiable peut ne pas empêcher une conclusion selon laquelle une indication était trompeuse.

Les avis sont plus susceptibles d’être efficaces lorsqu’ils sont bien visibles, précis, cohérents avec la façon dont l’agent est présenté et appuyés par des choix de conception, comme des liens vers des sources faisant autorité et le transfert des questions à fort enjeu à des personnes.

Point pratique

Ne comptez pas sur un avis de non-responsabilité pour corriger un agent conversationnel inexact. Limitez l’agent aux sources approuvées pour les politiques, les prix et les règles d’admissibilité, testez-le au moyen des questions courantes et acheminez les demandes de remboursement, d’annulation et autres demandes à fort enjeu vers un humain ou vers des pages faisant autorité.

Quand les agents conversationnels d’IA deviennent des services réglementés

La plupart des agents conversationnels de service à la clientèle ne sont pas réglementés de façon particulière aujourd’hui. Cela pourrait changer pour certains services. Le projet de loi C-34, un projet de loi du gouvernement déposé le 10 juin 2026 pour édicter la Loi sur la sécurité numérique et constituer une Commission de la sécurité numérique du Canada, réglementerait notamment les « services d’agent conversationnel ».

Le projet de loi définit un tel service comme un système d’IA accessible au public au Canada qui utilise une interface en langage naturel pour fournir des réponses conversationnelles adaptatives semblables à celles d’un humain, qui est capable de simuler une relation humaine durable avec un utilisateur, comme une amitié, une relation intime ou un soutien thérapeutique, et qui génère des réponses qui ne sont pas entièrement prédéterminées.

Seuls les services d’agent conversationnel qui atteignent les seuils d’utilisateurs fixés par règlement, ou qui sont désignés parce qu’ils présentent un risque important de préjudice, seraient réglementés.

Les exploitants de services réglementés auraient l’obligation d’agir de manière responsable, notamment en prenant des mesures pour atténuer le risque que l’agent communique du contenu préjudiciable, des mesures pour assurer une intervention en situation de crise et des mesures pour atténuer certains comportements préjudiciables, en plus d’obligations de protection des enfants et de transparence.

En novembre 2026, le projet de loi avait franchi la deuxième lecture et était à l’étude en comité à la Chambre des communes. Un agent de service à la clientèle typique ne satisfera vraisemblablement pas à l’élément de la « relation humaine durable », mais les agents compagnons et de mieux-être le pourraient. Voir notre analyse sur la législation sur la sécurité en ligne.

Obligations en matière de vie privée dans les conversations

Les clients communiquent régulièrement des renseignements personnels aux agents conversationnels, parfois des renseignements sensibles sur leur santé, leurs finances ou leur situation familiale, comme dans Moffatt. Les entreprises doivent déterminer les fins de la collecte des données de conversation, en limiter la conservation, les protéger par des mesures de sécurité appropriées et s’assurer que leur fournisseur d’IA ne les utilise pas à des fins non autorisées. Le Québec exige que les organisations informent les personnes lorsqu’une décision les concernant est fondée exclusivement sur un traitement automatisé. Voir notre analyse sur les contrats avec les fournisseurs d’IA.

Contrôles pour les agents conversationnels d’IA destinés aux clients

Les entreprises qui déploient des agents conversationnels d’IA peuvent réduire le risque de responsabilité au moyen d’un ensemble de contrôles pratiques. Ancrer les réponses dans du contenu approuvé et à jour en recourant à la récupération à partir de sources faisant autorité plutôt qu’à une génération ouverte. Définir les sujets auxquels l’agent ne peut pas répondre, ou qu’il doit transférer à une personne, comme les remboursements, les droits légaux, les questions médicales et les plaintes.

Tester les agents conversationnels d’IA avant le lancement et en continu par la suite, au moyen d’une bibliothèque de véritables questions de clients et de cas limites. Surveiller les conversations pour repérer les erreurs et les plaintes, et corriger rapidement les sources lorsque les politiques changent. Conserver les journaux afin de pouvoir enquêter sur les différends, sous réserve des limites de conservation en matière de vie privée. Indiquer clairement que l’agent est une IA. Arrimer l’agent aux conditions d’utilisation, et s’assurer que le personnel de première ligne sait comment traiter un client qui s’est fié à une réponse de l’agent.

Gérer les erreurs lorsqu’elles surviennent

Lorsqu’un agent conversationnel donne une mauvaise réponse sur laquelle un client s’est fié, le coût de l’honorer est souvent faible comparativement au coût d’un différend, d’une plainte réglementaire ou d’une publicité négative. Les entreprises devraient avoir une politique sur les cas où les déclarations de l’agent sont honorées, documenter l’incident, corriger le contenu sous-jacent et examiner si d’autres clients ont reçu la même réponse. Des erreurs systématiques peuvent exiger une correction plus large, y compris une communication proactive avec les clients touchés et un examen de la façon dont le contenu erroné s’est retrouvé dans les sources de l’agent.

Considérations sectorielles

Les secteurs réglementés font face à des contraintes supplémentaires en matière d’agents conversationnels d’IA. Les institutions financières doivent respecter les obligations de protection des consommateurs et de traitement des plaintes prévues par les règles fédérales de protection des consommateurs de produits et services financiers, ainsi que les attentes de leurs organismes de réglementation en matière de risques liés aux tiers et aux modèles. Les assureurs et les sociétés de placement doivent éviter de donner des conseils qui exigent une inscription ou une évaluation de la convenance.

Les fournisseurs de soins de santé doivent éviter que l’agent produise des réponses équivalant à des conseils cliniques sans supervision appropriée et doivent protéger les renseignements sur la santé en vertu des lois applicables. Les télécommunications et les services publics sont soumis à des codes sectoriels sur la facturation et la divulgation. Dans chaque cas, la portée de l’agent devrait être comparée à ce que l’entreprise est autorisée, et tenue, à dire.

Gouvernance et responsabilité

Les agents conversationnels destinés aux clients devraient s’inscrire dans le programme de gouvernance de l’IA de l’organisation, avec un responsable opérationnel désigné, une évaluation des risques, une approbation avant le lancement et un examen périodique. Les équipes juridiques, de conformité et du service à la clientèle devraient convenir de la portée de ce que l’agent peut dire et des voies de remontée. Les contrats avec les fournisseurs devraient traiter de l’exactitude, de la gestion des changements, de la journalisation et de la collaboration en cas d’incident.

Comment TRW & Co vous aide

Nous conseillons les entreprises qui déploient des agents conversationnels d’IA sur le risque de responsabilité, la conformité au droit de la protection du consommateur et de la concurrence, les avis de non-responsabilité et les conditions d’utilisation, la vie privée, les contrats avec les fournisseurs et le cadre émergent de la sécurité en ligne, et nous aidons à répondre aux différends avec les clients et aux demandes des organismes de réglementation. Consultez nos pages protection du consommateur et intelligence artificielle ou communiquez avec nous.

Questions fréquentes

Qu’a décidé l’affaire Moffatt c. Air Canada ?

Le Tribunal de résolution civile de la Colombie-Britannique a tenu la compagnie aérienne responsable d’une déclaration inexacte faite par négligence après que l’agent conversationnel de son site Web eut indiqué à tort à un client qu’il pouvait demander rétroactivement un tarif de deuil. Il a accordé 650,88 $ en dommages-intérêts, plus les intérêts et les frais, pour un total de 812,02 $.

L’affaire Moffatt lie-t-elle les tribunaux judiciaires ?

Non. Il s’agit d’une décision d’un tribunal en matière de petites créances. Son raisonnement reflète toutefois des principes généraux de la déclaration inexacte faite par négligence que les tribunaux appliqueront vraisemblablement aux déclarations des agents conversationnels.

Un avis de non-responsabilité nous protégera-t-il ?

Les avis n’aident que dans une mesure limitée, surtout auprès des consommateurs. Des avis bien visibles et précis, combinés à des contrôles de conception et au transfert des questions à fort enjeu à des humains, sont plus efficaces.

Les agents conversationnels sont-ils visés par le droit de la sécurité en ligne ?

Le projet de loi C-34, déposé en juin 2026, réglementerait les services d’agent conversationnel qui simulent des relations humaines durables et qui atteignent des seuils d’utilisateurs ou sont désignés. Il était à l’étude en comité à la Chambre des communes en novembre 2026.

Quels contrôles faut-il mettre en place ?

Ancrer les réponses dans des sources approuvées, limiter les sujets traités par l’agent, tester et surveiller en continu, journaliser les conversations dans les limites de la vie privée, indiquer que l’agent est une IA et acheminer les demandes à fort enjeu vers des personnes.

Sources

  1. Moffatt c. Air Canada, 2024 BCCRT 149 (Tribunal de résolution civile)
  2. Loi sur la concurrence, art. 74.01 (Lois de la justice)
  3. Projet de loi C-34 (45-1), première lecture (Parlement du Canada)

Information générale seulement, et non un avis juridique. Les renvois aux lois, aux tribunaux et aux autorités décrivent le droit et la pratique publiés à la date indiquée.