Le chatbot d'Air Canada a fait une promesse. Un tribunal a forcé la compagnie à la tenir.

En novembre 2022, la grand-mère de Jake Moffatt décède. Il va sur le site d'Air Canada pour réserver un vol pour les obsèques et interroge le chatbot sur les tarifs de deuil. Le bot lui répond qu'il peut réserver au plein tarif et demander la réduction deuil dans les 90 jours.

C'était faux. La vraie politique d'Air Canada n'autorise pas les demandes de deuil rétroactives. Mais Moffatt n'avait aucune raison de douter de l'assistant sur le site même de la compagnie : il réserve, puis demande le remboursement. Air Canada refuse. Il porte l'affaire devant le Civil Resolution Tribunal de Colombie-Britannique.

La défense d'Air Canada est le passage à retenir. La compagnie a soutenu que le chatbot était « une entité juridique distincte, responsable de ses propres actes ». Le tribunal a balayé l'argument. Dans sa décision de février 2024, il écrit qu'Air Canada est responsable de toute l'information sur son site, « qu'elle provienne d'une page statique ou d'un chatbot ». La compagnie a été condamnée à payer.

Le montant était faible — quelques centaines de dollars. Le précédent, non. Voici ce qu'il dit à quiconque exploite un assistant client-facing :

Les mots de votre bot sont vos mots. « C'est l'IA qui l'a dit, pas nous » n'est pas une défense. Si votre assistant annonce un prix, confirme une règle ou prend un engagement, votre entreprise en répond — exactement comme si c'était imprimé sur votre site.

Remarquez ce que cette affaire n'était pas. Personne n'a piraté Air Canada. Pas d'injection de prompt, pas de jailbreak, pas d'attaquant. Le bot a simplement mal répondu à une question normale, et ça a suffi à créer une responsabilité. C'est le plancher. Le plafond, c'est ce qui se passe quand quelqu'un cherche à faire dire quelque chose à votre assistant — l'amener à une remise, un remboursement, un engagement qu'il ne devrait jamais prendre. Des bots retail se sont fait convaincre de vendre des voitures pour un dollar. Le mécanisme est le même ; l'intention est pire.

La vraie question, pour une entreprise qui a mis un assistant en ligne, n'est donc pas « est-ce que ça pourrait nous arriver ». C'est « avons-nous déjà regardé notre propre bot se faire pousser, exprès, pour voir ce qu'il dit ». La plupart ne l'ont jamais fait. On lit les échanges du parcours nominal, on le voit bien répondre, on met en prod. Les échanges adverses — ceux qu'un attaquant produirait — on ne les regarde jamais.

C'est là qu'est le trou. On le comble de deux façons, complémentaires. Faire tenter de casser votre assistant, exprès, sous autorisation, et vous montrer exactement ce qui en sort — c'est l'audit. Et une fois en production, garder trace de ce qu'il dit vraiment à de vraies personnes, pour que le jour où quelqu'un capture une mauvaise réponse, vous ayez tout le contexte et pas juste la capture — c'est le monitoring.

Air Canada a perdu une petite affaire et prouvé un grand point : un assistant en production parle en votre nom. Autant savoir ce qu'il est prêt à dire.

Envie de savoir ce que votre assistant dit sous pression ? Un audit de 3 jours vous le montre — en direct.