De plus en plus d'entreprises adoptent l'IA dans divers services. Les chabots, en particulier, peuvent traiter les requêtes courantes des clients. Néanmoins, cette technologie encore imparfaite peut engendrer certains problèmes pour les entreprises, comme l'a expérimenté la compagnie aérienne Air Canada.
Une promesse de l'IA, non tenue par la compagnie
Les chatbots IA allègent les tâches des employés d'une entreprise en répondant aux demandes des clients. Air Canada en a équipé son site Internet. En 2022, Jake Moffat s'est adressé au chatbot de la compagnie aérienne suite au décès de sa grand-mère. Ayant besoin de se rendre à Toronto pour les funérailles, il a demandé s'il y avait des tarifs préférentiels aux personnes endeuillées.
Le chatbot lui a alors affirmé qu'une réduction importante lui serait bel et bien consentie s'il en ferait la demande dans un délai de 90 jours après son vol aller-retour Vancouver-Toronto. Il a donc effectué sa réservation. Comptant obtenir un remboursement à son retour, Jake Moffat a suivi la procédure indiquée par l'intelligence artificielle. Mais contre toute attente, le service clientèle a refusé sa requête.
En réalité, le chatbot lui avait fourni de fausses informations. Air Canada consent bien des rabais aux passagers en deuil, mais il faut faire demande avant le voyage.
Améliorez la performance de vos projets grâce à l’IA générative ?
Air Canada condamnée à faire le remboursement
Mécontent de la situation, Jake Moffat était bien décidé à ne pas en rester là. La compagnie s'est défendue en arguant que le client aurait dû réaliser l'illégitimité de sa requête. En fait, le robot conversationnel lui a fourni un lien vers la politique de remboursement durant leurs échanges.
Pour compenser cette défaillance de son IA, Air Canada lui a plutôt proposé une réduction de 200 dollars pour son prochain vol. Mais Jake Moffat a décliné cette proposition, préférant saisir la justice. Lors du procès, Air Canada a tenté de se déresponsabiliser en présentant son chatbot comme une entité légale distincte devant répondre seul de ses actes et de ses hallucinations. Mais cette défense n'a pas convaincu le tribunal. La compagnie est condamnée à rembourser les 650,88 dollars canadiens promis, avec dommages-intérêts. Suite à cet épisode fâcheux, la compagnie a décidé de désactiver son chatbot.
Cette affaire pourrait inciter d'autres tribunaux à statuer dans le même sens. Les entreprises devraient donc rester prudentes vu la propension de la technologie d'IA générative à commettre des erreurs. Et ce ne sont pas les premiers dérapages des chatbots. ll y a quelques mois, celui du transporteur DPD s'en est pris à l'entreprise et à la qualité de ses services, tandis que celui d'un concessionnaire automobile a bradé une Chevrolet pour la somme d'un dollar. Ces incidents témoignent du fait que malgré son progrès spectaculaire, cette technologie est encore immature et demande encore à être affinée avant de pouvoir être adoptée en toute sécurité.
- Partager l'article :
