Air Canada affirme qu’elle n’est pas responsable des hallucinations de son propre chatbot

Quand allons-nous l'appeler, famille ? Quand allons-nous enfin admettre que les chatbots et l’IA ne peuvent pas réellement faire le travail des êtres humains ? Combien escroqueries , Catastrophes de relations publiques , et des débâcles publiques, faudra-t-il avant que nous puissions enfin dire : « Ouais, tu sais quoi ? S’appuyer sur des robots stupides pour tout notre art et nos connaissances n’est peut-être pas la bonne idée que nous pensions.

Le dernier désastre de l’IA ? Eh bien, cela date de quelques semaines, donc ce n'est pas aussi récent que le Une imitation de Willy Wonka générée par l'IA , mais c'est quand même assez étonnant. Un homme nommé Jake Moffatt devait prendre l’avion pour Toronto après le décès de sa grand-mère. Il a donc demandé au chatbot d’Air Canada comment fonctionnaient les taux de deuil. Le chatbot lui a dit d’acheter un billet au prix fort, puis de demander un remboursement partiel dans les 90 jours, ce qu’il a fait, en prenant soin de capturer les instructions du chatbot.

Cependant, au moment d'obtenir le remboursement, Air Canada a déclaré à Moffatt que son chatbot avait tort. Vous voyez, l’IA générative – la technologie derrière des choses comme les chatbots du service client – ​​est sensible à ce qu’on appelle des « hallucinations », ou des informations inventées par l’IA. L'année dernière, par exemple, quelques avocats je suis tombé dans la merde lorsqu'ils ont demandé à ChatGPT de rédiger le texte d'un procès pour eux, puis ont découvert qu'il citait un ensemble d'affaires judiciaires qui n'existaient pas réellement. L’IA ne peut pas faire la différence entre les informations vraies et fausses. Tout ce qu'il peut faire, c'est remixer le texte existant en quelque chose qui semble plausible.

Incroyablement, la compagnie aérienne a affirmé que le désordre était La faute de Moffatt parce qu’il n’avait pas comparé les instructions du chatbot à la politique officielle de la compagnie aérienne. Selon le raisonnement de la compagnie aérienne, Moffatt aurait dû savoir qu’on ne pouvait pas faire confiance à l’outil de service client fourni par Air Canada. Vraisemblablement, si les ailes tombaient de l'avion en plein vol, Air Canada reprocherait en premier lieu aux clients de monter à bord.

Air Canada a refusé d'effectuer le remboursement, alors Moffatt a poursuivi la compagnie aérienne en justice et a gagné. La défense d’Air Canada est encore plus absurde que son refus initial d’effectuer le remboursement. Selon la compagnie aérienne, le chatbot – que, je le souligne, la compagnie aérienne utilise sur son propre site Web pour répondre aux questions des clients – est « une entité juridique distincte qui est responsable de ses propres actes.

Si un employé humain donnait de fausses informations à un client, Air Canada pourrait alors éventuellement rembourser le client et tenir l'employé responsable à son tour. Mais affirmer qu’un robot, qui ne gagne pas de salaire et ne fait que ce pour quoi vous le programmez, est sa propre entité juridique ? Sortez d'ici avec ça.

Pouvons-nous s'il vous plaît arrêter ? Arrêter de produire des montagnes de charabia sur l’IA, arrêter de remplacer les humains capables par des robots incompétents, arrêter de prétendre que l’IA va d’une manière ou d’une autre rendre la société meilleure ? Ça ne marche pas, mes amis. Annulez-le. L’IA ne fait qu’empirer les choses.

(via Ars Technica , image sélectionnée : Paramount Pictures)

Auteur