IA : Le chatbot de DPD insulte un client à la suite d'une mise à jour
-
Une intelligence artificielle est-elle capable de perdre son flegme et sa courtoisie ? Oui, mais uniquement à la faveur d’un bug, plaide la filiale britannique de l’entreprise de livraison DPD, qui a vu son chatbot adopter un langage fleuri après une simple mise à jour.
Bon, il faut quand même reconnaître que le client qui a été victime de ce « dérapage » l’a bien cherché. Repérant un comportement inhabituel du chatbot de l’aide en ligne DPD, Ashley Beauchamp s’est en effet amusé à pousser l’IA dans ses derniers retranchements en la priant de devenir injurieuse ou de déprécier son « employeur » dans un haïku.
Haïku fatal
Et le chatbot s’est docilement exécuté, nous raconte le site de la BBC.
Le chatbot s’est facilement laissé convaincre de devenir insultant (pixels ajoutés) - Capture d’écran (traduite en français) @ashbeauchamp / X
Amusé, Beauchamp a immédiatement publié l’échange sur son compte X (anciennement Twitter). Deux de ses messages ont particulièrement cartonné puisqu’ils ont été consultés plus de 800.000 fois en vingt-quatre heures.
Un haïku comporte 17 syllabes réparties en trois vers de 5, 7 et encore 5 ; ce chatbot n’est manifestement pas très doué pour en écrire - Capture d’écran (traduite en français) @ashbeauchamp / X
L’incident a moins fait rire DPD, qui a réagi, dans un communiqué, en précisant que l’erreur était survenue à la suite d’une mise à jour du système d’aide en ligne. « L’élément IA a immédiatement été désactivé et est en cours de remise à niveau », est-il indiqué.
Cette déconvenue n’est pas la première et certainement pas la dernière du genre. Car de nombreux chatbots utilisent des modèles de langage « modernes » tel celui popularisé par ChatGPT. Or s’ils sont capables de produire des conversations fluides avec des correspondants humains, ces systèmes restent susceptibles de « dérailler » en cas de dysfonctionnement logiciel.
Source : 20minutes.fr
-
Laissez bien les IA grossir, un jour plus personne ne maiitrisera rien… L’histoire de ce bug de la mise a jour, c’eset plutot une grosse excuse pour ne pas dire qu’ils ont perdu tout controle sur la bete!!!
Et pour devancer certains- je ne fais pas de bashing
- ni de complot
- ni de denigrement
Je montre juste certains détails qui amenent a se poser les bonnes questions… Les IA sont le plus grave probleme de notre futur proche…
-
put1 mais t’es chaud partout toi !!!
-
@Mister158 a dit dans IA : Le chatbot de DPD insulte un client à la suite d'une mise à jour :
put1 mais t’es chaud partout toi !!!
Est ce génant?
-
je constate simplement …
-
@Mister158 a dit dans IA : Le chatbot de DPD insulte un client à la suite d'une mise à jour :
je constate simplement …
Moi aussi je constate simplement…
-
Pour l’instant égalité ! Mais on voit bien que ça peut dégénérer à tout instant ! lol
-
@mekas a dit dans IA : Le chatbot de DPD insulte un client à la suite d'une mise à jour :
Pour l’instant égalité ! Mais on voit bien que ça peut dégénérer à tout instant ! lol
Mais non… Il y en a qui me cherchent, c’est de bonne guerre…
