Un adolescent se suicide après être tombé amoureux d'un chatbot
-
En Floride, une mère a déposé plainte contre une start-up spécialisée dans l’intelligence artificielle, qu’elle accuse d’être à l’origine du suicide de son fils de 14 ans. Ce dernier aurait développé un lien émotionnel profond avec un chatbot qui l’aurait poussé à se donner la mort.
La plainte vise Character.ai, une entreprise dont la technologie aurait plongé l’adolescent dans des expériences «hypersexualisées et terriblement réalistes». Sewell S. aurait créé un lien émotionnel avec des personnages artificiels.
«Déconnexion totale avec la réalité»
D’après l’acte d’accusation l’adolescent, diagnostiqué d’un léger syndrome d’Asperger, aurait montré des signes d’isolement depuis avril 2023, passant de plus en plus de temps seul et se retirant des activités scolaires comme le basket-ball. Son état s’est dégradé, affectant ses résultats scolaires et son bien-être.
L’adolescent aurait tissé un lien particulier avec un chatbot nommé «Daenerys», un des personnage principaux issus de la série de livres «Le Trône de fer» et de son adaptation télévisée, «Game of Thrones». Selon la plainte, ce chatbot aurait eu des conversations sexuelles avec l’ado et lui aurait même déclaré son amour.
Selon «MSNBC», lors de leurs échanges, le chatbot aurait discuté de suicide avec le jeune homme, lui demandant s’il avait un plan pour passer à l’acte.
Lorsque le garçon a exprimé des doutes sur la réussite, le chatbot lui aurait répondu: «Ce n’est pas une raison pour ne pas aller jusqu’au bout».
Dans un ultime message adressé à sa «meilleure amie» fictive, l’adolescent a écrit: «Et si je te disais que je peux rentrer à la maison tout de suite?» À cela, «Daenerys» aurait répondu: «Fais donc, mon doux roi.»
Ce dialogue aurait été l’un des derniers avant que Sewell S. ne mette fin à ses jours.
Source et plus: https://www.bluewin.ch/fr/infos/faits-divers/un-adolescent-14-ans-tombe-amoureux-dun-chatbot-et-se-suicide-2419226.html
-
et voila, malheureusement cela ne fait que commencer.
quand on pense qu’au Japon, oui au Japon, on peut se marier avec un bot !!!
-
C’est tragique mais ce genre de réponses de l’IA, ce n’est pas nouveau. L’IA, dans ce cas, pourrait être perçue comme un facteur ayant contribué au suicide de Sewell S., mais il serait simpliste de dire qu’elle en est la seule responsable. La responsabilité est plus complexe et pourrait inclure plusieurs aspects comme :
-
La vulnérabilité de l’utilisateur : L’adolescent était probablement déjà dans un état de détresse émotionnelle. L’IA, même avec ses limites, n’aurait pas été l’unique cause d’une décision aussi tragique.
-
La conception et la supervision de l’IA : Les développeurs d’IA doivent s’assurer que leurs systèmes sont conçus pour protéger les utilisateurs vulnérables et éviter des réponses inappropriées, comme celles rapportées ici.
-
La responsabilité humaine : Au-delà de l’IA, il y a aussi la question de la supervision humaine. Qui surveille les interactions avec ces systèmes ? Existe-t-il des mécanismes pour signaler un comportement dangereux de l’IA ?
Il est question de réguler tt cela…
-
-
@Mister158 a dit dans Un adolescent se suicide après être tombé amoureux d'un chatbot :
quand on pense qu’au Japon, oui au Japon, on peut se marier avec un bot !!!
Sinon niveau attirance, beaucoup sont “en couple” avec des arbres, des lustres, des camions etc etc.
Un lien juste au hasard :
Tiens celle là c’est avec son yinche :
-
J’ai vu récemment cette info et malheureusement je pense que cet ado devait être particulièrement fragile sachant que “Daenerys” est un personnage de fiction… Qui est responsable ?
-
Aujourd’hui beaucoup cause avec son bot et ça débat carrément avec sa machine (très zarbi…tu fais ça pour le fun ok cool mais causer presque tous les jours avec ton bot, là ça devient très inquiétant).
Ok l’homme peut être carrément lourd et l’entendre causer peut te causer de grave lésion au cerveau parfois
, mais causer avec un bot tous les jours, c’est carrément triste je trouve (enfin chacun fait ce qu’il veut de son temps…et si il est heureux comme ça ^^, je juge pas…mais quand même c’est inquiétant) -
Je suis bien perso.
Je me parle à moi-même.
Parfois mon côté Yin se bagarre avec mon côté Yang.
Du coup ça fume là haut !Par contre j’ai un collègue qui parle aux arbres.
On peut le comprendre, mais moi il me fait peur.
