Un faux de ChatGPT vaut à OpenAI des poursuites judiciaires
-
Les modèles d’IA générative, tels que ChatGPT, sont connus pour générer des erreurs ou des “faux” (surtout à cause de leurs données). C’est pourquoi ils sont généralement accompagnés d’une clause de non-responsabilité clairement affichée pour signaler ce problème.
Mais que feriez-vous si, malgré ces avertissements, vous voyiez le chatbot d’IA diffuser des informations erronées à votre sujet ?
Mark Walters, un animateur de radio américain, a découvert que ChatGPT diffusait de fausses informations à son sujet, l’accusant d’avoir détourné de l’argent. Il a donc poursuivi OpenAI dans le cadre du premier procès en diffamation intenté à l’entreprise comme le rapporte la loi Bloomberg.
Selon les documents judiciaires, la désinformation a commencé lorsque Fred Riehl, rédacteur en chef d’une publication sur les armes à feu nommée AnmoLand, a demandé à ChatGPT un résumé d’une affaire juridique (Second Amendment Foundation v. Ferguson) pour étayer un article qu’il était en train de rédiger.
ChatGPT a fourni à Riehl un résumé de l’affaire qui indiquait que Walters était accusé d’avoir “fraudé et détourné des fonds pour des dépenses personnelles sans autorisation ni remboursement” et d’avoir “manipulé des documents financiers et des relevés bancaires pour dissimuler ses activités”. Et ce alors qu’il était directeur financier et trésorier d’une organisation.
Problème, Mark Walters n’a jamais été impliqué dans ce procès. Il n’a jamais été accusé d’avoir fraudé et détourné des fonds, et n’a jamais occupé le poste de trésorier ou de directeur financier.
M. Walters demande donc à OpenAI de lui verser des dommages-intérêts.
Les questions qui se posent dans le cadre de cette action en justice sont les suivantes : qui doit être tenu pour responsable ? Et les clauses de non-responsabilité du site web concernant les hallucinations suffisent-elles à écarter la responsabilité, même si un préjudice est causé à quelqu’un ?
L’issue de ce procès aura donc clairement un impact significatif sur l’établissement d’une norme dans le domaine de l’IA générative.
Source: https://www.zdnet.com/article/chatgpts-hallucination-just-got-openai-sued-heres-what-happened/
