Skynet c'est aujourd'hui, retenez bien la date
-
ChatGPT obtient des “yeux et des oreilles” avec des plugins qui peuvent interfacer l’IA avec le monde.
Jeudi, OpenAI a annoncé un système de plugin pour son assistant ChatGPT AI. Les plugins donnent à ChatGPT la possibilité d’interagir avec le monde entier via Internet, y compris la réservation de vols, la commande de courses, la navigation sur le Web, etc. Les plugins sont des morceaux de code qui indiquent à ChatGPT comment utiliser une ressource externe sur Internet.
Fondamentalement, si un développeur souhaite donner à ChatGPT la possibilité d’accéder à n’importe quel service réseau (par exemple : “consulter le cours actuel des actions”) ou d’effectuer n’importe quelle tâche contrôlée par un service réseau (par exemple : “commander une pizza via Internet”), c’est désormais possible, à condition de ne pas aller à l’encontre des règles d’OpenAI.
Classiquement, la plupart des grands modèles de langage (LLM) comme ChatGPT ont été contraints dans une bulle, pour ainsi dire, ne pouvant interagir avec le monde que par le biais de conversations textuelles avec un utilisateur. Comme OpenAI l’écrit dans son article de blog d’introduction sur les plugins ChatGPT, “La seule chose que les modèles de langage peuvent faire immédiatement est d’émettre du texte”.
Bing Chat a poussé ce paradigme plus loin en lui permettant de rechercher sur le Web des informations plus récentes, mais jusqu’à présent, ChatGPT a toujours été isolé du reste du monde. Bien que fermé de cette manière, ChatGPT ne peut s’appuyer que sur les données de son ensemble de formation (limité à 2021 et avant) et sur toute information fournie par un utilisateur pendant la conversation. De plus, ChatGPT peut être enclin à commettre des erreurs factuelles et des erreurs (ce que les chercheurs en IA appellent des “hallucinations”).
Pour contourner ces limitations, OpenAI a fait éclater la bulle et créé une interface de plug-in ChatGPT (ce qu’OpenAI appelle les “yeux et les oreilles” de ChatGPT) qui permet aux développeurs de créer de nouveaux composants qui “se connectent” à ChatGPT et permettent au modèle d’IA d’interagir avec autres services sur Internet. Ces services peuvent effectuer des calculs et référencer des informations factuelles pour réduire les hallucinations, et ils peuvent également potentiellement interagir avec tout autre service logiciel sur Internet, si les développeurs créent un plugin pour cette tâche.
Le “magasin de plugins” ChatGPT permet aux utilisateurs de sélectionner parmi les plugins qu’ils souhaitent “installer” dans leur session ChatGPT.Dans le cas de ChatGPT, OpenAI permettra aux utilisateurs de choisir parmi une liste de plugins avant de démarrer une session ChatGPT. Ils se présentent presque comme des applications dans un magasin d’applications, chaque plugin ayant sa propre icône et sa propre description.
OpenAI indique qu’une première série de plugins a été créée par les sociétés suivantes :
Expedia (pour la planification du voyage) FiscalNote (pour les données de marché en temps réel) Instacart (pour les commandes d'épicerie) Kayak (recherche de vols et de voitures de location) Klarna (pour comparer les prix) Milo (un assistant parental alimenté par l'IA) OpenTable (pour les recommandations de restaurants et les réservations) Shopify (pour faire des achats sur ce site) Slack (pour les communications) Parler (pour le tutorat de langue alimenté par l'IA) Wolfram (pour le calcul et les données en temps réel) Zapier (une plateforme d'automatisation)En particulier, le plug-in Zapier semble particulièrement puissant puisqu’il accorde à ChatGPT l’accès à un système d’automatisation de logiciel existant, ou comme le dit Zapier : “Vous pouvez demander à ChatGPT d’exécuter n’importe laquelle des 50 000 actions de Zapier (y compris la recherche, la mise à jour et l’écriture) avec Zapier. Plus de 5 000 applications prises en charge, transformant le chat en action. Il peut écrire un e-mail, puis l’envoyer pour vous. Ou rechercher des contacts dans un CRM, puis les mettre à jour directement. Ou ajouter des lignes à une feuille de calcul, puis les envoyer sous forme de message Slack. les possibilités sont infinies.”
OpenAI héberge également trois plugins lui-même, un navigateur Web (qui peut récupérer des informations sur le Web d’une manière similaire à Bing Chat), un interpréteur de code pour exécuter des programmes Python (dans un bac à sable) et un outil de récupération qui permet d’accéder à " sources d’informations personnelles ou organisationnelles hébergées ailleurs (essentiellement, extraction d’informations à partir de documents).
Vidéo de démonstration dans l’article d’origine
Bien qu’OpenAI appelle le processus de sélection des plugins un “magasin de plugins”, la société n’a pas annoncé son intention de vendre des plugins individuels. Mais en utilisant l’étiquette “magasin”, ce résultat semble probable à un moment donné.
Déjà, les développeurs ayant un accès anticipé ont rapidement prototypé des plugins pour ChatGPT. Comparé à d’autres approches de développement de plugins, le fonctionnement des plugins ChatGPT est remarquable. Au lieu d’un processus ésotérique consistant à utiliser un " code de collage " pour interfacer une API avec ChatGPT, le développeur “indique” simplement à ChatGPT comment utiliser son service en utilisant le langage naturel, et ChatGPT le fait.
Pour ceux qui ne le savent pas : vous écrivez un manifeste OpenAPI pour votre API, utilisez des descriptions en langage humain pour tout, et c’est tout. Vous laissez le modèle déterminer comment s’authentifier, enchaîner les appels, traiter les données entre les deux, les formater pour les visualiser, etc. Il n’y a absolument aucun code de colle.
– Mitchell Hashimoto (@mitchellh) 23 mars 2023Au-delà de cela, les développeurs ont utilisé ChatGPT et GPT-4 pour écrire des manifestes de plug-in ChatGPT (un manifeste est « une description lisible par machine des capacités du plug-in et comment les invoquer », selon OpenAI), simplifiant davantage le processus de développement du plug-in.
Ce type de capacité de développement auto-composé semble être un territoire inexploré pour certains programmeurs. Dans un cas, un utilisateur de Twitter nommé Rohit s’est inquiété à haute voix , " Les gars. Crise existentielle. OpenAI vient-il de terminer le logiciel ? Que reste-t-il à faire à part nettoyer et balayer ? "
Sam Altman, le PDG d’OpenAI, a répondu “Non”.
Étant donné qu’OpenAI a déjà testé ses modèles d’IA (tels que GPT-4) pour voir s’ils ont l’agence pour modifier, améliorer et se répandre parmi les systèmes informatiques du monde, il n’est pas surprenant qu’OpenAI dépense près de la moitié de son article de blog sur les plugins ChatGPT parler de sécurité et d’impacts. “Les plugins auront probablement des implications sociétales de grande envergure”, mentionne la société dans une section sur les impacts potentiels sur les emplois .
Au-delà des emplois, une crainte récurrente chez certains chercheurs en IA consiste à accorder à un modèle d’IA avancé l’accès à d’autres systèmes, où il peut potentiellement nuire. Le système d’IA n’a pas besoin d’être «conscient» ou «sensible», mais simplement motivé pour accomplir une certaine tâche qu’il juge nécessaire. Dans ce cas avec les plugins, il semble qu’OpenAI fasse exactement cela.
OpenAI : Il est important pour la sécurité que le code généré par l’IA n’ait pas d’effets directs dans le monde réel. Nous avons donc désactivé l’accès Internet sur le REPL que nous avons donné à ChatGPT-4
également OpenAI : nous nous sommes associés à Zapier pour permettre à ChatGPT-4 d’exécuter plus de 50 000 actions sur 5 000 applications pic.twitter.com/IAhOTGDOlx
– David
(@davidad) 24 mars 2023OpenAI semble être conscient des risques, faisant fréquemment référence à sa carte système GPT-4 qui décrit le type de test du scénario le plus défavorable que nous avons décrit dans un article précédent . Au-delà des scénarios hypothétiques apocalyptiques, les dommages causés par l’IA pourraient prendre la forme de versions accélérées des dangers en ligne actuels, tels que les réseaux de phishing automatisés, les campagnes de désinformation, l’ astroturfing ou les attaques personnelles.
“Il y a un risque que les plugins augmentent les problèmes de sécurité en prenant des actions nuisibles ou involontaires, en augmentant les capacités des mauvais acteurs qui frauderaient, induiraient en erreur ou abuseraient les autres”, écrit OpenAI. “En augmentant la gamme d’applications possibles, les plugins peuvent augmenter le risque de conséquences négatives d’actions erronées ou mal alignées prises par le modèle dans de nouveaux domaines. Dès le premier jour, ces facteurs ont guidé le développement de notre plateforme de plugins, et nous avons mis en place plusieurs garanties.”
L’une de ces garanties semble être un déploiement progressif de l’accès aux plugins. générale d’OpenAI De plus, bien que l’utilisation du plug-in ChatGPT soit couverte par la politique d’utilisation qui interdit de l’utiliser pour générer des informations erronées et des formes de contenu interdites, elle spécifie également des règles pour les plug-ins , telles que l’interdiction d’automatiser les conversations avec de vraies personnes. De plus, les plugins qui utilisent du contenu généré par ChatGPT (tels que des e-mails) doivent nier que le contenu a été généré par l’IA.
Les plugins OpenAI individuels ont leurs propres clauses de non-responsabilité, y compris la possibilité de désactiver l’exploration Web ChatGPT avec un fichier robots.txt et le fait que l’interpréteur de code Python s’exécute dans un bac à sable “pare-feu”. Mais ces restrictions s’appliqueront-elles aux plugins d’autres services qui peuvent exécuter du code ? Ce sont des questions qu’OpenAI et les développeurs devront aborder et travailler ensemble dans les jours, semaines et mois à venir.
Pour le moment, les plugins ChatGPT ne sont disponibles que sur une base alpha pour sélectionner les développeurs et ceux approuvés à partir d’une liste d’attente . “Alors que nous donnerons initialement la priorité à un petit nombre de développeurs et d’utilisateurs de ChatGPT Plus, nous prévoyons de déployer un accès à plus grande échelle au fil du temps.”
Sarah Connor ? I’ll be back.
-
et voilà c’est la fin, on aura bien rigolé quand même
-
ça raque connor ?
-
c’est le début de la fin
