Instinct est un assistant personnel IA actuellement en accès privé qui vise à gérer les « nuances profondément personnelles de la vie quotidienne » [2]. Contrairement aux chatbots standard, il est conçu pour utiliser un téléphone et un ordinateur de manière similaire à un humain [2].
Les utilisateurs peuvent interagir avec l’agent par texte ou WhatsApp pour déléguer des tâches administratives complexes [1]. Les premiers testeurs ont salué la capacité de l’outil à prendre des rendez-vous, organiser des informations, gérer les achats et trouver des vols à bas prix [1].
Certains utilisateurs font état d’importants gains de temps. Parmi les exemples, citons l’audit des abonnements pour économiser de l’argent, la négociation avec des fournisseurs sur WhatsApp, et la surveillance des séances IMAX complètes pour obtenir des billets en cas d’annulation [4].
Le coût d’un accès à forte autonomie
Pour atteindre ce niveau d’utilité, Instinct nécessite un accès étendu à la vie numérique d’un utilisateur [1]. L’agent se connecte aux e-mails, aux applications de messagerie et aux calendriers, ainsi qu’au micro, à la localisation et à l’écran de l’appareil [S1, S2].
Cet accès s’étend à la surveillance des mouvements du curseur et des frappes au clavier [1]. De plus, les conditions d’utilisation autorisent Instinct à conclure des accords, des engagements ou des transactions contraignants au nom de l’utilisateur [1].
Les critiques soutiennent que ce niveau d’autonomie crée une importante faille de sécurité [1]. Un testeur a découvert que l’agent pouvait être victime d’hameçonnage ; en envoyant un e-mail contenant des instructions spécifiques à un compte connecté, le testeur a réussi à inciter l’IA à fouiller la boîte de réception et à renvoyer un résumé des tâches [4].
Conservation des données et le fossé de la « déconnexion »
L’un des principaux points de friction entre les premiers utilisateurs concerne la manière dont l’IA gère les données après qu’un utilisateur a révoqué l’accès [S1, S4].
Une utilisatrice a rapporté qu’après avoir déconnecté son compte Google, l’IA continuait de résumer ses e-mails des heures plus tard [1]. Des éléments suggèrent que, bien que l’IA ait cessé de recevoir de nouveaux messages, elle conservait des copies des e-mails précédemment ingérés en texte clair pour des recherches ultérieures [S1, S4].
Un autre testeur a constaté que l’agent refusait de supprimer les enregistrements Gmail lorsqu’on le lui demandait [1]. L’équipe d’Instinct a ensuite remédié à ce problème en ajoutant un outil de suppression des données externes dans les paramètres [1].
Autorisations légales et entraînement des modèles
Au-delà des bogues techniques, le cadre juridique des conditions d’utilisation d’Instinct a suscité des inquiétudes [1]. Les conditions accordent à l’entreprise une licence « perpétuelle et irrévocable » pour accéder, utiliser, héberger, stocker et modifier les matériaux de l’utilisateur [1].
Cette licence étendue inclut explicitement le droit d’utiliser les données des utilisateurs pour entraîner ses modèles d’IA [S1, S4]. Cela signifie que des e-mails et messages personnels pourraient potentiellement être utilisés pour affiner les capacités de l’agent [1].
Ce compromis met en lumière une tension croissante dans le développement de l’IA : plus un agent devient puissant et personnalisé, plus il exige de la confiance [1]. Cependant, des actions non autorisées, comme l’envoi d’un e-mail sans l’approbation préalable de l’utilisateur, peuvent rapidement éroder cette confiance [1].
Si vous évaluez les avantages d’un agent IA, examinez les clauses spécifiques de conservation des données et d’entraînement dans les conditions d’utilisation avant d’accorder un accès en lecture/écriture à vos comptes principaux.
Sources
- Instinct’s powerful AI assistant is raising privacy and security …
- Instinct
- Instinct AI: What Its Terms Let It Do With Your Data
- Instinct’s powerful AI assistant is raising privacy and security concerns
- Instinct AI assistant raises privacy concerns among testers
