Instinct es un asistente personal de IA actualmente en acceso privado que busca manejar las «máticas profundamente personales de la vida cotidiana» [2]. A diferencia de los chatbots estándar, está diseñado para operar un teléfono y una computadora de manera similar a un ser humano [2].
Los usuarios pueden interactuar con el agente mediante texto o WhatsApp para delegar tareas administrativas complejas [1]. Los primeros testers han elogiado la herramienta por su capacidad para reservar citas, organizar información, gestionar compras y encontrar vuelos baratos [1].
Algunos usuarios reportan un ahorro significativo de tiempo. Los ejemplos incluyen auditoría de suscripciones para ahorrar dinero, negociar con proveedores por WhatsApp y monitorear las funciones de IMAX agotadas en busca de entradas de cancelación [4].
El costo del acceso de alta autonomía
Para alcanzar este nivel de utilidad, Instinct requiere un acceso extensivo a la vida digital del usuario [1]. El agente se conecta al correo electrónico, aplicaciones de mensajería y calendarios, así como al audio, la ubicación y la pantalla del dispositivo [S1, S2].
Este acceso se extiende al monitoreo de los movimientos del cursor y las entradas del teclado [1]. Además, los términos de servicio permiten que Instinct celebre acuerdos, compromisos o transacciones vinculantes en nombre del usuario [1].
Los críticos argumentan que este nivel de autonomía crea una responsabilidad de seguridad significativa [1]. Un tester descubrió que el agente podía ser objeto de phishing; al enviar un correo electrónico con instrucciones específicas a una cuenta conectada, el tester logró inducir al AI a buscar la bandeja de entrada y devolver un resumen de tareas [4].
La retención de datos y la brecha de «desconexión»
Un punto principal de disputa entre los primeros adoptantes es cómo la IA maneja los datos después de que un usuario revoca el acceso [S1, S4].
Un usuario informó que, después de desconectar su cuenta de Google, la IA continuó resumiendo sus correos electrónicos horas después [1]. La evidencia sugirió que, mientras la IA dejaba de recibir nuevos mensajes, retenía copias de los correos previamente ingeridos en texto plano para búsquedas posteriores [S1, S4].
Otro tester descubrió que el agente no eliminaba los registros de Gmail cuando se le solicitaba [1]. El equipo de Instinct posteriormente abordó esto añadiendo una herramienta para eliminar datos externos dentro de la configuración [1].
Permisos legales y entrenamiento del modelo
Más allá de los errores técnicos, el marco legal de los términos de servicio de Instinct ha generado alarmas [1]. Los términos otorgan a la empresa una licencia «perpetua e irrevocable» para acceder, usar, alojar, almacenar y modificar los materiales del usuario [1].
Esta licencia amplia incluye explícitamente el derecho de utilizar los datos del usuario para entrenar sus modelos de IA [S1, S4]. Esto significa que los correos electrónicos y mensajes personales podrían potencialmente utilizarse para perfeccionar las capacidades del agente [1].
Este compromiso destaca una tensión creciente en el desarrollo de la IA: cuanto más poderoso y personalizado se vuelve un agente, más confianza requiere [1]. Sin embargo, acciones no autorizadas, como enviar un correo electrónico sin la aprobación previa del usuario, pueden erosionar rápidamente esa confianza [1].
Si está evaluando los beneficios de un agente de IA, revise las cláusulas específicas de retención de datos y entrenamiento en los términos de servicio antes de conceder acceso de lectura/escritura a sus cuentas principales.
Sources
- El poderoso asistente de IA de Instinct está generando preocupaciones de privacidad y seguridad …
- Instinct
- Instinct AI: Qué permiten sus términos que haga con tus datos
- El poderoso asistente de IA de Instinct está generando preocupaciones de privacidad y seguridad
- El asistente de IA de Instinct genera preocupaciones de privacidad entre los testers
