Instinct é um assistente pessoal de IA atualmente em acesso privado que visa lidar com as ‘nuances profundamente pessoais da vida cotidiana’ [2]. Diferente dos chatbots padrão, ele foi projetado para operar um telefone e computador de forma semelhante a um ser humano [2].
Os usuários podem interagir com o agente por texto ou WhatsApp para delegar tarefas administrativas complexas [1]. Os primeiros testistas elogiaram a ferramenta por sua capacidade de agendar compromissos, organizar informações, fazer compras e encontrar voos baratos [1].
Alguns usuários relatam economia significativa de tempo. Exemplos incluem auditoria de assinaturas para economizar dinheiro, negociação com fornecedores no WhatsApp e monitoramento de ingressos para exibições esgotadas do IMAX em busca de tickets de cancelamento [4].
O Custo do Acesso de Alta Autonomia
Para alcançar esse nível de utilidade, o Instinct requer acesso extensivo à vida digital do usuário [1]. O agente se conecta ao e-mail, aplicativos de mensagens e calendários, além do áudio, localização e tela do dispositivo [S1, S2].
Esse acesso se estende ao monitoramento de movimentos do cursor e entradas do teclado [1]. Além disso, os termos de serviço permitem que o Instinct celebre acordos, compromissos ou transações vinculantes em nome do usuário [1].
Críticos argumentam que esse nível de autonomia cria uma significativa responsabilidade de segurança [1]. Um testador descobriu que o agente poderia ser alvo de phishing; ao enviar um e-mail com instruções específicas para uma conta conectada, o testador conseguiu induzir a IA a pesquisar a caixa de entrada e enviar de volta um resumo das tarefas [4].
Retenção de Dados e a Lacuna de ‘Desconexão’
Um dos principais pontos de controvérsia entre os primeiros usuários é como a IA lida com os dados após o usuário revogar o acesso [S1, S4].
Uma usuária relatou que, após desconectar sua conta do Google, a IA continuou a resumir seus e-mails horas depois [1]. Evidências sugeriram que, embora a IA tenha parado de receber novas mensagens, ela retém cópias dos e-mails previamente ingeridos em texto puro para pesquisas posteriores [S1, S4].
Outro testador descobriu que o agente não excluía registros do Gmail quando solicitado [1]. A equipe do Instinct posteriormente resolveu isso adicionando uma ferramenta para excluir dados externos nas configurações [1].
Permissões Legais e Treinamento do Modelo
Além dos bugs técnicos, o quadro legal dos termos de serviço do Instinct tem levantado alarmes [1]. Os termos concedem à empresa uma licença ‘perpetual e irrevogável’ para acessar, usar, hospedar, armazenar e modificar materiais do usuário [1].
Essa licença ampla inclui explicitamente o direito de usar os dados do usuário para treinar seus modelos de IA [S1, S4]. Isso significa que e-mails e mensagens pessoais poderiam potencialmente ser usados para aprimorar as capacidades do agente [1].
Essa compensação destaca uma tensão crescente no desenvolvimento de IA: quanto mais poderoso e personalizado um agente se torna, mais confiança ele exige [1]. No entanto, ações não autorizadas, como enviar um e-mail sem a aprovação prévia do usuário, podem rapidamente corroer essa confiança [1].
Se você está avaliando os benefícios de um agente de IA, revise as cláusulas específicas de retenção de dados e treinamento nos termos de serviço antes de conceder acesso de leitura/escrita às suas contas primárias.
Sources
- O poderoso assistente de IA do Instinct está levantando preocupações de privacidade e segurança …
- Instinct
- Instinct AI: O Que Seus Termos Permitem Que Ele Faça Com Seus Dados
- O poderoso assistente de IA do Instinct está levantando preocupações de privacidade e segurança
- Instinct AI assistente levanta preocupações de privacidade entre testadores
