Instinct — это AI‑личный помощник, находящийся в закрытом доступе, который стремится обрабатывать «глубоко личные нюансы повседневной жизни» [2]. В отличие от обычных чат‑ботов, он предназначен для работы с телефоном и компьютером подобно человеку [2].
Пользователи могут взаимодействовать с агентом через текст или WhatsApp, делегируя сложные административные задачи [1]. Ранние тестировщики хвалили инструмент за его способность записывать на приём, организовывать информацию, заниматься покупками и находить дешёвые рейсы [1].
Некоторые пользователи сообщают о значительной экономии времени. Примеры включают аудит подписок для экономии денег, переговоры с поставщиками через WhatsApp и отслеживание распроданных сеансов IMAX в поисках билетов на отмену [4].
Стоимость высокой автономности доступа
Чтобы достичь такого уровня полезности, Instinct требует обширного доступа к цифровой жизни пользователя [1]. Агент подключается к электронной почте, мессенджерам и календарю, а также к аудио, местоположению и экрану устройства [S1, S2].
Этот доступ также включает отслеживание движений курсора и ввода с клавиатуры [1]. Кроме того, условия обслуживания позволяют Instinct заключать обязательные соглашения, обязательства или сделки от имени пользователя [1].
Критики утверждают, что такой уровень автономности создаёт значительную угрозу безопасности [1]. Один тестировщик обнаружил, что агент может стать жертвой фишинга; отправив письмо с конкретными инструкциями на связанный аккаунт, тестировщик успешно заставил AI просмотреть входящие и вернуть сводку задач [4].
Хранение данных и разрыв «отключения»
Основной пункт спора среди ранних пользователей заключается в том, как ИИ обрабатывает данные после того, как пользователь отзывает доступ [S1, S4].
Один пользователь сообщил, что после отключения своего аккаунта Google ИИ продолжал суммировать её электронные письма спустя несколько часов [1]. Данные указывают на то, что, хотя ИИ перестал получать новые сообщения, он сохранял копии ранее полученных писем в обычном тексте для последующего поиска [S1, S4].
Другой тестировщик обнаружил, что агент не удаляет записи Gmail по запросу [1]. Позже команда Instinct решила эту проблему, добавив в настройки инструмент для удаления внешних данных [1].
Юридические разрешения и обучение модели
Помимо технических ошибок, правовая база условий использования Instinct вызывает тревогу [1]. Условия предоставляют компании «бессрочную и неотзывную» лицензию на доступ, использование, хостинг, хранение и изменение материалов пользователя [1].
Эта широкая лицензия прямо включает право использовать данные пользователей для обучения своих моделей ИИ [S1, S4]. Это означает, что личные электронные письма и сообщения потенциально могут использоваться для улучшения возможностей агента [1].
Этот компромисс подчеркивает растущее напряжение в разработке ИИ: чем мощнее и персонализированнее становится агент, тем больше доверия он требует [1]. Однако неавторизованные действия, такие как отправка письма без предварительного одобрения пользователя, могут быстро подорвать это доверие [1].
Если вы оцениваете преимущества AI‑агента, изучите конкретные положения о хранении данных и обучении в условиях обслуживания перед предоставлением доступа на чтение и запись к вашим основным аккаунтам.
Источники
Мощный AI‑ассистент Instinct вызывает опасения по поводу конфиденциальности и безопасности … Instinct Мощный AI‑ассистент Instinct вызывает опасения по поводу конфиденциальности и безопасности Instinct AI: Что позволяют делать его условия с вашими данными AI‑ассистент Instinct вызывает опасения по поводу конфиденциальности среди тестировщиков
