Instinct ist ein KI‑Persönlicher Assistent, der derzeit im privaten Zugriff verfügbar ist und darauf abzielt, die „tief persönlichen Nuancen des Alltags“ [2] zu bewältigen. Im Gegensatz zu herkömmlichen Chatbots ist er darauf ausgelegt, ein Telefon und einen Computer ähnlich wie ein Mensch zu bedienen [2].
Nutzer können den Agenten per Text oder WhatsApp kontaktieren, um komplexe Verwaltungsaufgaben zu delegieren [1]. Frühe Tester haben das Tool für seine Fähigkeit gelobt, Termine zu vereinbaren, Informationen zu organisieren, Einkäufe zu erledigen und günstige Flüge zu finden [1].
Einige Nutzer berichten von erheblichen Zeitersparnissen. Beispiele sind das Prüfen von Abonnements, um Geld zu sparen, das Verhandeln mit Lieferanten über WhatsApp und das Überwachen ausverkaufter IMAX‑Vorstellungen auf Stornotickets [4].
Der Preis hoher Autonomie
Um dieses Nutzungsniveau zu erreichen, benötigt Instinct umfangreichen Zugriff auf das digitale Leben des Nutzers [1]. Der Agent verbindet sich mit E‑Mail, Messaging‑Apps und Kalendern sowie mit Audio, Standort und Bildschirm des Geräts [S1, S2].
Dieser Zugriff erstreckt sich auch auf die Überwachung von Cursorbewegungen und Tastatureingaben [1]. Darüber hinaus erlauben die Nutzungsbedingungen es Instinct, im Namen des Nutzers verbindliche Vereinbarungen, Verpflichtungen oder Transaktionen einzugehen [1].
Kritiker argumentieren, dass dieses Maß an Autonomie ein erhebliches Sicherheitsrisiko schafft [1]. Ein Tester entdeckte, dass der Agent gehackt werden konnte; indem er eine E‑Mail mit spezifischen Anweisungen an ein verbundenes Konto schickte, konnte der Tester die KI erfolgreich auffordern, den Posteingang zu durchsuchen und eine Zusammenfassung der Aufgaben zurückzusenden [4].
Datenaufbewahrung und die „Trennung“-Lücke
Ein Hauptpunkt der Kontroverse unter frühen Anwendern ist, wie die KI mit Daten umgeht, nachdem ein Nutzer den Zugriff widerruft [S1, S4].
Eine Nutzerin berichtete, dass die KI nach dem Trennen ihres Google‑Kontos weiterhin Stunden später ihre E‑Mails zusammenfasste [1]. Es wurde suggeriert, dass obwohl die KI keine neuen Nachrichten mehr empfing, sie Kopien zuvor aufgenommener E‑Mails im Klartext für spätere Suchen behielt [S1, S4].
Ein weiterer Tester stellte fest, dass der Agent Gmail‑Datensätze auf Anfrage nicht löschte [1]. Das Instinct‑Team ging später darauf ein, indem es ein Tool zum Löschen externer Daten in den Einstellungen hinzufügte [1].
Rechtliche Berechtigungen und Modelltraining
Abgesehen von technischen Fehlern hat der rechtliche Rahmen der Nutzungsbedingungen von Instinct Alarm ausgelöst [1]. Die Bedingungen gewähren dem Unternehmen eine „dauerhafte und unwiderrufliche“ Lizenz zum Zugriff, Gebrauch, Hosten, Speichern und Ändern von Nutzerinhalten [1].
Diese weitreichende Lizenz umfasst ausdrücklich das Recht, Nutzerdaten zum Training seiner KI‑Modelle zu verwenden [S1, S4]. Das bedeutet, dass persönliche E‑Mails und Nachrichten potenziell zur Verfeinerung der Fähigkeiten des Agents verwendet werden könnten [1].
Dieser Kompromiss verdeutlicht eine wachsende Spannung in der KI‑Entwicklung: Je mächtiger und personalisierter ein Agent wird, desto mehr Vertrauen erfordert er [1]. Allerdings können unbefugte Aktionen, wie das Versenden einer E‑Mail ohne vorherige Zustimmung des Nutzers, dieses Vertrauen schnell untergraben [1].
Wenn Sie die Vorteile eines KI‑Agents abwägen, überprüfen Sie die spezifischen Klauseln zur Datenaufbewahrung und zum Training in den Nutzungsbedingungen, bevor Sie Lese‑/Schreibzugriff auf Ihre Hauptkonten gewähren.
Sources
- Instincts leistungsstarker KI‑Assistent wirft Datenschutz‑ und Sicherheitsbedenken auf …
- Instinct
- Instinct AI: Was seine Bedingungen ihm mit euren Daten erlauben
- Instincts leistungsstarker KI‑Assistent wirft Datenschutz‑ und Sicherheitsbedenken auf
- Instinct KI‑Assistent wirft Datenschutzbedenken unter Testern auf
