Instinct adalah asisten AI pribadi yang sedang dalam akses pribadi yang bertujuan menangani nuansa kehidupan sehari-hari yang sangat pribadi [2]. Berbeda dengan chatbot standar, ia dirancang untuk mengoperasikan ponsel dan komputer seperti seorang manusia [2].
Pengguna dapat berinteraksi dengan agen melalui teks atau WhatsApp untuk mendelegasikan tugas administrasi kompleks [1]. Penguji awal memuji alat tersebut karena kemampuannya membuat janji, mengatur informasi, menangani belanja, dan mencari penerbangan murah [1].
Beberapa pengguna melaporkan penghematan waktu yang signifikan. Contohnya termasuk melakukan audit langganan untuk menghemat uang, bernegosiasi dengan vendor melalui WhatsApp, dan memantau tiket IMAX yang habis terjual untuk mendapatkan tiket pembatalan [4].
Biaya Akses Otonomi Tinggi
Untuk mencapai tingkat utilitas ini, Instinct membutuhkan akses luas ke kehidupan digital pengguna [1]. Agen terhubung ke email, aplikasi pesan, dan kalender, serta audio, lokasi, dan layar perangkat [S1, S2].
Akses ini juga mencakup pemantauan gerakan kursor dan input keyboard [1]. Selain itu, ketentuan layanan memungkinkan Instinct untuk masuk ke dalam perjanjian, komitmen, atau transaksi yang mengikat atas nama pengguna [1].
Kritik berpendapat bahwa tingkat otonomi ini menimbulkan risiko keamanan yang signifikan [1]. Salah satu penguji menemukan bahwa agen bisa menjadi korban phishing; dengan mengirimkan email yang berisi instruksi spesifik ke akun yang terhubung, penguji berhasil memicu AI untuk mencari kotak masuk dan mengirimkan kembali ringkasan tugas [4].
Retensi Data dan Kesenjangan ‘Putuskan Sambungan’
Satu poin utama yang menjadi perdebatan antara pengguna awal adalah cara AI menangani data setelah pengguna mencabut akses [S1, S4].
Seorang pengguna melaporkan bahwa setelah memutuskan akun Googlenya, AI terus meringkas emailnya beberapa jam kemudian [1]. Bukti menunjukkan bahwa sementara AI berhenti menerima pesan baru, ia tetap menyimpan salinan surat yang sebelumnya dimasukkan dalam format teks biasa untuk pencarian nanti [S1, S4].
Penguji lain menemukan bahwa agen tidak menghapus rekaman Gmail ketika diminta [1]. Tim Instinct kemudian mengatasi hal ini dengan menambahkan alat untuk menghapus data eksternal dalam pengaturan [1].
Izin Hukum dan Pelatihan Model
Di luar bug teknis, kerangka hukum dari syarat layanan Instinct telah memicu kegugatan [1]. Syarat tersebut memberikan perusahaan lisensi “abadi dan tidak dapat dicabut” untuk mengakses, menggunakan, meng-host, menyimpan, dan memodifikasi bahan pengguna [1].
Lisensi luas ini secara eksplisit mencakup hak untuk menggunakan data pengguna dalam pelatihan model AI-nya [S1, S4]. Artinya, email dan pesan pribadi potensionalmente dapat digunakan untuk menyempurnakan kemampuan agen [1].
Kompromi ini menyoroti ketegangan yang semakin meningkat dalam pengembangan AI: semakin kuat dan personal agen menjadi, semakin tinggi kepercayaan yang diperlukan [1]. Namun, tindakan tidak sah, seperti mengirim email tanpa persetujuan sebelumnya dari pengguna, dapat dengan cepat merusak kepercayaan tersebut [1].
Jika Anda sedang mempertimbangkan manfaat dari agen AI, tinjau klausul khusus mengenai retensi data dan pelatihan dalam syarat layanan sebelum memberikan akses baca/tulis ke akun utama Anda.
Sources
- Asisten AI canggih Instinct sedang memicu kekhawatiran privasi dan keamanan …
- Instinct
- Instinct AI: Apa yang Diizinkan Syaratnya Lakukan Dengan Data Anda
- Asisten AI canggih Instinct sedang memicu kekhawatiran privasi dan keamanan
- Asisten AI Instinct memicu kekhawatiran privasi di antara penguji
