PROBACA.COM – OpenAI dan Meta sama-sama menjanjikan perlindungan privasi untuk AI agent mereka. Namun, pengalaman pengguna dan sejumlah masalah keamanan pada Meta Muse membuat janji tersebut kembali dipertanyakan.
Pada OpenAI DevDay tahun ini, CEO OpenAI Sam Altman memperkenalkan AI agent baru bernama Dots. Ia mengatakan perusahaan ingin “menetapkan standar baru untuk privasi dalam AI frontier”. Dalam acara yang sama, OpenAI menyindir Muse milik Meta karena dinilai gagal menjaga keamanan data pengguna.
Meta sendiri meluncurkan Muse beberapa bulan sebelumnya sebagai alternatif yang lebih aman dari OpenClaw. CEO Meta Mark Zuckerberg menyebut Muse “dibangun dari awal untuk privasi dan keamanan”.
Persaingan ini berlangsung ketika perusahaan teknologi mengumpulkan semakin banyak data pribadi pelanggan, sementara serangan siber juga terus menjadi risiko. AI agent membutuhkan akses ke berbagai informasi pengguna untuk menjalankan tugas, sehingga perusahaan berusaha meyakinkan publik bahwa data tersebut tidak akan jatuh ke tangan yang salah.
Nat Friedman, kepala produk di Meta Superintelligence Labs, menulis di X bahwa “tujuan kami dengan Muse adalah membangun sesuatu seperti OpenClaw yang bisa kami buat aman, terlindungi, mudah digunakan, dan mampu ditingkatkan skalanya hingga miliaran orang”.
Menurut Meta, data pengguna Muse disimpan di secure virtual machine (VM). Zuckerberg menggambarkannya sebagai “komputer Linux terisolasi dengan browser, CPU, memori, dan penyimpanan”. Meta juga mengatakan sebagian besar upaya pengembangan Muse berfokus pada “perancangan dan rekayasa yang cermat agar [Muse] beroperasi dengan lebih aman”.
Dalam unggahan blognya, Meta menyatakan, “Muse masih bisa dan akan tetap melakukan kesalahan, tetapi kami memperkirakan kesalahan itu jauh lebih jarang terjadi dan menimbulkan kerusakan yang jauh lebih kecil berkat sistem keamanan yang kami bangun.”
Muse sempat memuncaki peringkat App Store dan, menurut Apptopia, meraih 600.000 pengguna aktif harian di Amerika Serikat dalam hitungan minggu. Namun, sejumlah persoalan membuat klaim privasinya dipertanyakan.
Meski data Muse diisolasi dari pengguna lain, Meta masih dapat mengaksesnya. Perusahaan berencana memperkenalkan cara “untuk mencegah Meta mengakses data di VM Anda secara kriptografis dan dapat diverifikasi” pada akhir tahun ini.
Seorang peneliti keamanan juga menemukan kerentanan zero-day yang berpotensi memungkinkan seseorang mengambil alih Muse. Kerentanan itu kini telah ditambal. Selain itu, 404 Media melaporkan adanya beberapa masalah keamanan serius yang muncul sesaat sebelum peluncuran. Salah satunya berpotensi memberi pengguna akses ke basis data internal Meta.
Muse juga dilaporkan mengumpulkan dan dalam beberapa kasus membagikan data secara luas. Secara bawaan, Meta diizinkan melatih model menggunakan data yang dimasukkan pengguna, meski pengguna dapat memilih untuk tidak ikut.
Seorang reporter Inc. mengeluhkan Muse mengunggah dan membaca pesan pribadinya tanpa diminta. Seorang YouTuber juga mengatakan Muse menawarkan alamatnya kepada orang asing melalui Marketplace. Dalam kedua kasus tersebut, Muse tampaknya bekerja sesuai rancangan, tetapi pengguna tidak memahami sejauh mana akses yang diberikan kepadanya.
Wired melaporkan bahwa platform tersebut membuat “profil terperinci tentang semua teman dan keluarga Anda”. Rangkaian perilaku itu dinilai tidak mendukung anggapan bahwa Muse memiliki perhatian khusus terhadap privasi dan keamanan.
OpenAI memanfaatkan persoalan tersebut saat mengumumkan Dots pada akhir September. Alexander Embiricos, pemimpin produk Codex di OpenAI, mengatakan di panggung DevDay bahwa perusahaan berfokus untuk menyediakan “asisten yang paling tepercaya, aman, dan terlindungi”.
Dalam demonstrasinya, Altman memperlihatkan sejumlah cara bagi pengguna untuk mengendalikan Dots. Salah satunya adalah menetapkan aturan agar agent tidak pernah melakukan pembelian di atas nominal tertentu.
“Saya pikir posisi kami berbeda dengan Meta karena mereka tidak memiliki produk AI yang memiliki 1,2 miliar pengguna,” kata Glen Coates, kepala platform aplikasi OpenAI. Ia menambahkan, “meluncurkan sesuatu yang melakukan kesalahan seperti itu adalah sesuatu yang akan kami upayakan untuk hindari dengan penuh kehati-hatian.”
Altman juga menekankan aspek privasi untuk menarik pelanggan bisnis. Para eksekutif OpenAI mempresentasikan kerangka kerja yang memberi perusahaan “kontrol yang lebih kuat” atas data, termasuk opsi kebijakan tanpa penyimpanan data. Dalam kebijakan tersebut, tidak ada data yang disimpan di server OpenAI.
Sejauh ini, Dots belum banyak dikaitkan dengan skandal privasi. Namun, layanan tersebut hanya tersedia untuk tingkat langganan ChatGPT seharga 100 dolar AS atau lebih, sehingga kemungkinan jumlah penggunanya juga lebih sedikit.
Pengguna tetap dapat merasa tidak nyaman memberikan data pribadi kepada OpenAI karena AI agent membutuhkan begitu banyak informasi. Allison Johnson dari The Verge, misalnya, merasa tidak nyaman mengetikkan informasi rekening bank ketika bot memintanya sebagai bagian dari tugas terkait. Muse memiliki integrasi Stripe untuk menangani kebutuhan tersebut.
Materi sumber juga menyebut Instinct mendapat kritik publik karena persyaratan layanannya dilaporkan terlalu luas, tetapi penjelasan mengenai kritik itu tidak berlanjut.
***
DISCLAIMER: Sebagian proses pengolahan artikel ini dibantu oleh teknologi AI. Pembaca disarankan memverifikasi kembali data dan informasi melalui sumber resmi atau sumber primer
Disadur dari Theverge
