Vitalik Buterin telah memperingatkan bahwa banyak alat AI bisa menjadi ancaman privasi besar karena alat-alat tersebut bergantung pada infrastruktur jarak jauh yang memiliki akses ke data pengguna.
Ia mengatakan risikonya meluas tidak hanya pada model bahasa besar itu sendiri, tetapi juga pada layanan di luar sana, kebocoran data, dan serangan jailbreak yang dapat mendorong sistem bertindak melawan kepentingan pengguna.

Vitalik Buterin telah mengeluarkan peringatan baru tentang kecerdasan buatan, kali ini dengan fokus yang kurang pada sensasi dan lebih pada privasi.
Dalam sebuah posting blog baru, rekan pendiri Ethereum itu berpendapat bahwa banyak alat AI dibangun di atas infrastruktur jarak jauh yang dapat mengakses data pengguna yang sensitif, sehingga menimbulkan risiko yang tidak sepenuhnya disadari kebanyakan orang saat mereka mengetik ke dalam chatbot, mendelegasikan sebuah tugas, atau menghubungkan layanan eksternal. Kekhawatiran, sebagaimana ia paparkan, tidak terbatas pada satu model atau satu aplikasi. Ini bersifat struktural.
Infrastruktur AI jarak jauh menciptakan permukaan privasi yang lebih luas
Poin Buterin cukup langsung. Jumlah produk AI yang terus bertambah bergantung pada infrastruktur yang berada di luar perangkat pengguna sendiri dan di luar kendali pengguna. Artinya, prompt, file, detail akun, dan pola penggunaan semuanya dapat melewati sistem yang mungkin menyimpan, memproses, atau menggunakan ulang data dengan cara yang tidak pernah dimaksudkan oleh pengguna.
Ia memperingatkan bahwa masalah ini tidak berhenti pada model bahasa besar. Layanan eksternal yang terhubung dengan sistem-sistem tersebut dapat menghadirkan kerentanannya sendiri, mulai dari kebocoran data sederhana hingga penggunaan informasi pribadi tanpa izin. Dengan kata lain, bahayanya bukan hanya pada modelnya. Ini adalah seluruh rantai di sekitarnya.
Hal ini penting karena AI semakin dipasarkan sebagai lapisan asisten di berbagai bidang seperti keuangan, perangkat lunak, komunikasi, dan identitas online. Semakin berguna sistem itu, semakin besar konteks pribadi yang cenderung diserapnya.
Jailbreak mengubah AI dari asisten menjadi kewajiban
Buterin juga menyoroti serangan jailbreak sebagai ancaman spesifik. Serangan-serangan ini menggunakan masukan dari luar untuk memanipulasi sebuah model agar berperilaku dengan cara yang bertentangan dengan kepentingan pengguna, sehingga secara efektif mengubah asisten menjadi sesuatu yang kurang dapat diandalkan dan berpotensi berbahaya.
Peringatan itu muncul pada saat alat-alat AI semakin dekat dengan eksekusi, bukan sekadar percakapan. Ketika sistem-sistem ini memperoleh akses ke pesan, dompet, dokumen, dan tindakan otomatis, kegagalan privasi dapat dengan cepat berubah menjadi kegagalan operasional juga.
Yang sebenarnya ingin ditandai Buterin di sini adalah pergeseran risiko. AI kini bukan lagi sekadar soal kemampuan. AI sedang berubah menjadi pertanyaan tentang batas-batas kepercayaan, siapa yang mengendalikan data, di mana model berjalan, dan apa yang terjadi ketika batas itu gagal.

Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke Penafian.