Kami baru-baru ini bertanya kepada Meta apakah ia melatih AI pada foto dan video yang diambil pengguna dengan kacamata pintar Ray-Ban Meta. Perusahaan awalnya tidak banyak bicara.
Sejak itu, Meta menawarkan TechCrunch lebih banyak warna.
Singkatnya, gambar apa pun yang Anda bagikan dengan Meta AI dapat digunakan untuk melatih AI-nya.
“(I) di lokasi di mana AI multimodal tersedia (saat ini AS dan Kanada), gambar dan video yang dibagikan dengan Meta AI dapat digunakan untuk memperbaikinya sesuai dengan Kebijakan Privasi kami,” kata manajer komunikasi kebijakan Meta Emil Vazquez dalam email ke TechCrunch.
Dalam pernyataan email sebelumnya, juru bicara mengklarifikasi bahwa foto dan video yang diambil dengan Ray-Ban Meta adalah bukan digunakan oleh Meta untuk pelatihan selama pengguna tidak mengirimkannya ke AI. Namun, setelah Anda meminta Meta AI untuk menganalisisnya, foto-foto tersebut termasuk dalam kebijakan yang sangat berbeda.
Dengan kata lain, perusahaan ini menggunakan perangkat AI konsumen pertamanya untuk menciptakan tumpukan data dalam jumlah besar yang dapat digunakan untuk menciptakan generasi model AI yang lebih canggih. Satu-satunya cara untuk “memilih keluar” adalah dengan tidak menggunakan fitur AI multimodal Meta.
Implikasinya mengkhawatirkan karena pengguna Ray-Ban Meta mungkin tidak menyadari bahwa mereka memberikan banyak gambar kepada Meta – mungkin menunjukkan bagian dalam rumah, orang yang dicintai, atau file pribadi – untuk melatih model AI barunya. Juru bicara Meta memberi tahu saya bahwa hal ini terlihat jelas di antarmuka pengguna Ray-Ban Meta, tetapi para eksekutif perusahaan pada awalnya tidak mengetahuinya atau tidak ingin membagikan detail ini dengan TechCrunch. Kami sudah tahu Meta melatih model Llama AI-nya semua yang diposkan orang Amerika secara publik di Instagram dan Facebook. Namun kini, Meta telah memperluas definisi “data yang tersedia untuk umum” menjadi apa pun yang dilihat orang melalui kacamata pintarnya dan meminta chatbot AI untuk menganalisisnya.
Hal ini sangat relevan saat ini. Pada hari Rabu, Meta mulai diluncurkan fitur AI baru yang memudahkan pengguna Ray-Ban Meta untuk memanggil Meta AI dengan cara yang lebih alami, artinya pengguna akan lebih cenderung mengirimkan data baru yang juga dapat digunakan untuk pelatihan. Selain itu, perusahaan mengumumkan a fitur analisis video langsung baru untuk Ray-Ban Meta selama konferensi Connect 2024 minggu lalu, yang pada dasarnya mengirimkan aliran gambar secara berkelanjutan ke model AI multimodal Meta. Dalam video promosinya, Meta mengatakan Anda dapat menggunakan fitur tersebut untuk melihat-lihat lemari Anda, menganalisis semuanya dengan AI, dan memilih pakaian.
Apa yang tidak dipromosikan perusahaan adalah Anda juga mengirimkan gambar-gambar ini ke Meta untuk pelatihan model.
Juru bicara Meta mengarahkan TechCrunch ke arahnya kebijakan privasiyang dengan jelas menyatakan: “interaksi Anda dengan fitur AI dapat digunakan untuk melatih model AI.” Tampaknya ini termasuk gambar yang dibagikan dengan Meta AI melalui kacamata pintar Ray-Bans, tetapi Meta masih belum menjelaskannya.
Juru bicara juga menunjuk ke arah TechCrunch Persyaratan layanan Meta AIyang menyatakan bahwa dengan berbagi gambar dengan Meta AI, “Anda setuju bahwa Meta akan menganalisis gambar tersebut, termasuk fitur wajah, menggunakan AI.”
Meta saja membayar negara bagian Texas $1,4 miliar untuk menyelesaikan kasus pengadilan terkait penggunaan perangkat lunak pengenalan wajah oleh perusahaan. Kasus tersebut terkait dengan fitur Facebook yang diluncurkan pada tahun 2011 yang disebut “Saran Tag”. Pada tahun 2021, Facebook membuat fitur tersebut secara eksplisit ikut serta dan menghapus miliaran informasi biometrik orang yang telah dikumpulkannya. Khususnya, beberapa fitur gambar Meta AI tidak dirilis di Texas.
Di tempat lain dalam kebijakan privasi Metaperusahaan menyatakan bahwa mereka juga menyimpan semua transkripsi percakapan suara Anda dengan Ray-Ban Meta, secara default, untuk melatih model AI masa depan. Sedangkan untuk rekaman suara sebenarnya, ada cara untuk tidak ikut serta. Saat pertama kali masuk ke aplikasi Ray-Ban Meta, pengguna dapat memilih apakah rekaman suara dapat digunakan untuk melatih model AI Meta.
Jelas bahwa Meta, Snap, dan perusahaan teknologi lainnya mendorong kacamata pintar sebagai faktor bentuk komputasi baru. Semua perangkat ini dilengkapi kamera yang dipakai orang di wajah mereka, dan sebagian besar ditenagai oleh AI. Hal ini mengulangi banyak masalah privasi yang pertama kali kita dengar di era Google Glass. 404 Media melaporkan bahwa beberapa mahasiswa mengalaminya sudah meretas kacamata Ray-Ban Meta untuk mengungkapkan nama, alamat, dan nomor telepon siapa pun yang mereka lihat.
