Ray-Bans yang didukung AI dari Meta memiliki kamera tersembunyi di bagian depan, untuk mengambil foto tidak hanya saat Anda memintanya, tetapi juga saat fitur AI mereka memicunya dengan kata kunci tertentu seperti “lihat.” Artinya, kacamata pintar ini mengumpulkan banyak sekali foto, baik yang sengaja diambil maupun tidak. Namun perusahaan tidak akan berkomitmen untuk merahasiakan gambar-gambar ini.
Kami bertanya kepada Meta apakah mereka berencana untuk melatih model AI pada gambar dari pengguna Ray-Ban Meta, seperti yang dilakukan pada gambar dari akun media sosial publik. Perusahaan tidak akan mengatakannya.
“Kami tidak membahas hal ini secara terbuka,” kata Anuj Kumar, direktur senior yang mengerjakan perangkat AI yang dapat dikenakan di Meta, dalam wawancara video dengan TechCrunch pada hari Senin.
“Itu bukan sesuatu yang biasanya kami bagikan secara eksternal,” kata juru bicara Meta, Mimi Huggins, yang juga ikut serta dalam panggilan video tersebut. Ketika TechCrunch meminta klarifikasi apakah Meta sedang melatih gambar-gambar ini, Huggins menjawab, “kami tidak mengatakan keduanya.”
Salah satu alasan mengapa hal ini sangat mengkhawatirkan adalah karena fitur AI baru Ray-Ban Meta, yang akan mengambil banyak foto pasif ini. Minggu lalu, TechCrunch melaporkan bahwa Meta berencana meluncurkan a fitur video real-time baru untuk Ray-Ban Meta. Saat diaktifkan dengan kata kunci tertentu, kacamata pintar akan mengalirkan serangkaian gambar (pada dasarnya, video langsung) ke dalam model AI multimodal, memungkinkannya menjawab pertanyaan tentang lingkungan sekitar Anda dengan cara yang alami dan berlatensi rendah.
Itu banyak sekali gambarnya, dan itu adalah foto yang mungkin tidak disadari oleh pengguna Ray-Ban Meta. Katakanlah Anda meminta kacamata pintar untuk memindai isi lemari Anda untuk membantu Anda memilih pakaian. Kacamata ini secara efektif mengambil lusinan foto ruangan Anda dan segala isinya, dan mengunggah semuanya ke model AI di cloud.
Apa yang terjadi dengan foto-foto itu setelah itu? Meta tidak akan mengatakannya.
Mengenakan kacamata Ray-Ban Meta juga berarti Anda memakai kamera di wajah Anda. Seperti yang kami ketahui dengan Google Glass, hal itu bukanlah sesuatu yang membuat orang lain merasa nyaman, bisa dibilang enteng. Jadi, Anda mungkin berpikir bahwa perusahaan yang melakukan hal tersebut tidak perlu khawatir dan berkata, “Hei! Semua foto dan video Anda dari kamera wajah Anda akan sepenuhnya bersifat pribadi, dan disimpan di kamera wajah Anda.”
Namun bukan itu yang dilakukan Meta di sini.
Meta telah menyatakan bahwa mereka sedang melatih model AI-nya postingan Instagram dan Facebook publik setiap orang Amerika. Perusahaan telah memutuskan bahwa semua itu adalah “data yang tersedia untuk umum”, dan kami mungkin harus menerimanya. Perusahaan ini dan perusahaan teknologi lainnya telah mengadopsi definisi yang sangat luas mengenai apa saja yang tersedia untuk umum bagi mereka untuk melatih AI, dan apa yang tidak.
Namun, tentunya dunia yang Anda lihat melalui kacamata pintarnya tidak “tersedia untuk umum”. Meskipun kami tidak dapat mengatakan dengan pasti bahwa Meta sedang melatih model AI pada rekaman kamera Ray-Ban Meta Anda, perusahaan tidak akan mengatakan dengan pasti bahwa itu tidak benar.
Penyedia model AI lainnya memiliki aturan yang lebih jelas tentang pelatihan data pengguna. Antropis mengatakannya tidak pernah berlatih masukan atau keluaran pelanggan dari salah satu model AI mereka. OpenAI juga mengatakannya tidak pernah berlatih input atau output pengguna melalui API-nya.
Kami telah menghubungi Meta untuk klarifikasi lebih lanjut di sini, dan akan memperbarui ceritanya jika mereka menghubungi kami kembali.
