Google merilis model AI 'terbuka' baru dengan fokus pada keselamatan

Google memiliki dilepaskan tiga model AI generatif “terbuka” baru yang disebutnya “lebih aman,” “lebih kecil,” dan “lebih transparan” daripada kebanyakan — sebuah klaim yang berani, tentu saja.

Mereka adalah tambahan untuk Google Permata 2 keluarga model generatif, yang memulai debutnya pada bulan Mei. Model-model baru, Gemma 2 2B, ShieldGemma dan Gemma Scope, dirancang untuk aplikasi dan kasus penggunaan yang sedikit berbeda, tetapi memiliki kesamaan dalam hal keamanan.

Rangkaian model Gemma Google berbeda dari model Gemini karena Google tidak menyediakan kode sumber untuk Gemini, yang digunakan oleh produk Google sendiri dan juga tersedia untuk pengembang. Sebaliknya, Gemma merupakan upaya Google untuk menumbuhkan niat baik dalam komunitas pengembang, seperti halnya Meta sedang mencoba melakukan dengan Llama.

Gemma 2 2B adalah model ringan untuk menghasilkan analisis teks yang dapat berjalan pada berbagai perangkat keras, termasuk laptop dan perangkat edge. Model ini dilisensikan untuk penelitian dan aplikasi komersial tertentu dan dapat diunduh dari sumber seperti pustaka model AI Vertex milik Google, platform ilmu data Kaggle, dan perangkat AI Studio milik Google.

Adapun ShieldGemma, merupakan kumpulan “pengklasifikasi keamanan” yang berupaya mendeteksi toksisitas seperti ujaran kebencian, pelecehan, dan konten seksual eksplisit. Dibangun di atas Gemma 2, ShieldGemma dapat digunakan untuk memfilter permintaan ke model generatif serta konten yang dihasilkan oleh model tersebut.

Terakhir, Gemma Scope memungkinkan pengembang untuk “memperbesar” poin-poin tertentu dalam model Gemma 2 dan membuat cara kerja internalnya lebih mudah ditafsirkan. Berikut ini cara Google mendeskripsikannya dalam sebuah posting blog: “(Gemma Scope terdiri dari) jaringan saraf khusus yang membantu kami mengurai informasi padat dan kompleks yang diproses oleh Gemma 2, mengembangkannya ke dalam bentuk yang lebih mudah dianalisis dan dipahami. Dengan mempelajari tampilan yang diperluas ini, peneliti dapat memperoleh wawasan berharga tentang bagaimana Gemma 2 mengidentifikasi pola, memproses informasi, dan akhirnya membuat prediksi.”

Peluncuran model Gemma 2 yang baru ini dilakukan tak lama setelah Departemen Perdagangan AS mendukung model AI terbuka dalam laporan pendahuluannya. Model terbuka memperluas ketersediaan AI generatif bagi perusahaan yang lebih kecil, peneliti, lembaga nirlaba, dan pengembang perorangan, kata laporan tersebut, sekaligus juga menyoroti perlunya kemampuan untuk memantau model tersebut guna mengetahui potensi risikonya.

Sumber