Microsoft mengklaim alat keamanan AI-nya tidak hanya menemukan kesalahan tetapi juga memperbaikinya

Microsoft meluncurkan fitur baru yang disebut “koreksi” yang dibangun berdasarkan upaya perusahaan untuk mengatasi ketidakakuratan AI. Pelanggan yang menggunakan Microsoft Azure untuk mendukung sistem AI mereka kini dapat menggunakan kemampuan untuk secara otomatis mendeteksi dan menulis ulang konten yang salah dalam keluaran AI.

Fitur koreksi tersedia dalam pratinjau sebagai bagian dari Azure AI Studio — serangkaian alat keamanan yang dirancang untuk mendeteksi kerentanan, menemukan “halusinasi”, dan memblokir perintah berbahaya. Setelah diaktifkan, sistem koreksi akan memindai dan mengidentifikasi ketidakakuratan dalam keluaran AI dengan membandingkannya dengan materi sumber pelanggan.

Dari sana, ia akan menyorot kesalahan, memberikan informasi tentang mengapa kesalahan itu salah, dan menulis ulang konten yang dimaksud — semuanya “sebelum pengguna dapat melihat” ketidakakuratan tersebut. Meskipun ini tampaknya merupakan cara yang membantu untuk mengatasi omong kosong yang sering dianut oleh model AIitu mungkin bukan solusi yang sepenuhnya dapat diandalkan.

Vertex AI, platform cloud Google untuk perusahaan yang mengembangkan sistem AI, memiliki fitur yang “membumikan” model AI dengan memeriksa keluaran terhadap Google Search, data milik perusahaan, dan (segera) kumpulan data pihak ketiga.

Dalam sebuah pernyataan kepada Berita TechCrunchjuru bicara Microsoft mengatakan sistem “koreksi” menggunakan “model bahasa kecil dan model bahasa besar untuk menyelaraskan keluaran dengan dokumen dasar,” yang berarti sistem ini juga tidak kebal terhadap kesalahan. “Penting untuk dicatat bahwa deteksi dasar tidak memecahkan masalah ‘akurasi,’ tetapi membantu menyelaraskan keluaran AI generatif dengan dokumen dasar,” kata Microsoft Berita TechCrunch.