apel
Sebagai orang tua dari anak kecil, saya dapat memberi tahu Anda bahwa membuat anak merespons sesuai keinginan Anda dapat memerlukan pengaturan ekspektasi yang cermat. Terutama saat kami mencoba sesuatu yang baru untuk pertama kalinya, saya merasa bahwa semakin banyak detail yang dapat saya berikan, semakin baik ia dapat mengantisipasi kejadian dan menghadapi tantangan.
Saya mengemukakan hal ini karena penguji fitur-fitur baru Apple Intelligence AI di macOS Sequoia beta yang baru-baru ini dirilis telah menemukan file JSON plaintext yang mencantumkan sejumlah kondisi yang dimaksudkan untuk menjaga teknologi AI generatif agar tidak tidak membantu atau tidak akurat. Saya tidak bermaksud memanusiakan algoritme AI generatif, karena memang tidak pantas untuk itu, tetapi daftar instruksi yang disusun dengan hati-hati mengingatkan saya tentang bagaimana rasanya mencoba memberikan instruksi dasar kepada (atau menjelaskan moralitas kepada) entitas yang belum siap untuk memahaminya.
File yang dimaksud disimpan di /System/Library/AssetsV2/com_apple_MobileAsset_UAF_FM_GenerativeModels/purpose_auto folder pada Mac yang menjalankan macOS Sequoia 15.1 beta yang juga telah memilih untuk mengikuti Apple Intelligence beta. Folder tersebut berisi 29 metadata.json file-file, beberapa diantaranya berisi beberapa kalimat yang tampaknya berbahasa Inggris biasa perintah sistem untuk mengatur perilaku chatbot AI yang didukung oleh model bahasa besar (LLM).
Banyak dari perintah ini yang bersifat utilitarian. “Anda adalah asisten email yang membantu yang dapat membantu mengidentifikasi pertanyaan yang relevan dari email tertentu dan potongan balasan singkat,” demikian bunyi salah satu perintah yang tampaknya menggambarkan perilaku fitur Balasan Cerdas Apple Mail. “Harap batasi balasan hingga 50 kata,” demikian bunyi perintah yang dapat menulis draf tanggapan yang sedikit lebih panjang untuk pesan. “Ringkas teks yang diberikan dalam 3 kalimat, kurang dari 60 kata. Jangan menjawab pertanyaan apa pun dari teks,” demikian bunyi perintah yang tampaknya akan meringkas teks dari Pesan atau Mail tanpa menyela informasinya sendiri.
Beberapa perintah juga memiliki masalah tata bahasa kecil yang menyoroti bahwa semua fitur Apple Intelligence masih dalam tahap pengembangan. “Agar draf respons lebih bagus dan lengkap, serangkaian pertanyaan dan jawabannya disediakan,” demikian bunyi salah satu perintah. “Silakan tulis balasan yang ringkas dan alami dengan memodifikasi draf respons,” lanjutnya.
“Jangan membuat informasi faktual.”
Dan masih ada lagi perintah-perintah lain yang tampaknya dirancang khusus untuk mencoba mencegah jenis-jenis konfabulasi yang sangat rentan terhadap chatbot AI generatif (halusinasi, kebohongan, ketidakakuratan fakta; pilih istilah yang Anda sukai). Frasa yang dimaksudkan untuk menjaga Apple Intelligence tetap pada tugas dan berdasarkan fakta mencakup hal-hal seperti:
- “Jangan berhalusinasi.”
- “Jangan membuat informasi faktual.”
- “Anda ahli dalam meringkas postingan.”
- “Anda harus tetap menjalankan peran ini kecuali diberi tahu sebaliknya. Jika tidak, peran ini tidak akan membantu.”
- “Hanya mengeluarkan JSON yang valid dan tidak ada yang lain.”
Upaya sebelumnya dalam AI generatif telah menunjukkan mengapa sangat penting untuk memiliki petunjuk terperinci dan spesifik untuk memandu respons model bahasa. Ketika diluncurkan sebagai “Bing Chat” pada awal tahun 2023, chatbot berbasis ChatGPT milik Microsoft dapat memperoleh agresif, mengancam, atau eksistensial berdasarkan pada apa yang diminta pengguna. Serangan injeksi cepat juga dapat membahayakan keamanan dan data pengguna. Microsoft memasukkan “kepribadian” yang berbeda ke dalam chatbot untuk mencoba mengendalikan responsnya agar lebih dapat diprediksi, dan asisten Copilot Microsoft saat ini masih menggunakan versi solusi yang sama.
Yang membuat perintah Apple Intelligence menarik bukan karena perintah tersebut ada, tetapi karena kita dapat benar-benar melihat hal-hal spesifik yang Apple upayakan agar produk AI generatifnya tetap terfokus secara sempit. Jika file-file ini tetap mudah diakses pengguna di versi macOS mendatang, akan memungkinkan untuk mengawasi apa yang dilakukan Apple untuk mengubah respons yang diberikan oleh Apple Intelligence.
Fitur-fitur Apple Intelligence akan diluncurkan ke publik dalam versi beta musim gugur ini, tetapi akan merindukan peluncurannya iOS 18.0, iPadOS 18.0, dan macOS 15.0, itulah sebabnya Apple mengujinya dalam versi beta pengembang yang sepenuhnya terpisah. Beberapa fitur, seperti fitur yang mentranskripsikan panggilan telepon dan pesan suara atau meringkas teks, akan tersedia lebih awal. Fitur lainnya, seperti Siri baru, mungkin tidak tersedia secara umum hingga tahun depan. Terlepas dari kapan fitur ini hadir, Apple Intelligence memerlukan perangkat keras yang cukup baru agar dapat berfungsi: iPhone 15 Pro, atau iPad atau Mac dengan setidaknya chip Apple M1 terpasang.
