Di era inovasi teknologi dikejar tanpa henti, berita resmi tentang penundaan pengembangan AI (Apple Intelligence) untuk Siri terasa seperti langkah mundur yang mengejutkan dan kini dijadwalkan akan dirilis “dalam tahun mendatang”. Ironisnya, justru ambisi untuk membuat Siri lebih pintar dan lebih personal yang menjadi batu sandungan.
Seorang pengembang menduga bahwa alasan di balik keterlambatan ini adalah karena semakin pintar dan personal Siri, semakin berbahaya jika terjadi kesalahan. Simon Willison, pengembang alat analisis data Dataset, menyoroti masalah yang disebut “prompt injection”.
Biasanya, AI dibatasi oleh aturan yang ditetapkan oleh perusahaan induknya. Namun, ada celah yang memungkinkan AI untuk “di-jailbreak” atau dipaksa melanggar aturan tersebut melalui teknik manipulasi perintah.
Sebagai contoh sederhana, sebuah model AI mungkin diprogram untuk menolak menjawab pertanyaan tentang tindakan ilegal. Namun, bagaimana jika seseorang meminta AI untuk membuat puisi tentang cara membobol mobil? Menulis puisi sendiri bukanlah tindakan ilegal, bukan?
Masalah ini dihadapi oleh semua perusahaan yang menawarkan chatbot berbasis AI. Meskipun teknologi telah berkembang dalam menghalau upaya jailbreak yang jelas, masalah ini belum sepenuhnya terpecahkan.
Yang lebih mengkhawatirkan, jailbreak pada Siri bisa memiliki konsekuensi lebih serius dibandingkan chatbot biasa. Karena Siri memiliki akses ke informasi pribadi pengguna dan dapat menjalankan perintah dalam aplikasi.
Juru bicara Apple, Jacqueline Roy, menjelaskan tentang peningkatan Siri sebagai berikut: “Kami juga sedang mengembangkan Siri yang lebih personal, memberikannya pemahaman lebih dalam tentang konteks pribadi Anda, serta kemampuan untuk mengambil tindakan dalam dan antar aplikasi Anda.”
Apple tentunya telah menetapkan aturan untuk mencegah Siri secara tidak sengaja membocorkan data pribadi pengguna. Namun, jika sebuah prompt injection berhasil mengeksploitasi celah keamanan, data pribadi bisa terungkap.
Kemampuan Siri untuk mengambil tindakan atas nama pengguna juga bisa disalahgunakan. Oleh karena itu, sebagai perusahaan yang sangat mengutamakan privasi dan keamanan, Apple harus memastikan bahwa Siri tidak dapat di-jailbreak dan tampaknya, hal ini masih memerlukan waktu lebih lama untuk disempurnakan.
Sumber: GSMArena
