Guna meningkatkan standar keamanan digital bagi pengguna di bawah umur, perusahaan teknologi Meta secara resmi mengumumkan pembaruan kebijakan perlindungan pada ekosistem Meta AI.
Melalui pengumuman terbarunya, asisten pintar berbasis kecerdasan buatan di Instagram ini kini dirancang untuk secara proaktif mendeteksi dan mengirimkan peringatan kepada orang tua apabila anak remaja mereka membahas topik berisiko tinggi, seperti depresi, tindakan menyakiti diri sendiri, hingga gagasan bunuh diri.
Langkah strategis ini diambil sebagai upaya menyeimbangkan privasi komunikasi remaja dengan urgensi intervensi krisis kesehatan mental.
Selain memberikan notifikasi, sistem juga akan memandu remaja menuju layanan bantuan profesional, sembari membekali orang tua dengan materi panduan yang disusun oleh para pakar psikologi agar dapat membuka percakapan yang aman dengan anak mereka.
Bagaimana Cara Kerja Sistem Notifikasi dan Peninjauan Meta AI?
Ketika seorang remaja terdeteksi menuliskan prompt atau obrolan yang mengarah pada niat melukai diri sendiri, Meta AI secara otomatis akan merespons dengan memvalidasi perasaan pengguna dan mengarahkan mereka ke layanan bantuan darurat. AI akan mendorong remaja tersebut untuk segera berbicara dengan orang tua atau orang dewasa yang tepercaya.
Untuk memastikan akurasi dan menghindari kepanikan yang tidak perlu, Meta menerapkan sistem deteksi berlapis:
-
Deteksi Algoritmik: Sistem AI khusus memantau percakapan untuk mencari indikasi kuat maupun tersirat terkait krisis emosional.
-
Peninjauan Manual: Semua obrolan yang ditandai oleh AI tidak langsung dikirim ke orang tua. Tim peninjau akan mengevaluasi konteks percakapan secara manual terlebih dahulu.
-
Tindakan Preventif: Jika niat atau konteks remaja masih samar, Meta mengambil pendekatan better safe than sorry dengan tetap mengirimkan peringatan kepada orang tua yang mengaktifkan fitur pengawasan.
CEO dan Co-Founder ConnectSafely, Larry Magid, memberikan dukungan penuh terhadap inisiatif ini. “Menurut saya, Meta telah berhasil menemukan keseimbangan yang tepat—melindungi privasi remaja sekaligus memastikan orang tua memiliki informasi yang mereka butuhkan untuk dapat memberikan dukungan kepada anak mereka,” ungkapnya.
Kolaborasi Medis dan Rencana Integrasi Layanan Darurat
Pengembangan fitur ini tidak dilakukan secara sepihak. Meta melibatkan lebih dari 75 tenaga medis dan pakar kesehatan mental remaja—termasuk AI Wellbeing Expert Council dan Suicide and Self-Harm Advisory Group. Masukan dari puluhan ahli ini digunakan untuk melatih Meta AI agar tidak mengakhiri percakapan krisis secara tiba-tiba, melainkan merespons dengan empati.
Lebih jauh, Meta tengah mengembangkan infrastruktur pelaporan langsung ke pihak berwajib. Sistem ini nantinya dapat secara otomatis menghubungi layanan darurat jika terdeteksi risiko tinggi yang mendesak pada pengguna, melengkapi sistem rujukan yang tahun lalu telah berhasil menyelamatkan lebih dari 19.000 jiwa di seluruh dunia.
“Penyempurnaan berbasis skenario yang dipandu oleh para ahli seperti ini sangat penting untuk menghadirkan pengalaman berinteraksi dengan AI yang lebih aman bagi remaja,” jelas Dr. Ji-yeon Lee, Psikolog Berlisensi sekaligus Profesor Psikologi Konseling di Hankuk University of Foreign Studies.
Tabel Ketersediaan Fitur dan Pembatasan Konten
Untuk memberikan gambaran yang lebih jelas mengenai implementasi fitur keamanan ini, berikut adalah rincian ketersediaan dan level pengaturan konten untuk akun remaja di ekosistem Meta:
Pemutakhiran sistem perlindungan di Meta AI ini diharapkan mampu menciptakan ruang digital yang lebih sehat, sekaligus memberikan ketenangan pikiran bagi para orang tua di era kecerdasan buatan.
Disclosure: Artikel ini disusun dengan bantuan AI dan dalam pengawasan editor.
