Meta AI Pantau Obrolan Sensitif Remaja, Orang Tua Akan Diberi Peringatan
Social Media
Communication
Bookmarking
Developer
Entertainment
Academic
Finance
Lifestyle
ph@geosiar.co.id
JAKARTA, GEOSIAR.CO.ID –Meta memperluas fitur perlindungan bagi pengguna remaja dengan menghadirkan sistem yang mampu mendeteksi percakapan sensitif di chatbot Meta AI.
Jika terindikasi mengarah pada risiko bunuh diri atau tindakan melukai diri sendiri, orang tua akan menerima peringatan melalui fitur pengawasan orang tua di Instagram.
Meta menjelaskan, sistem kecerdasan buatan akan menganalisis berbagai sinyal dalam percakapan untuk mengidentifikasi kemungkinan seorang remaja berada dalam kondisi berisiko.
Indikasi tersebut bisa berupa pernyataan yang secara langsung maupun tersirat mengarah pada tindakan menyakiti diri sendiri.
Sebelum notifikasi dikirim, setiap percakapan yang ditandai akan ditinjau secara manual untuk meminimalkan kesalahan deteksi. Jika ditemukan indikasi yang masih meragukan, Meta memilih tetap mengirimkan peringatan sebagai langkah antisipasi.
Selain notifikasi, Meta juga akan menyediakan berbagai sumber informasi dari pakar kesehatan mental guna membantu orang tua mendampingi anak saat menghadapi kondisi sensitif.
Saat ini fitur tersebut telah tersedia bagi pengguna pengawasan orang tua di Instagram di Amerika Serikat, Inggris, Australia, dan Kanada. Meta menargetkan layanan itu dapat digunakan secara global pada akhir 2026.
Tak hanya itu, Meta juga tengah mengembangkan sistem yang dapat menghubungi layanan darurat apabila percakapan dengan Meta AI menunjukkan adanya risiko bunuh diri yang bersifat mendesak. Fitur tersebut nantinya akan berlaku bagi pengguna remaja maupun dewasa.
Sebagai bagian dari penguatan perlindungan, Meta menggandeng lebih dari 75 pakar kesehatan mental untuk menyempurnakan respons chatbot terhadap percakapan sensitif. Masukan para ahli digunakan agar Meta AI mampu memberikan tanggapan yang lebih empatik sekaligus mengarahkan pengguna ke sumber bantuan yang tepat.
Meta juga memperketat pengaturan konten pada akun remaja. Secara otomatis, Meta AI akan menolak permintaan yang berkaitan dengan percakapan seksual, romantis, maupun informasi sensitif lainnya, termasuk permintaan resep minuman beralkohol, sehingga interaksi tetap sesuai dengan usia pengguna.
About the Author
