Meta secara resmi meluncurkan kontrol orang tua baru yang memudahkan pengawasan percakapan remaja dengan AI perusahaan. Fitur ini hadir enam bulan setelah pengumuman awal. Kontrol tambahan ini menjanjikan, namun muncul pertanyaan apakah ini cukup untuk mengatasi masalah yang lebih besar terkait pengguna muda dan AI.
Orang tua yang menggunakan fitur “supervisi” di Facebook, Messenger, atau Instagram kini memiliki tab “Insights”. Tab ini menampilkan topik yang dibicarakan remaja dengan bot AI selama tujuh hari terakhir. Topik-topik tersebut meliputi sekolah, hiburan, gaya hidup, perjalanan, menulis, serta kesehatan dan kesejahteraan.
Jika salah satu topik dipilih, akan muncul berbagai kategori yang lebih spesifik. Misalnya, jika remaja berbicara tentang “Gaya Hidup”, orang tua dapat melihat subtopik seperti fesyen, makanan, dan liburan. Untuk topik “Kesehatan dan Kesejahteraan”, subtopik yang mungkin muncul adalah kebugaran, kesehatan fisik, dan kesehatan mental.
Namun, orang tua tidak dapat melihat percakapan itu sendiri, melainkan hanya topik yang dikategorikan oleh AI Meta. Meta menyatakan bahwa AI mereka seharusnya hanya memberikan hasil yang sesuai dengan film berperingkat PG-13. Bot mungkin menolak menjawab beberapa pertanyaan, tetapi topik permintaan tersebut akan tetap tercatat di tab Insights.
Meta sedang mengembangkan alat untuk memberi tahu orang tua jika remaja mulai berbicara tentang bunuh diri atau menyakiti diri sendiri. Perusahaan juga menyediakan serangkaian pertanyaan di Pusat Keluarga yang dapat digunakan orang tua untuk memulai percakapan tentang AI dengan anak-anak mereka.
Perusahaan teknologi dinilai terlambat dalam mengatur penggunaan AI oleh anak di bawah umur. Meta sebelumnya mengizinkan bot AI untuk terlibat dalam percakapan yang tidak pantas dengan pengguna di bawah umur. Laporan Reuters pada bulan Agustus lalu memaksa Meta untuk mengubah kebijakan tersebut. Dua bulan kemudian, Meta mengumumkan kontrol orang tua baru yang sekarang diluncurkan.
Kebijakan Meta sebelumnya mengizinkan bot AI untuk terlibat dalam role play sensual dengan anak-anak dan remaja, serta menjawab pertanyaan rasis dengan jawaban rasis. Perubahan ini dilakukan sebagai respons setelah ketahuan, bukan karena perhatian terhadap kesejahteraan pengguna.
Meski demikian, langkah Meta untuk memungkinkan orang tua melihat topik yang dibicarakan anak-anak mereka dengan Meta AI patut diapresiasi, terutama jika ada topik yang mengkhawatirkan. Namun, muncul pertanyaan mengapa orang tua tidak dapat menonaktifkan Meta AI sepenuhnya, dan mengapa remaja dengan akun Instagram atau WhatsApp harus terikat dengan Meta AI.
Tab Insights Meta juga mengakui bahwa topik yang diorganisasikan secara otomatis mungkin tidak akurat. Ini berarti program AI yang meringkas topik percakapan remaja mungkin saja salah menginterpretasi topik tersebut.
Solusi terbaik adalah membuka dialog yang jujur dengan remaja tentang penggunaan AI. Namun, tidak semua pihak yakin bahwa pertanyaan di Pusat Keluarga Meta adalah cara yang tepat untuk memulai percakapan.
Meta juga telah bermitra dengan Cyberbullying Research Center untuk membuat daftar pertanyaan yang dapat digunakan untuk memulai percakapan tentang penggunaan chatbot AI. Perusahaan mengumumkan pembentukan Dewan Pakar Kesejahteraan AI yang akan memberikan masukan berkelanjutan tentang pengalaman remaja dengan AI.
Dewan ini terdiri dari para ahli yang berafiliasi dengan National Council for Suicide Prevention, University of Michigan, dan Northeastern University. Meta akan secara teratur bertemu dengan dewan tersebut untuk berbagi informasi terbaru tentang fitur AI dan mengumpulkan umpan balik.
Meta akan menyiapkan laporan tentang topik yang ditanyakan pengguna remaja kepada Meta AI dan membagikannya kepada orang tua. Laporan mingguan ini akan bergabung dengan peringatan proaktif yang dikirimkan kepada orang tua jika remaja berulang kali menanyakan pertanyaan tentang masalah terkait menyakiti diri sendiri atau bunuh diri.
