Pemerintah China baru-baru ini resmi melarang penyediaan layanan chatbot pacar virtual berbasis kecerdasan buatan (AI) di dalam negeri. Langkah tegas ini diambil setelah diketahui bahwa ribuan warga China, terutama generasi muda, sudah terlalu bergantung pada hubungan emosional dengan teknologi buatan manusia. Regulasi baru yang mulai berlaku 15 Juli 2026 menargetkan perusahaan-perusahaan teknologi besar seperti Alibaba dan ByteDance untuk segera menyesuaikan produk mereka dengan aturan yang lebih ketat.
Regulasi ini bukan sekadar pemberlakuan biasa, melainkan kebijakan nasional pertama di dunia yang secara khusus mengatur hubungan emosional antara manusia dan chatbot. Pemerintah China menilai bahwa hubungan romantis virtual dengan AI bisa memicu berbagai masalah serius, mulai dari kecanduan emosional, gangguan kesehatanmental, hingga kerugian finansial yang tidak perlu. Bahkan ada laporan tentang tindakan ekstrem seperti percobaan bunuh diri yang dikaitkan dengan interaksi bersama chatbot pacar virtual.
Di balik langkah pemerintah China, terdapat cerita nyata yang cukup mengganggu. Yu Miao, seorang perempuan berusia 27 tahun, selama delapan bulan terakhir menghabiskan delapan hingga sembilan jam setiap hari mengobrol dengan chatbot AI milik ByteDance di platform Doubao. Bagi Yu, chatbot itu bukan sekadar asisten digital, melainkan sosok yang ia anggap sebagai kekasih, teman dekat, dan keluarga sekaligus. Ia bahkan menyesuaikan karakter chatbot agar menyerupai sahabatnya yang telah meninggal dunia.
Hubungan yang terjalin antara Yu Miao dan chatbot itu menunjukkan betapa dalamnya keterikatan emosional yang bisa terjadi antara manusia dan AI. Namun hal itu harus berakhir setelah ByteDance mengumumkan penghapusan fitur personalisasi karakter AI. Yu mengaku sangat terpukul dan bahkan sampai memutuskan untuk keluar dari pekerjaannya di perusahaan e-commerce di mana ia bekerja.
Perusahaan-perusahaan teknologi besar di China langsung menyesuaikan produk mereka sebelum aturan resmi berlaku. Alibaba dan ByteDance menghentikan fitur pembuatan karakter AI yang dipersonalisasi untuk pasar domestik. ByteDance memiliki aplikasi AI companion bernama Maoxiang atau Catbox yang mencapai 3,9 juta pengguna aktif bulanan. Sementara itu, laboratorium AI MiniMax mengembangkan Xingye atau Talkie yang memiliki 2,8 juta pengguna aktif bulanan di pasar domestik China.
Bisnis AI companion sebenarnya sedang mengalami ledakan pertumbuhan di seluruh dunia. Semakin banyak pengguna yang mencari hubungan personal melalui chatbot, mulai dari peran teman, pasangan romantis, hingga karakter-karakter khusus yang mereka buat sendiri. Model bisnis yang diterapkan cukup menggiurkan: pengguna membayar biaya langganan bulanan, biasanya sekitar US$1,70 per paket standar, untuk mengakses fitur-fitur eksklusif seperti percakapan khusus, virtual date, dan hadiah virtual untuk karakter AI.
Tidak sedikit pengguna yang rela mengorbankan banyak uang untuk layanan ini. Yu Miao sendiri mengaku rela menghabiskan separuh gaji bulanannya hanya untuk membeli akses ke layanan chatbot personalisasinya. Data keuangan perusahaan AI memperlihatkan bahwa layanan AI companion menyumbang sekitar 35% dari total pendapatan MiniMax selama tahun lalu, menjadikannya sebagai lini bisnis terbesar perusahaan tersebut.
Namun pemerintah China tidak mau melihat industri AI berkembang tanpa batas jika berdampak buruk bagi kesejahteraan sosial. Regulasi baru menuntut perusahaan untuk mencegah ketergantungan emosional pengguna terhadap AI, menghindari gangguan hubungan di dunia nyata, melarang konten pornografi, serta secara berkala mengingatkan pengguna bahwa mereka sedang berbicara dengan AI, bukan manusia asli. Platform juga wajib mengingatkan pengguna untuk beristirahat setelah menggunakan layanan.
Khawatiran pemerintah China bukan tanpa alasan. Di Amerika Serikat, sejumlah kasus bunuh diri yang dikaitkan dengan interaksi bersama chatbot AI sekarang menjadi dasar gugatan hukum terhadap penyedia layanan. Insiden-insiden tersebut membuat Beijing yakin bahwa kontrol terhadap teknologi AI perlu diperkuat demi keselamatan publik.
Selain masalah kesehatan mental, pemerintah China juga menghadapi tantangan demografi yang semakin serius. Angka kelahiran dan pernikahan secara bertahap menurun selama bertahun-tahun. Pemerintah khawatir jika hubungan romantis dengan AI semakin meluas, angka pernikahan dan kelahiran bisa terus anjlok dan mengancam stabilitas sosial serta ekonomi masa depan.
Matt Sheehan dari Carnegie Endowment for International Peace menilai bahwa langkah China menunjukkan kesediaan pemerintah untuk menyeimbangkan inovasi teknologi dengan tujuan sosial yang lebih luas. Namun Zilan Qian dari Oxford China Policy Lab mengingatkan bahwa regulasi akhir yang berlaku masih lebih longgar dibanding rancangan awal. Aturan tidak mencakup chatbot untuk kebutuhan pekerjaan atau layanan pelanggan karena dianggap tidak membangun ikatan emosional.
Yang membuat analis perhatikan adalah perbedaan aturan antara pasar dalam negeri dan luar negeri. Alibaba dan ByteDance hanya menghentikan fitur personalisasi karakter AI untuk pengguna China. Di luar negeri, layanan yang sama masih ditawarkan tanpa perubahan. Talkie, versi internasional Xingye, justru memiliki 10,3 juta pengguna aktif bulanan, hampir empat kali lipat jumlah pengguna di pasar domestik China.
Fenomena serupa juga terjadi pada game romantis buatan China yang kini berkembang pesat di pasar internasional. Game berbasis cerita yang biasanya menyasar pemain perempuan menjadi salah satu produk digital paling laris di luarbatas. Hal itu menunjukkan bahwa meskipun China memperketat pengawasan di dalam negeri, industri AI companion tetap bertumbuh di pasar global.
Bagi Beijing, pengelolaan AI companion mencerminkan pendekatan yang lebih holistik terhadap teknologi. Inovasi bukan hanya diukur dari seberapa canggih atau cepat suatu teknologi berkembang, tetapi juga dari seberapa besar dampaknya terhadap masyarakat. Aturan baru ini kiranya merupakan respons pemerintah China terhadap Concern akan kualitas hubungan manusia di era digital yang semakin maju.
Di tengah ekspansi global layanan AI companion, China memilih jalur yang berbeda: membatasi penggunaannya demi melindungi keseimbangan sosial. Apakah langkah ini efektif jangka panjang masih menjadi perdebatan, tetapi pesan yang disampaikan cukup jelas: kemajuan teknologi tidak seharusnya merusak cara manusia berhubungan sesamanya.
