Regulator teknologi di Cina mengajukan rancangan regulasi yang akan membatasi kemampuan layanan kecerdasan buatan (AI) seperti bot obrolan untuk berinteraksi secara emosional dengan penggunanya, termasuk pencegahan konten yang bisa mendorong perilaku berbahaya seperti bunuh diri atau perjudian.
Rancangan aturan yang dirilis oleh badan pengawas dunia maya di Cina, Cyberspace Administration of China (CAC), ditujukan untuk mengawasi layanan AI yang mensimulasikan kepribadian manusia dan berkomunikasi secara emosional melalui teks, gambar, suara, atau video. Peraturan ini berlaku untuk produk dan layanan yang tersedia bagi masyarakat di Cina.
Salah satu fokus utama aturan ini adalah mengurangi risiko ketergantungan emosional terhadap AI. Penyedia layanan diwajibkan memperingatkan pengguna tentang penggunaan berlebihan dan melakukan intervensi apabila terdeteksi tanda kecanduan atau emosi ekstrem. Harus ada pula peninjauan algoritma serta perlindungan data pribadi pengguna.
Selain itu, rancangan regulasi menetapkan batasan konten dan etika yang ketat, yakni larangan bagi sistem AI untuk menghasilkan materi yang mempromosikan kekerasan, pornografi, rumor, atau konten yang membahayakan keamanan nasional. Penyedia layanan diwajibkan memberi tahu pengguna secara berkala bahwa mereka sedang berinteraksi dengan AI guna mencegah pembentukan hubungan emosional yang tidak sehat.
Regulasi ini muncul di tengah kekhawatiran global mengenai dampak psikologis dari interaksi manusia dengan AI yang semakin canggih, yang bisa membuat pengguna merasa memiliki hubungan emosional dengan mesin. CAC membuka rancangan regulasi ini untuk publik hingga Januari 2026, memberikan kesempatan bagi berbagai pihak untuk memberikan masukan sebelum aturan final ditetapkan.
Pemerintah Cina menilai langkah ini perlu dilakukan guna menyeimbangkan kemajuan inovasi teknologi dengan keselamatan dan etika penggunanya, seiring dengan meningkatnya popularitas layanan AI yang berperilaku seperti manusia di lingkungan masyarakat.
