Character.AI mengumumkan bahwa pengguna di bawah usia 18 tahun tidak akan lagi dapat melakukan obrolan terbuka dengan bot obrolannya, sebagai bagian dari kebijakan perlindungan anak terbaru mereka.
Sebagai langkah awal, Character.AI menyebut bahwa mereka akan memberi batas waktu yang dapat dihabiskan pengguna remaja untuk berinteraksi dengan bot obrolannya. Per harinya, mulai saat ini pengguna remaja hanya boleh mengobrol ke sebuah Karakter selama dua jam, yang akan dikurangi secara bertahap dalam beberapa minggu ke depan.
Character.AI mengatakan bahwa bot obrolannya yang memungkinkan percakapan terbuka selama ini menghadapi tekanan hukum dan regulasi, setelah muncul klaim bahwa interaksi dengan bot Karakter menimbulkan risiko pada kesehatan mental remaja.
Seperti diketahui, Character.AI merupakan layanan bot obrolan berbasis AI yang memungkinkan penggunanya untuk berinteraksi dengan suatu Karakter yang dapat disesuaikan. Karakter tersebut adalah representasi digital dari tokoh-tokoh dunia, mulai dari pahlawan dalam permainan hingga selebriti populer.
Sebagai pengganti, pengguna di bawah usia 18 tahun akan diarahkan pada versi aman untuk remaja, yang memungkinkan akses ke fitur seperti pembuatan karakter, video, dan aliran video, namun tidak ke fitur obrolan bebas.
Untuk menegakkan kebijakan ini, Character.AI akan menerapkan model verifikasi usia baru, dan bekerja sama dengan pihak ketiga seperti Persona, sehingga pengguna dewasa dapat dibuktikan.
Character.AI telah menghadirkan hal yang baik, yang seiring dengan tren industri yang semakin menyoroti dampak bot obrolan berbasis AI terhadap remaja, termasuk legislasi di berbagai negara yang mengatur akses pengguna muda ke AI bertipe ini.
Dengan pembatasan penggunaan oleh pengguna berusia di bawah 18 tahun dan fokus pada kemampuan kreatif alternatif, Character.AI ingin menyeimbangkan inovasi dan tanggung jawab sosial. Namun, efektivitas kebijakan ini akan sangat bergantung pada kemampuan Character.AI dalam mengimplementasikan verifikasi usia, serta memastikan fitur pengganti cukup menarik bagi pengguna muda di platformnya.
