Saluran Whatsapp Gratis Pemerintah China berencana menerbitkan regulasi baru guna memperketat pengawasan terhadap layanan kecerdasan buatan (artificial intelligence/AI) yang meniru kepribadian manusia dan mampu berinteraksi secara emosional dengan pengguna. Aturan tersebut saat ini masih berstatus draf dan dibuka untuk menerima masukan publik.
Menurut laporan Reuters, regulasi ini menyasar produk dan layanan AI yang menampilkan simulasi sifat kepribadian, pola pikir, serta gaya komunikasi layaknya manusia melalui berbagai media, mulai dari teks, gambar, audio, hingga video. Seluruh layanan AI yang ditujukan untuk publik di China masuk dalam cakupan aturan tersebut.
Pemerintah China menilai pengembangan AI konsumen harus berjalan sejalan dengan standar keselamatan dan etika. Otoritas khawatir kemampuan AI yang menyerupai perilaku manusia dapat menimbulkan risiko psikologis dan sosial apabila tidak diawasi secara ketat.
Dalam draf regulasi itu, penyedia layanan diwajibkan memberikan peringatan kepada pengguna agar tidak menggunakan layanan AI secara berlebihan. Selain itu, perusahaan juga diminta melakukan intervensi ketika sistem mendeteksi tanda-tanda kecanduan.
Jika sistem AI menemukan indikasi emosi ekstrem atau perilaku adiktif pada pengguna, penyedia layanan diwajibkan mengambil langkah penanganan yang dianggap perlu untuk mengurangi potensi dampak negatif.
Aturan tersebut juga menempatkan tanggung jawab keselamatan secara penuh pada penyedia layanan sepanjang siklus hidup produk. Perusahaan diwajibkan membangun mekanisme peninjauan algoritma, memastikan keamanan data, serta melindungi informasi pribadi pengguna.
Di sisi lain, regulasi ini menetapkan batasan tegas terkait konten dan perilaku AI. Layanan AI dilarang menghasilkan konten yang mengancam keamanan nasional, menyebarkan rumor, maupun mempromosikan kekerasan dan pornografi.
Rencana aturan ini menjadi bagian dari langkah China untuk memperketat tata kelola teknologi kecerdasan buatan, seiring pesatnya perkembangan layanan AI generatif dan meningkatnya kekhawatiran terhadap dampak sosialnya. (***)
