EraNusantara – Beijing kembali membuat langkah signifikan dalam ranah teknologi, kali ini dengan fokus pada kecerdasan buatan (AI). Otoritas siber China dilaporkan tengah merampungkan kerangka regulasi untuk mengawasi layanan AI yang berinteraksi langsung dengan publik. Inisiatif ini menandai upaya serius negara tersebut untuk memastikan penggunaan AI tetap etis dan aman, terutama bagi layanan yang dirancang untuk meniru kepribadian manusia dan membangun ikatan emosional dengan penggunanya.
Rancangan peraturan yang sedang digodok ini secara khusus menargetkan produk dan layanan AI yang tersedia untuk masyarakat umum di China. Cakupannya meliputi AI yang menampilkan simulasi sifat kepribadian, pola pikir, dan gaya komunikasi layaknya manusia, serta mampu berinteraksi secara emosional melalui berbagai media seperti teks, gambar, audio, atau video. China berambisi untuk menghadirkan layanan AI yang berorientasi konsumen dengan standar keselamatan dan etika yang lebih tinggi.
Menurut laporan yang diperoleh eranusantara.co, regulasi yang diusulkan ini akan mewajibkan para pengembang dan penyedia layanan AI untuk memberikan peringatan kepada pengguna mengenai potensi penggunaan berlebihan. Lebih jauh lagi, mereka harus siap melakukan intervensi jika terdeteksi adanya tanda-tanda kecanduan atau emosi ekstrem pada pengguna. Jika pengguna menunjukkan perilaku adiktif atau respons emosional yang tidak wajar, penyedia layanan diwajibkan untuk mengambil langkah-langkah yang diperlukan untuk mengatasi kondisi tersebut.
Proposal ini juga menekankan tanggung jawab penyedia layanan AI sepanjang siklus hidup produk mereka. Ini mencakup kewajiban untuk membangun sistem yang komprehensif untuk peninjauan algoritma, menjaga keamanan data, dan melindungi informasi pribadi pengguna.
Selain itu, kerangka aturan ini juga akan mengatur secara ketat pembuatan konten oleh AI. Konten yang dianggap membahayakan keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan dan pornografi akan dilarang keras. Langkah ini menunjukkan komitmen China untuk menjaga stabilitas sosial dan keamanan siber di tengah pesatnya perkembangan teknologi AI. Dengan regulasi ini, China berupaya menyeimbangkan inovasi dengan perlindungan konsumen dan kepentingan nasional, menciptakan preseden penting bagi negara-negara lain dalam menghadapi tantangan AI.
Editor: Rockdisc
