China, raksasa teknologi dunia, dikabarkan tengah menyiapkan langkah revolusioner untuk mengendalikan laju kecerdasan buatan (AI) yang semakin menyerupai manusia. Sebuah rancangan regulasi baru dari otoritas siber Tiongkok kini menjadi sorotan, khususnya mengenai pengawasan layanan AI yang mampu mensimulasikan kepribadian dan menjalin interaksi emosional dengan penggunanya.
Regulasi ini, yang disinyalir akan segera diberlakukan, bagaikan sebuah kompas moral bagi para pengembang AI. Target utamanya adalah produk dan layanan AI yang ditawarkan kepada publik di China, yang dirancang untuk meniru sifat kepribadian, pola pikir, dan gaya komunikasi manusia. Lebih jauh lagi, aturan ini menyasar AI yang berinteraksi secara emosional dengan pengguna melalui berbagai medium, mulai dari teks, gambar, audio, hingga video. Tujuan utamanya jelas: menghadirkan layanan AI yang berorientasi konsumen dengan standar keselamatan dan etika yang diperkuat, demikian dilansir dari Reuters, Minggu (28/12/2025).
Salah satu poin krusial dalam rancangan regulasi ini adalah ‘rem darurat’ bagi pengguna yang mungkin terjebak dalam pusaran interaksi berlebihan dengan AI. Para penyedia layanan AI diwajibkan untuk memberi peringatan dini kepada pengguna terkait potensi penggunaan yang berlebihan. Bahkan, jika terdeteksi pengguna menunjukkan tanda-tanda kecanduan atau emosi ekstrem, penyedia harus mengambil tindakan intervensi yang diperlukan. Ini adalah upaya untuk memastikan teknologi tidak justru menjerat penggunanya dalam ketergantungan yang merugikan.
Lebih dari sekadar intervensi adiktif, proposal ini juga menuntut para penyedia layanan AI untuk memikul tanggung jawab penuh atas keselamatan produk sepanjang siklus hidupnya. Ibarat seorang nahkoda kapal, mereka harus memastikan setiap aspek perjalanan AI aman. Ini mencakup pembangunan sistem yang kokoh untuk peninjauan algoritma, menjaga keamanan data, dan tentu saja, perlindungan informasi pribadi pengguna adalah prioritas mutlak.
Tak hanya itu, perangkat aturan ini juga menjadi ‘pagar pembatas’ bagi konten yang dihasilkan oleh AI. Konten yang membahayakan keamanan nasional, menyebarkan rumor, atau mempromosikan kekerasan dan pornografi, secara tegas dilarang. Ini menunjukkan komitmen China untuk memastikan AI tidak menjadi corong bagi disinformasi atau konten berbahaya, melainkan tetap berada dalam koridor etika dan hukum.
