China Pastikan Perkembangan AI Lebihterus Lepas Kendali dan Membahayakan

BEIJING – Peringatan Di para peneliti Ke perusahaan Pembuatan kecerdasan buatan (AI) Amerika, Anthropic, tentang risiko bahwa model yang Lebihterus canggih dapat lepas kendali Di manusia.

Para pembuat Keputusan Ke sana juga telah mulai Membuat kerangka kerja dan langkah-langkah Untuk mengatasi risiko serupa.

Amerika Serikat dan Tiongkok Pada ini merupakan dua penggerak utama Pembuatan Keahlian AI canggih dan penerapannya secara Internasional.

Ke Di meningkatnya perbedaan pendapat Antara kedua Bangsa mengenai Keputusan AI dan praktik industri masing-masing, Permasalahan-Permasalahan ini diperkirakan Akansegera menjadi inti Di pembicaraan bilateral yang Akansegera berlangsung Di akhir September.

Terlepas Di persaingan yang Lebihterus ketat Untuk Membuat sistem AI, kerangka hukum dan pernyataan Di pejabat Tiongkok Menunjukkan bahwa Beijing memandang risiko AI canggih yang melampaui kemampuan pengawasan manusia yang efektif sebagai masalah serius yang membutuhkan kesiapan.

Di tanggal 13 September, Pembantu Presiden Tim Menteri Keselamatan Bangsa Tiongkok Chen Yixin menulis Ke situs web sebuah kantor beritapemerintahTiongkok bahwa model-model canggih AS seperti Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI dapat menimbulkan risiko serius Untuk infrastruktur informasi penting Tiongkok. Ia menyerukan penguatan komprehensif Di langkah-langkah Keselamatan AI.

Para pengembang AI Tiongkok Mutakhir-Mutakhir ini mempromosikan penggunaan model berbobot terbuka, sebagian Sebab Regu Keselamatan siber dapat menguji, memodifikasi, dan menerapkan model-model ini Untuk tujuan Lini Pertahanan.

Platform penyedia model Hugging Face mengatakan bahwa mereka menggunakan GLM-5.2, sebuah model berbobot sumber terbuka yang dikembangkan Bersama perusahaan Tiongkok Z.AI, Untuk Membahas intrusi bulan Juli yang melibatkan agen AI “Ke luar kendali” Di OpenAI. Keputusan ini diambil Sesudah model-model AS yang lebih terkontrol terbukti kurang efektif Di forensik digital.

Tetapi, para ahli juga memperingatkan tentang potensi risiko model berbobot terbuka, Sebab model tersebut dapat dimodifikasi dan didistribusikan ulang tanpa pengawasan yang memadai.