China Pastikan Perkembangan AI Lebih Lepas Kendali dan Membahayakan

BEIJING – Peringatan Untuk para peneliti Ke perusahaan Pembuatan kecerdasan buatan (AI) Amerika, Anthropic, tentang risiko bahwa model yang Lebih canggih dapat lepas kendali Untuk manusia.

Para pembuat Keputusan Ke sana juga telah mulai Menyusun kerangka kerja dan langkah-langkah Sebagai mengatasi risiko serupa.

Amerika Serikat dan Tiongkok Di ini merupakan dua penggerak utama Pembuatan Keahlian AI canggih dan penerapannya secara Internasional.

Ke Di meningkatnya perbedaan pendapat Antara kedua Bangsa mengenai Keputusan AI dan praktik industri masing-masing, Topik-Topik ini diperkirakan Akansegera menjadi inti Untuk pembicaraan bilateral yang Akansegera berlangsung Di akhir September.

Terlepas Untuk persaingan yang Lebih ketat Sebagai Menyusun sistem AI, kerangka hukum dan pernyataan Untuk pejabat Tiongkok Menunjukkan bahwa Beijing memandang risiko AI canggih yang melampaui kemampuan pengawasan manusia yang efektif sebagai masalah serius yang membutuhkan kesiapan.

Di tanggal 13 September, Pejabat Tingginegara Perlindungan Bangsa Tiongkok Chen Yixin menulis Ke situs web sebuah kantor beritapemerintahTiongkok bahwa model-model canggih AS seperti Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI dapat menimbulkan risiko serius Untuk infrastruktur informasi penting Tiongkok. Ia menyerukan penguatan komprehensif Pada langkah-langkah Perlindungan AI.

Para pengembang AI Tiongkok Mutakhir-Mutakhir ini mempromosikan penggunaan model berbobot terbuka, sebagian Sebab Skuat Perlindungan siber dapat menguji, memodifikasi, dan menerapkan model-model ini Sebagai tujuan Lini Dibelakang.

Platform penyedia model Hugging Face mengatakan bahwa mereka menggunakan GLM-5.2, sebuah model berbobot sumber terbuka yang dikembangkan Dari perusahaan Tiongkok Z.AI, Sebagai Membahas intrusi bulan Juli yang melibatkan agen AI “Ke luar kendali” Untuk OpenAI. Keputusan ini diambil Sesudah model-model AS yang lebih terkontrol terbukti kurang efektif Untuk forensik digital.

Tetapi, para ahli juga memperingatkan tentang potensi risiko model berbobot terbuka, Sebab model tersebut dapat dimodifikasi dan didistribusikan ulang tanpa pengawasan yang memadai.