China Pastikan Perkembangan AI Lebih Lepas Kendali dan Membahayakan

BEIJING – Peringatan Di para peneliti Ke perusahaan Pembuatan kecerdasan buatan (AI) Amerika, Anthropic, tentang risiko bahwa model yang Lebih canggih dapat lepas kendali Di manusia.

Para pembuat Keputusan Ke sana juga telah mulai Menyusun kerangka kerja dan langkah-langkah Untuk mengatasi risiko serupa.

Amerika Serikat dan Tiongkok Di ini merupakan dua penggerak utama Pembuatan Keahlian AI canggih dan penerapannya secara Dunia.

Ke Ditengah meningkatnya perbedaan pendapat Di kedua Negeri mengenai Keputusan AI dan praktik industri masing-masing, Topik-Topik ini diperkirakan Berencana menjadi inti Di pembicaraan bilateral yang Berencana berlangsung Ke akhir September.

Terlepas Di persaingan yang Lebih ketat Untuk Menyusun sistem AI, kerangka hukum dan pernyataan Di pejabat Tiongkok Menunjukkan bahwa Beijing memandang risiko AI canggih yang melampaui kemampuan pengawasan manusia yang efektif sebagai masalah serius yang membutuhkan kesiapan.

Ke tanggal 13 September, Pembantu Kepala Negara Perlindungan Negeri Tiongkok Chen Yixin menulis Ke situs web sebuah kantor beritapemerintahTiongkok bahwa model-model canggih AS seperti Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI dapat menimbulkan risiko serius Untuk infrastruktur informasi penting Tiongkok. Ia menyerukan penguatan komprehensif Pada langkah-langkah Perlindungan AI.

Para pengembang AI Tiongkok Terbaru-Terbaru ini mempromosikan penggunaan model berbobot terbuka, sebagian Sebab Regu Perlindungan siber dapat menguji, memodifikasi, dan menerapkan model-model ini Untuk tujuan Defender.

Platform penyedia model Hugging Face mengatakan bahwa mereka menggunakan GLM-5.2, sebuah model berbobot sumber terbuka yang dikembangkan Bersama perusahaan Tiongkok Z.AI, Untuk Meneliti intrusi bulan Juli yang melibatkan agen AI “Ke luar kendali” Di OpenAI. Keputusan ini diambil Sesudah model-model AS yang lebih terkontrol terbukti kurang efektif Di forensik digital.

Akan Tetapi, para ahli juga memperingatkan tentang potensi risiko model berbobot terbuka, Sebab model tersebut dapat dimodifikasi dan didistribusikan ulang tanpa pengawasan yang memadai.