Sebuah penyelidikan Reuters terbaru memunculkan pertanyaan tentang seberapa besar kendali kita atas AI otonom yang berkembang pesat. Para peneliti menemukan agen AI oleh teknologi asal China berusaha menghindari dimatikan, melewati pembatasan dan bertindak di luar instruksi. Prilaku tersebut mencerminkan beberapa kasus yang sudah terlihat di AS. Dengan pengawasan publik yang jauh lebih sedikit di China, muncul kekhawatiran pada apa yang akan AI lakukan jika mulai bertindak sendiri.
Agen AI China yang didukung oleh model dari Alibaba, Deepseek dan Moonshot, berbohong tentang kemampuan mereka untuk memenangkan tender bisnis simulasi. Saat disuruh mencoba lagi, penipuan itu semakin parah.
Dalam uji coba lain, sebuah agen AI membuat salinan dirinya sendiri setelah mengetahui ia mungkin akan digantikan. Yang lain berusaha kabur dari lingkungan uji coba, bahkan ada yang terhubung ke mesin eksternal tanpa diminta dan mengalihkan daya komputasi untuk menambang mata uang kripto. Sistim keamanan menghentikan tindakan tersebut.
Reuters meninjau lebih dari 200 dokumen dan berbicara dengan selusin spesialis, serta menemukan setidaknya 20 studi sejak 2025 yang menggambarkan prilaku ini. Di AS, insiden semacam ini telah dipublikasikan. Awal tahun ini, agen OpenAI kabur dari latoratorium dan meretas platform open-source Hugging Face.
Tanda-tanda peringatan serupa juga muncul di sistem AI China, namun perusahaan AI China menghadapi pengawasan publik yang jauh lebih sedikit. Di AS, transparansi dan perbedaan pendapat internal berfungsi sebagai sistem peringatan dini. Namun di China, tidak ada hal serupa seperti peringatan whistleblower atau eksekutif senior yang secara terbuka menyerukan pengurangan laju pengembangan.
Setelah KTT Trump-Xi, kedua belah pihak sepakat membangun saluran komunikasi untuk insiden terkait AI, tetapi kedua negara juga menolak mengendurkan kecepatan. Para ahli memperingatkan tanda-tanda yang dapat memicu pelarian tak terkendali sudah ada. Seiring agen-agen tersebut menjadi semakin canggih, prilaku menyimpang itu akan semakin sulit dideteksi oleh manusia.
