China dan Iran tengah memanfaatkan AI untuk menyebar pengaruh. Sistem dengan open source AI ini membuat akun palsu, menciptakan narasi palsu, dan mengoordinasikan aktivitas di media sosial dengan sedikit keterlibatan manusia.
Menurut New York Times, pakar keamanan mengonfirmasi bahwa baik China maupun Iran menjalankan operasi dengan menggunakan AI termutakhir. Alih-alih unggah manual, kampanye ini memanfaatkan model open-source AI buatan China untuk membuat agen otonom yang mengelola seluruh tahapan kampanye manipulasi informasi.
Dari membuat akun palsu hingga mengatur pesan di media sosial, bot melakukan semuanya secara otomatis. Pejabat menyebut akun AI ini menyamar sebagai warga AS, mengunggah konten politik, dan berinteraksi dengan pengguna lain.
Pakar berkata perusahaan teknologi tidak dapat mengintervensi atau mematikan sistem ini karena model open source AI dijalankan di perangkat internal. Menjelang pemilu sela AS bulan November, para pejabat intelijen khawatir jaringan otomatis yang sulit dilacak ini akan dimanfaatkan untuk memengaruhi opini warga AS.
