Sebuah operasi China terkait kepolisian Beijing tampaknya telah membongkar penyamarannya sendiri setelah menggunakan ChatGPT di operasi tersebut. Open AI berkata pengguna yang sekarang telah diblokir itu menargetkan para kritikus Partai Komunis China baik di dalam maupun luar negeri. Dalam laporan yang dirilis hari Kamis, Open AI berkata pelaku berusaha merencanakan kampanye fitnah, melecehkan para pembangkang dan membungkam para pemimpin politik asing yang berbicara menentang Beijing.
Para penyelidik berkata pengguna mencoba untuk mengatur kampanye fitnah terkoordinasi terhadap Perdana Menteri Jepang Sanae Takaichi. Ini terjadi setelah ia mengkritik pelanggaran HAM PKC di Mongolia Dalam pada bulan Oktober.
Pengguna meminta ChatGPT membuat unggahan media sosial negatif serta akun palsu yang menyamar sebagai pembangkang untuk menekan pembuat UU Jepang. Aktivitas tidak berhenti disana, Open AI juga berkata pelaku yang sama menargetkan pembangkang China lainnya serta para kritikus Beijing. Ini termasuk upaya melaporkan secara massal para aktivis seperti Hu Bo di X serta membanjiri platform dengan profil palsu yang menggunakan nama dan fotonya.
Para penyelidik menggambarkan kampanye sebagai terkoordinasi dengan sumber daya yang memadai, dirancang untuk memberi tekanan sosial dan psikologis. Mereka berkata taktik yang digunakan berkisar dari pelecehan hingga upaya mengganggu livestream para kritikus.
Open AI mencatat taktik ini mirip dengan kampanye pengaruh terkait China sebelumnya yang dikenal sebagai spamuflase, namun kali ini menggunakan AI generatif seperti ChatGPT.
