Open AI, perusahaan peneliti kecerdasan buatan, telah memblokir beberapa akun yang dipercaya berasal dari China. Mereka menggunakan chatbot ChatGPT untuk mengembangkan alat pengawasan media sosial AI. Sean Marshall dari NTD melaporkan.
Open AI memblokir sekelompok akun Chat GPT berbahasa Mandarin setelah menemukan deskripsi dari alat untuk mengawasi aktivitas media sosial, yang ditenagai oleh model yang bukan milik OpenAI. Salah satu aktivitas utama dari operasi ini adalah membuat deskripsi detail, yang konsisten dengan promosi penjualan, yang dideskripsikan sebagai: “Asisten AI Opini Publik Luar Negeri Qianyue”. Fokus lain adalah aliran kerja menggunakan ChatGPT untuk membuat komentar-komentar tentang organisasi para pembelot China, terutama kelompok aliran spiritual Falun Gong, dan membuat komentar tentang politik dan UU di AS, serta mencari topik-topik tentang pelaku politik. Terkadang, pelaku meminta model AI untuk menjadi sebuah persona palsu berbahasa Inggris, bernama Thompson. OpenAI tidak dapat mengidentifikasi komentar-komentar yang diposting online. Laporan juga menyebutkan alat pendengar media sosial, yang mereka katakan telah digunakan untuk memberikan laporan real-time, tentang protes di Barat pada layanan keamanan China. Sekelompok pengguna ini juga menggunakan layanan ChatGPT untuk membantu menganalisa dokumen, mengubah dan melakukan debug kode-kode di alat ini.
OpenAI melaporkan bahwa jaringan ini terdiri dari akun-akun ChatGPT yang beroperasi di pola waktu yang sama dengan jam-jam operasional Daratan China, melakukan prompt dalam bahasa Mandarin, dan menggunakan alat kami dengan volume dan jenis yang menunjukkan ini adalah prompt secara manual, bukan otomatis. Kepala penyelidik berkata, ini adalah pertama kalinya perusahaan telah menemukan alat AI seperti ini. Saat membagikan kasus ini secara publik, OpenAI berkata mereka ingin menggarisbawahi bagaimana rezim otoriter berusaha memanfaatkan AI buatan AS melawan AS dan sekutunya, juga warganegara mereka sendiri. Sean Marshall, NTD News.
