Peringatan dari dalam industri AI sangat tegas. Mantan peneliti Anthropic Jacob Coxon berkata berbagai perusahaan AI sedang berlomba menuju ke kecerdasan super yang mampu mengembangkan diri sendiri. Ia memperingatkan sistem semacam ini dapat meretas apapun, merevolusi bidang apapun, dan memperoleh kekuasaan serta sumber daya nyata.
[Jacob Coxon, Mantan Peneliti Anthropic]:
“Menurut saya, konsep membangun kecerdasan super itu sering disamakan dengan memanggil spesies alien. Jadi saya pikir, dalam konteks pikiran alien yang belum sepenuhnya kita pahami itu cukup menakutkan, bahkan tanpa skenario konkret apapun”
Peneliti Anthropic, Evan Hubinger, bahkan mengatakan AI dapat membunuh semua manusia dan memperkirakan kemungkinannya lebih dari 10% dalam dekade mendatang.
Namun Presiden Trump telah berulang kali menekankan perlunya Amerika memenangkan perlombaan AI melawan China. Menurutnya, siapapun yang memenangkan AI maka akan menang.
Bagi pemerintahan Trump, China adalah pesaing keamanan nasional yang tidak boleh menguasai teknologi paling kuat dunia.
Mengenai masalah risiko AI, para anggota parlemen bipartisan AS sudah mulai menyuarakan peringatan. AI yang tidak diregulasi akan berpotensi bencana, dan mereka mendesak aturan untuk penelitian dan pengembangan AI.
Ketua DPR Mike Johnson mengatakan perlunya pertemuan dengan para pemimpin teknologi untuk mencari keseimbangan tepat, karena pembatasan besar justru akan membuat China mengungguli AS. Ia menambahkan model-model AI perlu dipastikan keseimbangannya antara keamanan nasional dan keamanan jangka pendek.
