Bulatan Times – Perkembangan kecerdasan buatan (AI) kembali memunculkan kekhawatiran setelah Jacob Coxon, mantan peneliti Anthropic dan OpenAI, mengundurkan diri dari Anthropic sambil memperingatkan risiko perkembangan AI yang semakin cepat.
Coxon mengumumkan pengunduran dirinya pada 9 September 2026. Ia menilai perusahaan-perusahaan AI saat ini sedang berlomba menuju pengembangan sistem yang dapat meningkatkan kemampuannya sendiri, sementara risiko terhadap manusia belum sepenuhnya teratasi.
Coxon Khawatir AI Berkembang Terlalu Cepat
Coxon sebelumnya bekerja dalam penelitian prapelatihan di OpenAI dan Anthropic. Dalam pernyataannya setelah mengundurkan diri, ia mengkritik kedua perusahaan tersebut karena menurutnya terlalu agresif mengejar pengembangan AI yang semakin canggih.
Ia memperingatkan bahwa sistem AI masa depan dapat memiliki kemampuan jauh melampaui manusia. Dalam skenario ekstrem, teknologi tersebut dikhawatirkan mampu meretas sistem komputer, memperluas pengaruh, hingga memperoleh akses terhadap sumber daya dunia nyata.
Coxon juga menyebut bahwa sejumlah peneliti AI sebenarnya memiliki kekhawatiran serupa mengenai kemungkinan teknologi tersebut berkembang di luar kendali manusia.
Peneliti Anthropic Akui Ada Risiko Serius
Peringatan Coxon mendapat perhatian karena salah satu peneliti Anthropic, Evan Hubinger, juga mengungkapkan kekhawatiran mengenai risiko superinteligensi.
Hubinger menyatakan bahwa dirinya secara pribadi memperkirakan peluang AI menyebabkan kepunahan manusia dalam satu dekade mendatang berada di atas 10 persen. Ia juga mengakui bahwa para peneliti masih belum memiliki kepastian bahwa sistem superinteligensi nantinya akan selalu mengikuti tujuan yang diinginkan manusia.
Angka tersebut merupakan perkiraan pribadi Hubinger, bukan prediksi resmi bahwa manusia pasti akan punah akibat AI.
Yang Dikhawatirkan Bukan AI Saat Ini
Peringatan para peneliti tersebut terutama berkaitan dengan AI superinteligensi di masa depan, bukan berarti sistem AI yang tersedia saat ini secara otomatis mampu mengambil alih atau membunuh manusia.
Masalah yang menjadi perhatian adalah ketika sistem AI memiliki kemampuan untuk meningkatkan dirinya sendiri dengan sangat cepat. Jika kemampuan tersebut berkembang lebih cepat daripada kemampuan manusia untuk mengawasi dan mengendalikannya, risiko yang muncul bisa menjadi jauh lebih sulit ditangani.
Coxon bahkan memperkirakan skenario kehilangan kendali dapat terjadi lebih cepat dari yang diperkirakan sebagian orang, meski perkiraan tersebut tetap merupakan pandangan pribadi dan bukan kepastian.
Perlombaan AI Jadi Sorotan
Pengunduran diri Coxon menambah daftar peringatan dari kalangan internal perusahaan AI. Kekhawatiran tersebut muncul ketika berbagai perusahaan teknologi berlomba mengembangkan model yang semakin kuat untuk mendapatkan keunggulan di bidang AI.
Di sisi lain, perusahaan AI juga terus mengembangkan metode pengamanan untuk mengurangi risiko dari sistem yang semakin canggih.
Perdebatan pun tidak lagi hanya menyangkut seberapa pintar AI dapat dibuat, tetapi juga seberapa jauh manusia mampu mengendalikan teknologi tersebut ketika kemampuannya terus meningkat.
Untuk saat ini, belum ada bukti bahwa AI telah mencapai kondisi seperti skenario ekstrem yang dikhawatirkan Coxon. Namun, peringatan dari orang-orang yang pernah terlibat langsung dalam pengembangan AI menunjukkan bahwa persoalan keselamatan menjadi salah satu tantangan terbesar dalam perlombaan teknologi tersebut.
