PROBACA.ID – Kekhawatiran terhadap risiko kecerdasan buatan kembali mencuat setelah Jacob Coxon mengundurkan diri dari Anthropic. Beberapa jam kemudian, Evan Hubinger, peneliti senior yang memimpin salah satu tim keamanan AI perusahaan tersebut, menyebut peluang AI membunuh seluruh manusia dalam satu dekade mendatang lebih dari 10 persen.
Coxon, yang pernah melatih sistem AI di Anthropic dan sebelumnya bekerja untuk OpenAI, mengumumkan kepergiannya melalui unggahan di X. Ia mengatakan mundur karena menilai pendekatan Anthropic terhadap keselamatan AI masih terlalu longgar.
Dalam unggahannya, Coxon menuduh kedua perusahaan tersebut “berlomba langsung menuju superintelijensi yang dapat memperbaiki dirinya sendiri dan mempertaruhkan hidup kita.” Ia juga menyatakan bahwa “orang-orang yang membangun AI sungguh-sungguh percaya bahwa AI dapat membunuh kita semua pada akhir dekade ini.”
Kekhawatiran itu berkaitan dengan pengembangan sistem AI yang mampu meningkatkan kemampuannya secara mandiri. Sejumlah pihak di industri memperingatkan bahwa proses tersebut dapat berkembang di luar kendali manusia melalui siklus yang kerap disebut peningkatan diri rekursif. Meski skenario itu belum terwujud, perusahaan-perusahaan AI disebut sedang mengejar tujuan tersebut, sementara sebagian besar kode AI saat ini telah ditulis dengan bantuan AI.
Menanggapi Coxon, Hubinger mengatakan dirinya juga khawatir terhadap AI yang dapat memperbaiki diri sendiri. Menurut dia, proses tersebut “terjadi lebih cepat daripada yang kami perkirakan.” Hubinger turut menyetujui gambaran Coxon mengenai risiko itu.
“Kami benar-benar sungguh-sungguh percaya bahwa AI dapat membunuh seluruh manusia,” kata Hubinger. Ia memperkirakan secara pribadi peluang tersebut lebih besar dari satu banding 10 “dalam dekade berikutnya.”
Hubinger mengakui Anthropic “belum memiliki rencana” untuk memastikan AI tingkat lanjut tetap aman dan selaras dengan nilai-nilai manusia. Ia juga mengatakan perusahaan tersebut “belum berada di jalur yang jelas untuk” mengembangkan rencana itu.
Coxon menilai perusahaan-perusahaan AI “terkunci dalam perlombaan” untuk menjadi yang pertama mengembangkan sistem canggih. Menurut dia, kondisi tersebut mendorong perusahaan tetap melaju “meskipun ada risikonya.”
Pengunduran diri Coxon menjadi salah satu contoh paling menonjol terkait keluarnya karyawan Anthropic karena persoalan keselamatan. Anthropic didirikan oleh mantan anggota OpenAI setelah muncul kekhawatiran mengenai keselamatan di perusahaan tersebut. Dalam beberapa tahun terakhir, sejumlah peneliti juga menyebut alasan keselamatan ketika meninggalkan OpenAI.
Pertukaran pernyataan antara Coxon dan Hubinger menunjukkan meningkatnya kekhawatiran di industri mengenai risiko model AI yang semakin canggih serta kecepatan pengembangannya. Situasi itu muncul ketika perusahaan-perusahaan AI bersiap menghadapi rencana penawaran umum perdana saham dan menangani dampak sejumlah insiden agen AI yang berperilaku menyimpang, serta peringatan keselamatan terkait kemampuan pemantauan model AI terdepan.
***
DISCLAIMER: Sebagian proses pengolahan artikel ini dibantu oleh teknologi AI. Pembaca disarankan memverifikasi kembali data dan informasi melalui sumber resmi atau sumber primer
Diolah dari sumber Theverge
























