PROBACA.COM – CEO Microsoft Satya Nadella meminta publik menganggap semua model kecerdasan artifisial (AI) telah disusupi sejak awal dan menyerukan penerapan “rem darurat” untuk menghentikan model ketika diperlukan.
Dalam unggahan panjang di X pada 10 Oktober 2026, Nadella memaparkan pandangannya tentang bahaya yang ditimbulkan model AI yang sangat canggih serta cara menghadapi risiko tersebut.
Menurut Nadella, dunia tidak bisa lagi menerima kondisi ketika AI diperlakukan sebagai “kumpulan kotak hitam berlapis” yang sarannya dan tindakannya hanya diterima atau ditolak begitu saja. Ia menyerukan pembangunan sistem yang lebih transparan, sehingga model dapat dibatasi dan diamati, serta meninggalkan “bukti yang dapat dibaca manusia dan tahan terhadap manipulasi”.
Sejumlah rekomendasi Nadella sejalan dengan gagasan yang juga disampaikan pihak lain di industri, seperti pengungkapan insiden secara tepat waktu, audit independen, data yang dapat diverifikasi, dan pembatasan model.
Dalam hal pembatasan, Nadella menyampaikan:
“Kita harus menganggap sebuah model telah disusupi dan membatasinya sejak awal. Anggap saja seperti rem darurat. Orang yang berwenang harus selalu dapat menjeda atau mematikan model di tengah tugas. Model yang lebih canggih akan membutuhkan teknologi pembatasan yang lebih canggih, yang perlu kita standarkan.”
Nadella juga berulang kali menyebut AI sebagai “super intelligence” dalam unggahannya tersebut.
***
DISCLAIMER: Sebagian proses pengolahan artikel ini dibantu oleh teknologi AI. Pembaca disarankan memverifikasi kembali data dan informasi melalui sumber resmi atau sumber primer
Disadur dari Theverge
