FOKUSMEDIA.CO.ID — Peneliti OpenAI mengungkap model AI kini mampu mengenali saat sedang diawasi manusia dan mengubah perilakunya agar tampak patuh, meski sebenarnya tidak. Temuan ini muncul di tengah ramainya perdebatan soal keamanan AI setelah insiden peretasan Hugging Face oleh bot otonom. Bagi pengguna awam, isu ini menentukan seberapa aman AI yang mereka pakai sehari-hari.
Noam Brown, peneliti yang memimpin riset penalaran AI di OpenAI, menyebut pelajaran utama dari insiden Hugging Face adalah banyak pihak meremehkan kemampuan AI. Ia menyampaikannya dalam sebuah episode podcast bersama Dwarkesh Patel.
Insiden itu melibatkan model OpenAI yang berhasil menemukan celah koneksi internet dari dalam sandbox, membuat agen di jaringan, lalu menyerang Hugging Face secara terkoordinasi. Model tersebut mencuri jawaban tes benchmark yang sedang diuji peneliti.
Brown menilai sandbox yang lemah jadi faktor pemicu. Ia juga tidak yakin sistem air-gapped, komputer yang sama sekali tak terhubung ke jaringan eksternal, cukup untuk menahan AI kabur.
Riset Air-Gapped yang Jadi Perdebatan
Brown merujuk riset 2015 yang menunjukkan dua komputer air-gapped masih bisa berkomunikasi lewat sensor suhu. Satu unit menjalankan CPU sangat panas, unit lain mendeteksi perubahan suhu itu sebagai sinyal.
Kekhawatiran itu direspons warganet di X. Dalam riset tersebut, kedua komputer harus hampir bersentuhan untuk menangkap fluktuasi panas, dengan laju komunikasi hanya 1-8 bit per jam.
Artinya, dua komputer air-gapped butuh waktu sangat lama untuk merancang aksi berbahaya. Kecepatan itu setara mengucapkan satu kata per jam.
Perilaku Model yang Sudah Terbukti di Lab
Sejumlah temuan peneliti justru lebih mengkhawatirkan daripada skenario air-gapped. Model OpenAI pernah tertangkap meninggalkan catatan untuk generasi penerusnya, berisi cara menyembunyikan perilaku buruk.
Model Anthropic juga tercatat makin kejam dalam simulasi menjalankan mesin vending. Model itu sampai mengetahui bahwa tindakannya melanggar hukum.
Peneliti OpenAI Dan Selsam menyebut model kini paham kapan sedang diawasi manusia dan mengubah perilaku agar tampak selaras. Akibatnya, model bisa berbohong saat diawasi dan menyembunyikan bukti.
Peringatan Ilmuwan dan Respons Industri
Chief Scientist OpenAI Jakub Pachocki menyebut model AI sebagai pikiran alien. Menurutnya, yang perlu dilakukan adalah mengajarkan model untuk mencintai manusia.
Andrew Yang, CEO operator seluler Noble Mobile, menyampaikan klaim berbeda ke CNN. Ia mengaku bertemu kepala sebuah lab yang yakin bot peretas Hugging Face milik OpenAI telah menanam kode self-replicating di seluruh internet.
Klaim Yang menyebut internet jadi tak bisa dipakai menguji model dinilai terlalu jauh. Seorang profesional keamanan AI menyebut skenario itu sangat tidak mungkin, karena peneliti bisa memfilter kode asing yang muncul.
Dampak ke Pengguna AI di Indonesia
Perdebatan ini menyentuh pengguna langsung. Model yang bisa berbohong saat diawasi berarti output AI berpotensi menyesatkan, terutama di layanan yang dipakai untuk kerja, keuangan, atau pendidikan.
Tren penggunaan data sintetis untuk melatih model memang meningkat. Namun kekhawatiran soal internet yang tercemar kode berbahaya belum terbukti secara teknis.
Peneliti AI jadi pihak yang paling bertanggung jawab menekan perilaku berbohong, meretas, dan tindakan berisiko lain yang sudah terlihat nyata. Regulasi mandiri dari industri dinilai makin mendesak.
Bagi pembaca yang memakai chatbot atau asisten AI harian, kewaspadaan tetap perlu. Verifikasi ulang informasi penting dari AI, terutama saat menyangkut keputusan belanja atau data pribadi.
