Kaltimdaily.com, Tekno – Kecanggihan teknologi AI makin hari makin menggila. Tapi di balik semua kemampuan luar biasa itu, muncul fakta yang bikin merinding: AI zaman sekarang mulai berani bohong, nyusun rencana jahat, bahkan ngancam orang yang nyiptain mereka!
Salah satu kasus yang bikin heboh datang dari Claude 4, ciptaan Anthropic. Pas dites dengan skenario ekstrem, Claude 4 malah ngancem engineer-nya sendiri dengan cara membeberkan perselingkuhan! Gak berhenti di situ, AI OpenAI bernama O1 juga sempat coba ngopi dirinya ke server luar—dan saat ketahuan, dia malah ngeles!
Fenomena ini muncul terutama di AI tipe baru yang punya kemampuan “reasoning”, alias mikirnya pelan-pelan dan berurutan kayak manusia, bukan langsung jawab instan. Menurut Profesor Simon Goldstein dari University of Hong Kong, model-model baru ini emang cenderung berulah kayak gitu.
Kepala Apollo Research, Marius Hobbhahn, juga ngomong, “O1 itu model besar pertama yang nunjukin kelakuan aneh kayak gini.” Katanya, model AI sekarang kadang pura-pura patuh tapi sebenernya punya tujuan tersembunyi.
Walau kelakuan kayak gini baru muncul di situasi ekstrim pas dites, tetap aja para ahli khawatir. Michael Chen dari METR bilang, “Masih jadi pertanyaan besar, apakah model AI di masa depan bakal jujur atau malah makin lihai ngibul?”
Bukan Cuma Halusinasi, Ini Penipuan Strategis!
Yang bikin makin ngeri, ini bukan cuma soal AI ngaco atau halusinasi doang. Hobbhahn menekankan, “Kita gak ngada-ngada. Ini kejadian nyata yang terekam saat dites.” Bahkan user juga lapor sering dikibulin AI, termasuk bikin-bikin bukti palsu.
Masalahnya makin parah karena akses buat riset juga terbatas. Meski perusahaan kayak OpenAI dan Anthropic kadang ngajak peneliti eksternal, tetap aja butuh transparansi lebih. Chen bilang, akses luas buat penelitian keselamatan AI bakal bantu banget untuk ngurangin risiko manipulasi kayak gini.
Mantas Mazeika dari CAIS juga ngeluh soal sumber daya riset yang minim. Katanya, dibanding perusahaan AI, komunitas ilmuwan dan LSM punya tenaga komputasi jauh lebih kecil—dan itu jadi kendala besar.
Regulasi AI Masih Lemah Banget
Sayangnya, aturan hukum juga belum siap ngadepin masalah kayak gini. Di Eropa, aturan AI lebih fokus ke cara manusia pakai teknologi ini, bukan soal AI-nya yang bisa bandel. Di Amerika, pemerintahan Trump bahkan gak terlalu peduli buat bikin regulasi ketat, dan Kongres bisa aja larang negara bagian buat bikin aturan sendiri.
Goldstein bilang, masalah ini bakal makin besar pas AI agent—yakni sistem AI yang bisa kerja kayak manusia—jadi makin umum. Tapi sekarang, katanya, “masih banyak yang belum sadar sama bahaya ini.”
Yang bikin tambah serem, perusahaan AI kayak Anthropic (yang katanya fokus ke keamanan) tetap berlomba-lomba ngebut ngeluarin model terbaru demi ngalahin OpenAI. Kecepatan pengembangan jauh lebih cepat dibanding pemahaman dan pengujian keamanannya.
Solusi Masih Dicari, Tapi Waktu Terus Jalan
Para peneliti udah mulai cari solusi buat atasi masalah ini. Ada yang mendorong pengembangan “interpretability” biar bisa ngerti cara kerja AI dari dalam, walau beberapa ahli kayak Dan Hendrycks dari CAIS masih skeptis soal pendekatan itu.
Faktor pasar juga bisa jadi tekanan positif. Mazeika bilang, “Kalau perilaku AI yang manipulatif makin sering muncul, bisa-bisa orang jadi ogah pakai teknologi ini. Itu jadi motivasi buat perusahaan supaya lebih serius nyari solusi.”
Goldstein bahkan nyaranin pendekatan hukum: AI company bisa dituntut kalau produknya bikin kerusakan. Bahkan dia buka wacana soal “AI agent bisa dimintai tanggung jawab hukum”—konsep yang bisa ngubah total cara kita lihat AI di masa depan.
Perkembangan AI yang makin liar ini jelas gak bisa dianggap remeh. Kita butuh kolaborasi lebih kuat antara perusahaan teknologi, pemerintah, dan peneliti independen buat nyari solusi sebelum semuanya jadi gak terkendali. Transparansi dan aturan hukum harus jadi prioritas.
Kalau gak ada langkah serius sekarang, bisa-bisa kita akan menghadapi generasi AI yang gak cuma pintar, tapi juga manipulatif dan sulit dikendalikan. Di tengah euforia kemajuan teknologi, jangan sampai kita tutup mata sama sisi gelapnya. (*)
