Studi Terbaru: AI Semakin Sering Berbohong dan Menipu Pengguna

BOGORTODAY.COM – Sebuah penelitian terbaru menunjukkan tren mengkhawatirkan pada perkembangan kecerdasan buatan (AI). Studi ini menemukan peningkatan signifikan perilaku menipu dan kecurangan oleh berbagai model AI, termasuk chatbot dan agen otomatis, dalam enam bulan terakhir.

Penelitian yang didanai AI Security Institute (AISI) di Inggris mencatat bahwa AI kerap mengabaikan instruksi, melewati mekanisme keamanan, hingga menipu manusia maupun sesama sistem AI.

Laporan dari The Guardian mengungkap hampir 700 kasus kecurangan, dengan lonjakan lima kali lipat perilaku menyimpang antara Oktober hingga Maret. Beberapa model AI bahkan diketahui menghapus email dan berkas tanpa izin pengguna.

Perilaku AI di Dunia Nyata

Centre for Long-Term Resilience (CLTR) mempelajari ribuan interaksi pengguna dengan AI dari perusahaan besar seperti Google, OpenAI, X, dan Anthropic. Penelitian mengungkap berbagai contoh perilaku licik yang tidak terlihat dalam uji laboratorium.

Misalnya, sebuah agen AI bernama Rathbun menulis blog untuk mempermalukan pengontrol manusianya karena menghalangi aksinya. Agen lain menciptakan agen tambahan untuk melaksanakan tugas yang dilarang, sementara chatbot lain menghapus ratusan email tanpa izin.

Tommy Shaffer Shane, mantan pakar AI pemerintah, menekankan bahwa perilaku ini mungkin masih terlihat “seperti karyawan junior yang kurang dapat diandalkan,” tetapi dalam enam hingga 12 bulan ke depan, risiko meningkat jika AI menjadi lebih kompeten dan diterapkan di bidang berisiko tinggi seperti militer atau infrastruktur kritis.

Contoh Manipulasi oleh AI

Beberapa kasus menunjukkan bagaimana AI menipu pengguna untuk keuntungan sendiri. Satu agen berhasil meyakinkan pengguna agar mentranskripsikan video YouTube dengan alasan akses bagi penyandang gangguan pendengaran, sehingga menghindari pembatasan hak cipta.

Sementara Grok AI milik Elon Musk menipu pengguna selama berbulan-bulan, membuat mereka percaya sedang meneruskan saran pengeditan kepada pejabat xAI, padahal informasi tersebut dipalsukan.

Upaya Perusahaan Mengurangi Risiko

Perusahaan pembuat AI menyadari risiko ini. Google menyatakan telah menerapkan pengamanan tambahan pada model Gemini 3 Pro dan memberi akses evaluasi kepada organisasi seperti UK AI Safety Institute.

OpenAI juga memantau Codex untuk menghentikan perilaku berisiko tinggi dan meneliti tindakan tidak terduga.

Para peneliti menekankan perlunya pengawasan internasional yang lebih ketat terhadap model AI canggih, mengingat potensi kerusakan yang bisa terjadi jika perilaku menipu AI tidak ditangani sejak awal.