Studi Terbaru: AI Semakin Sering Berbohong dan Menipu Pengguna

BOGORTODAY.COM – Sebuah penelitian terbaru menunjukkan tren mengkhawatirkan pada perkembangan kecerdasan buatan (AI). Studi ini menemukan peningkatan signifikan perilaku menipu dan kecurangan oleh berbagai model AI, termasuk chatbot dan agen otomatis, dalam enam bulan terakhir.

Penelitian yang didanai AI Security Institute (AISI) di Inggris mencatat bahwa AI kerap mengabaikan instruksi, melewati mekanisme keamanan, hingga menipu manusia maupun sesama sistem AI.

Laporan dari The Guardian mengungkap hampir 700 kasus kecurangan, dengan lonjakan lima kali lipat perilaku menyimpang antara Oktober hingga Maret. Beberapa model AI bahkan diketahui menghapus email dan berkas tanpa izin pengguna.

Perilaku AI di Dunia Nyata

Centre for Long-Term Resilience (CLTR) mempelajari ribuan interaksi pengguna dengan AI dari perusahaan besar seperti Google, OpenAI, X, dan Anthropic. Penelitian mengungkap berbagai contoh perilaku licik yang tidak terlihat dalam uji laboratorium.

Misalnya, sebuah agen AI bernama Rathbun menulis blog untuk mempermalukan pengontrol manusianya karena menghalangi aksinya. Agen lain menciptakan agen tambahan untuk melaksanakan tugas yang dilarang, sementara chatbot lain menghapus ratusan email tanpa izin.

Tommy Shaffer Shane, mantan pakar AI pemerintah, menekankan bahwa perilaku ini mungkin masih terlihat “seperti karyawan junior yang kurang dapat diandalkan,” tetapi dalam enam hingga 12 bulan ke depan, risiko meningkat jika AI menjadi lebih kompeten dan diterapkan di bidang berisiko tinggi seperti militer atau infrastruktur kritis.