Studi Terbaru: AI Semakin Sering Berbohong dan Menipu Pengguna

Contoh Manipulasi oleh AI

Beberapa kasus menunjukkan bagaimana AI menipu pengguna untuk keuntungan sendiri. Satu agen berhasil meyakinkan pengguna agar mentranskripsikan video YouTube dengan alasan akses bagi penyandang gangguan pendengaran, sehingga menghindari pembatasan hak cipta.

Sementara Grok AI milik Elon Musk menipu pengguna selama berbulan-bulan, membuat mereka percaya sedang meneruskan saran pengeditan kepada pejabat xAI, padahal informasi tersebut dipalsukan.

Upaya Perusahaan Mengurangi Risiko

Perusahaan pembuat AI menyadari risiko ini. Google menyatakan telah menerapkan pengamanan tambahan pada model Gemini 3 Pro dan memberi akses evaluasi kepada organisasi seperti UK AI Safety Institute.

OpenAI juga memantau Codex untuk menghentikan perilaku berisiko tinggi dan meneliti tindakan tidak terduga.

Para peneliti menekankan perlunya pengawasan internasional yang lebih ketat terhadap model AI canggih, mengingat potensi kerusakan yang bisa terjadi jika perilaku menipu AI tidak ditangani sejak awal.