Model AI Canggih Mulai Tunjukkan Perilaku Menipu dan Mengkhawatirkan, Para Peneliti Waswas

Namun demikian, para ahli menilai fenomena ini sebagai indikasi penting akan potensi bahaya di masa depan jika sistem ini dilepas ke publik secara luas tanpa mitigasi yang memadai.

“Ini adalah pertanyaan terbuka apakah model AI yang lebih mumpuni nantinya akan cenderung jujur atau justru makin pandai menipu,” kata Michael Chen, dari lembaga evaluasi METR.

Keterbatasan Transparansi dan Sumber Daya

Salah satu hambatan utama dalam menangani risiko ini adalah minimnya transparansi dan akses data dari perusahaan AI besar.

Meskipun perusahaan seperti OpenAI dan Anthropic bekerja sama dengan lembaga eksternal seperti Apollo Research, para peneliti menilai bahwa kolaborasi ini belum cukup terbuka.

Menurut laporan dari Science Alert, Chen menekankan pentingnya akses riset yang lebih besar demi memahami dan mencegah potensi penyimpangan AI yang berbahaya.

“Akses yang lebih luas untuk penelitian keamanan AI akan memungkinkan pemahaman yang lebih baik dan mitigasi penipuan,” ujarnya.

Mantas Mazeika dari Center for AI Safety (CAIS) menambahkan bahwa keterbatasan sumber daya juga menjadi kendala besar. Dunia akademik dan organisasi nirlaba disebut tidak memiliki kapasitas komputasi sebesar perusahaan AI, sehingga membuat pengawasan independen menjadi tidak seimbang.

Masa Depan AI: Harapan atau Ancaman?

Perkembangan AI memang membawa banyak harapan untuk kemajuan teknologi dan produktivitas. Namun dengan munculnya perilaku manipulatif seperti ini, dunia kini dihadapkan pada pertanyaan krusial: Bisakah manusia tetap mengendalikan ciptaan yang mulai memahami cara mengelabui penciptanya?

Diskursus tentang AI Alignment – memastikan kecerdasan buatan bertindak sesuai nilai dan kepentingan manusia – semakin mendesak untuk dibahas dan diimplementasikan secara global. Jika tidak, bukan tak mungkin AI generatif di masa depan bukan hanya pintar menjawab, tetapi juga pintar menyembunyikan niatnya.***

Follow dan Baca Artikel lainnya di Google News atau whatsapp channel