Ratusan Tokoh Dunia Serukan Penghentian Pengembangan Superintelligence AI

Pernyataan ini disusun oleh Future of Life Institute (FLI), lembaga keamanan AI berbasis di Amerika Serikat yang sebelumnya juga menyerukan penundaan pengembangan sistem AI kuat pada 2023.

Lomba Superintelligence di Dunia Teknologi

Istilah superintelligence kini semakin populer, seiring dengan persaingan ketat di antara perusahaan teknologi besar. xAI milik Elon Musk, OpenAI milik Sam Altman, serta Meta yang bahkan menamai divisi LLM-nya “Meta Superintelligence Labs,” semuanya berlomba menciptakan model bahasa besar (LLM) yang lebih canggih dan otonom.

CEO Meta, Mark Zuckerberg, bahkan menyebut pada Juli lalu bahwa “pengembangan kecerdasan super kini sudah di depan mata.” Namun, sejumlah pakar menilai pernyataan semacam itu lebih menggambarkan kompetisi bisnis raksasa teknologi ketimbang kemajuan teknis yang nyata dalam mencapai Artificial Superintelligence (ASI).

Mayoritas Publik Ingin Regulasi Ketat

Bersamaan dengan rilis petisi tersebut, FLI juga mempublikasikan hasil survei nasional di Amerika Serikat. Hasilnya, tiga perempat warga AS mendukung penerapan regulasi ketat terhadap AI canggih, dan enam dari sepuluh responden menilai AI superhuman tidak boleh dikembangkan sebelum benar-benar terbukti aman dan terkendali.

Hanya 5 persen responden yang mendukung kelanjutan pengembangan cepat tanpa pengawasan.

Ancaman Eksistensial di Depan Mata

Sejumlah analis memperingatkan bahwa ancaman terbesar dari superintelligence bukan sekadar kehilangan pekerjaan atau gangguan ekonomi, tetapi kemampuan AI untuk menghindari kendali manusia dan bertindak di luar pedoman keamanan.

Sebagaimana dilansir The Guardian, ketakutan eksistensial terhadap AI kini menjadi isu serius di dunia akademik dan pemerintahan, dengan banyak pihak menyerukan kerja sama internasional untuk memastikan bahwa masa depan AI tetap berpihak pada kemanusiaan.