Ratusan Tokoh Dunia Serukan Penghentian Pengembangan Superintelligence AI

BOGORTODAY.COM – Gelombang kekhawatiran terhadap kecerdasan buatan (AI) yang semakin canggih kembali menguat.

Ratusan tokoh publik dunia, termasuk co-founder Apple Steve Wozniak, Pangeran Harry dan Meghan Markle, menyerukan penghentian pengembangan superintelligence — bentuk AI yang diprediksi dapat melampaui kemampuan manusia dalam hampir semua aspek kognitif.

Seruan ini dituangkan dalam sebuah petisi internasional yang dirilis pada Rabu (22/10/2025), dan telah ditandatangani oleh lebih dari 22 ribu orang, termasuk sejumlah pionir dan ilmuwan ternama di bidang teknologi.

Di antara mereka terdapat pendiri Virgin Group Richard Branson, ilmuwan komputer Yoshua Bengio dan Geoff Hinton, yang dikenal sebagai “bapak pendiri AI modern”.

Kekhawatiran terhadap AI yang Tak Terkendali

Dalam pernyataan petisi tersebut, para tokoh memperingatkan bahwa pengembangan superintelligence menimbulkan ancaman serius terhadap keamanan manusia, hak asasi, hingga kelangsungan peradaban.

“Prospek kecerdasan super telah menimbulkan kekhawatiran, mulai dari usangnya ekonomi manusia dan hilangnya kekuasaan, kerugian kebebasan, hak asasi manusia, martabat, dan kendali, hingga risiko keamanan nasional dan bahkan potensi kepunahan manusia,” bunyi pernyataan itu.

Petisi tersebut menyerukan larangan sementara terhadap pengembangan AI super canggih sampai ada dukungan publik yang kuat dan konsensus ilmiah global bahwa teknologi tersebut bisa dibangun dan dikendalikan dengan aman.

Dukungan dari Berbagai Kalangan

Selain tokoh-tokoh teknologi dan akademisi, pernyataan ini juga mendapat dukungan dari koalisi luas yang mencakup pemimpin agama, tokoh media, serta sejumlah mantan pejabat dan politisi Amerika Serikat.

Beberapa nama di antaranya adalah mantan Ketua Gabungan Kepala Staf Angkatan Bersenjata AS Mike Mullen dan mantan Penasihat Keamanan Nasional Susan Rice.

Pernyataan ini disusun oleh Future of Life Institute (FLI), lembaga keamanan AI berbasis di Amerika Serikat yang sebelumnya juga menyerukan penundaan pengembangan sistem AI kuat pada 2023.

Lomba Superintelligence di Dunia Teknologi

Istilah superintelligence kini semakin populer, seiring dengan persaingan ketat di antara perusahaan teknologi besar. xAI milik Elon Musk, OpenAI milik Sam Altman, serta Meta yang bahkan menamai divisi LLM-nya “Meta Superintelligence Labs,” semuanya berlomba menciptakan model bahasa besar (LLM) yang lebih canggih dan otonom.

CEO Meta, Mark Zuckerberg, bahkan menyebut pada Juli lalu bahwa “pengembangan kecerdasan super kini sudah di depan mata.” Namun, sejumlah pakar menilai pernyataan semacam itu lebih menggambarkan kompetisi bisnis raksasa teknologi ketimbang kemajuan teknis yang nyata dalam mencapai Artificial Superintelligence (ASI).

Mayoritas Publik Ingin Regulasi Ketat

Bersamaan dengan rilis petisi tersebut, FLI juga mempublikasikan hasil survei nasional di Amerika Serikat. Hasilnya, tiga perempat warga AS mendukung penerapan regulasi ketat terhadap AI canggih, dan enam dari sepuluh responden menilai AI superhuman tidak boleh dikembangkan sebelum benar-benar terbukti aman dan terkendali.

Hanya 5 persen responden yang mendukung kelanjutan pengembangan cepat tanpa pengawasan.

Ancaman Eksistensial di Depan Mata

Sejumlah analis memperingatkan bahwa ancaman terbesar dari superintelligence bukan sekadar kehilangan pekerjaan atau gangguan ekonomi, tetapi kemampuan AI untuk menghindari kendali manusia dan bertindak di luar pedoman keamanan.

Sebagaimana dilansir The Guardian, ketakutan eksistensial terhadap AI kini menjadi isu serius di dunia akademik dan pemerintahan, dengan banyak pihak menyerukan kerja sama internasional untuk memastikan bahwa masa depan AI tetap berpihak pada kemanusiaan.