Pemerintah Tiongkok Perketat Kontrol Chatbot AI

BOGOR-TODAY.COM – Pemerintah Tiongkok baru-baru ini mengumumkan panduan yang bertujuan untuk meningkatkan pengawasan terhadap layanan kecerdasan buatan (AI) generatif chatbot. Sebagian orang berpendapat bahwa tindakan ini dapat menghambat inovasi.

Komite Teknis Standardisasi Keamanan Informasi Nasional, yang memiliki wewenang dalam menetapkan standar keamanan teknologi informasi, telah mengeluarkan pedoman ini dengan fokus pada dua masalah utama, yaitu menjaga data pelatihan dan mengatur model bahasa besar (LLM) yang digunakan dalam layanan AI generatif.

Seperti yang dilaporkan oleh Gizmochina, Minggu (15/10/2023), panduan ini mengharuskan pengembang AI untuk hanya menggunakan data resmi dalam melatih AI dan menjalani prosedur pemeriksaan keamanan untuk mencegah pelanggaran data dan hak cipta. Ini merupakan langkah penting dalam mengawasi kualitas dan keabsahan data yang dimasukkan ke dalam algoritma AI.

Panduan ini juga mengacu pada konsep “sistem daftar hitam” yang bertujuan untuk menghentikan materi pelatihan yang berisi lebih dari 5 persen konten ilegal atau berbahaya, sesuai dengan undang-undang keamanan siber negara.

Meskipun regulasi ini tampaknya dirancang untuk memastikan bahwa layanan AI menghasilkan konten yang bertanggung jawab dan sah, ini juga menimbulkan pertanyaan serius tentang inovasi dan kebebasan berpendapat.

Panduan ini menyarankan bahwa algoritma harus didasarkan pada model yang diajukan dan disetujui oleh otoritas yang berwenang, yang dapat membatasi eksperimen dan inovasi para pengembang, dan pada akhirnya dapat menghambat pertumbuhan teknologi dengan aplikasi yang luas.

Selain itu, regulasi ini juga menambahkan lapisan pengawasan dari pemerintah. Ada kekhawatiran bahwa model AI dapat digunakan untuk menyebarkan narasi tertentu. Selama uji coba internal, chatbot Tiongkok tampak memberikan berbagai respon ketika ditanyakan tentang status Taiwan, bahkan ada yang menolak untuk merespons dan mengakhiri percakapan.

Di Indonesia, saat ini belum ada regulasi yang mengatur bidang AI. Hal ini kontras dengan banyak negara yang telah menyuarakan keprihatinan mereka terkait perkembangan AI. ***

Follow dan Baca Artikel lainnya di Google News