BOGOR-TODAY.COM – Pemerintah Tiongkok baru-baru ini mengumumkan panduan yang bertujuan untuk meningkatkan pengawasan terhadap layanan kecerdasan buatan (AI) generatif chatbot. Sebagian orang berpendapat bahwa tindakan ini dapat menghambat inovasi.
Komite Teknis Standardisasi Keamanan Informasi Nasional, yang memiliki wewenang dalam menetapkan standar keamanan teknologi informasi, telah mengeluarkan pedoman ini dengan fokus pada dua masalah utama, yaitu menjaga data pelatihan dan mengatur model bahasa besar (LLM) yang digunakan dalam layanan AI generatif.
Seperti yang dilaporkan oleh Gizmochina, Minggu (15/10/2023), panduan ini mengharuskan pengembang AI untuk hanya menggunakan data resmi dalam melatih AI dan menjalani prosedur pemeriksaan keamanan untuk mencegah pelanggaran data dan hak cipta. Ini merupakan langkah penting dalam mengawasi kualitas dan keabsahan data yang dimasukkan ke dalam algoritma AI.
Panduan ini juga mengacu pada konsep “sistem daftar hitam” yang bertujuan untuk menghentikan materi pelatihan yang berisi lebih dari 5 persen konten ilegal atau berbahaya, sesuai dengan undang-undang keamanan siber negara.
Meskipun regulasi ini tampaknya dirancang untuk memastikan bahwa layanan AI menghasilkan konten yang bertanggung jawab dan sah, ini juga menimbulkan pertanyaan serius tentang inovasi dan kebebasan berpendapat.
