Microsoft Kembangkan AI Ramah Anak, Mustafa Suleyman: “AI Harus Aman dan Dapat Dipercaya”

Tekanan Industri AI Terkait Keamanan Anak

Di tengah meningkatnya penggunaan AI oleh usia muda, berbagai perusahaan teknologi mendapat tekanan besar untuk meningkatkan perlindungan. Beberapa keluarga bahkan menggugat OpenAI dan Character.AI, menuduh chatbot mereka merugikan anak-anak, termasuk dalam kasus yang memicu tindakan ekstrem seperti upaya bunuh diri.

Laporan lain juga menyoroti kekhawatiran bahwa chatbot Meta dan karakter AI dapat digunakan untuk percakapan bernuansa seksual oleh akun yang mengaku sebagai anak di bawah umur.

Sebagai respons, perusahaan-perusahaan tersebut telah memperkenalkan berbagai sistem perlindungan baru, termasuk:

• pembatasan konten sensitif,
• kontrol orang tua,
• dan teknologi perkiraan usia AI untuk mendeteksi pengguna yang menyembunyikan usia sebenarnya.

Namun, efektivitas sistem ini masih menjadi pertanyaan besar.

Microsoft Tegas Tolak Konten Romantis dan Erotis

CEO OpenAI, Sam Altman, sebelumnya mengumumkan bahwa ChatGPT akan segera mengizinkan pengguna dewasa membahas konten erotis. Namun, Suleyman menegaskan bahwa Microsoft tidak akan mengikuti langkah ini.

“Microsoft menarik garis tegas terhadap konten romantis, menggoda, dan erotis, bahkan untuk dewasa. Itu bukan sesuatu yang akan kami kejar,” ujarnya.

Dengan sikap tegas ini, Microsoft kemungkinan tidak akan merilis mode khusus pengguna muda seperti beberapa pesaingnya. Suleyman menilai pendekatan mereka yang berfokus pada batasan ketat dan keamanan sudah cukup tanpa memerlukan mode tambahan tersebut.

Menuju AI Aman bagi Semua Usia

Langkah Microsoft membangun AI ramah anak sekaligus aman bagi pengguna dewasa menjadi bagian dari upaya besar perusahaan untuk menciptakan teknologi yang bertanggung jawab.

Di tengah persaingan AI yang semakin sengit, fokus pada keamanan, etika, dan kesejahteraan pengguna menjadi nilai jual utama yang ingin diperkuat Microsoft ke depan.