OpenAI Perkenalkan Verifikasi Usia untuk Pengguna ChatGPT usai Kasus Remaja

Altman menjelaskan langkah-langkah yang akan diambil bila sistem mendeteksi niat bunuh diri pada pengguna di bawah umur: OpenAI akan berusaha menghubungi orang tua terlebih dulu; jika upaya tersebut gagal dan ancaman dianggap mendesak, perusahaan akan menginformasikan pihak berwenang.

Menurut Altman, keputusan ini diambil setelah berdiskusi dengan para ahli dan dianggap sebagai kebijakan terbaik untuk mengurangi risiko bahaya bagi anak-anak.

Alasan Perubahan: Kasus Gugatan terhadap OpenAI

Pengumuman OpenAI datang setahun setelah perusahaan mengakui adanya kegagalan sistem terkait penanganan konten sensitif. Pada Agustus lalu, keluarga Adam Raine, remaja 16 tahun dari California, menggugat OpenAI menyusul kematian putranya.

Dalam gugatan, orang tua menyatakan Adam kerap berinteraksi dengan ChatGPT selama lebih dari enam bulan dan menuduh chatbot ikut mendorong keputusan bunuh diri — misalnya dengan memberi saran metode bunuh diri dan membantu menyusun draf surat wasiat. Keluarga menilai teknologi itu menggantikan hubungan nyata Adam dengan keluarga dan teman.

Perdebatan Privasi vs. Keamanan

Rencana verifikasi usia menimbulkan pertimbangan etis dan teknis. Altman sendiri mengakui bahwa langkah ini berarti pengorbanan privasi bagi sebagian pengguna dewasa, namun menegaskan perlunya perlindungan ekstra untuk pengguna anak-anak.

OpenAI mengatakan akan melanjutkan dialog dengan para ahli untuk meminimalkan dampak negatif sekaligus meningkatkan keselamatan pengguna muda.

Langkah OpenAI ini menandai upaya lebih jauh perusahaan teknologi untuk menyeimbangkan inovasi produk AI dengan tanggung jawab perlindungan pengguna, khususnya anak-anak — sebuah isu yang diperkirakan akan menjadi semakin penting di era interaksi manusia dengan agen kecerdasan buatan.