OpenAI Menerbitkan Cetak Biru Keselamatan Anak untuk Mengatasi Eksploitasi yang Didayakan AI

Sekilas

• OpenAI menerbitkan “Child Safety Blueprint” yang membahas eksploitasi seksual anak yang diaktifkan oleh AI.
• Kerangka ini berfokus pada reformasi hukum, koordinasi pelaporan yang lebih kuat, serta pagar pengaman (guardrails) yang dibangun ke dalam sistem AI.
• Proposal ini dikembangkan dengan masukan dari kelompok perlindungan anak, jaksa agung, dan organisasi nirlaba.

Bertujuan untuk mengatasi meningkatnya eksploitasi seksual anak yang diaktifkan oleh AI, OpenAI pada hari Rabu menerbitkan cetak biru kebijakan yang menguraikan langkah-langkah keselamatan baru yang dapat diambil industri untuk membantu mengekang penggunaan AI dalam pembuatan materi pelecehan seksual anak. Dalam kerangka tersebut, OpenAI mencantumkan langkah-langkah hukum, operasional, dan teknis yang bertujuan untuk memperkuat perlindungan terhadap penyalahgunaan yang diaktifkan oleh AI serta meningkatkan koordinasi antara perusahaan teknologi dan penyelidik. “Eksploitasi seksual anak adalah salah satu tantangan paling mendesak di era digital,” tulis perusahaan tersebut. “AI dengan cepat mengubah cara munculnya bahaya-bahaya ini di seluruh industri dan cara penanganannya dalam skala besar.”

OpenAI mengatakan proposal tersebut menggabungkan masukan dari organisasi yang bekerja di bidang perlindungan anak dan keselamatan online, termasuk National Center for Missing and Exploited Children dan Attorney General Alliance serta satuan tugas AI-nya. “AI generatif sedang mempercepat kejahatan eksploitasi seksual anak secara online dengan cara-cara yang sangat mengkhawatirkan—menurunkan hambatan, meningkatkan skala, dan memungkinkan bentuk-bentuk bahaya baru,” kata Presiden & CEO, National Center for Missing & Exploited Children, Michelle DeLaune dalam sebuah pernyataan. “Namun pada saat yang sama, National Center for Missing & Exploited Children terdorong untuk melihat perusahaan-perusahaan seperti OpenAI menimbang bagaimana alat-alat ini dapat dirancang dengan lebih bertanggung jawab, dengan perlindungan yang dibangun sejak awal.”  OpenAI mengatakan kerangka tersebut menggabungkan standar hukum, sistem pelaporan industri, dan perlindungan teknis dalam model-model AI. Perusahaan itu mengatakan langkah-langkah ini bertujuan untuk membantu mengidentifikasi risiko eksploitasi lebih awal dan meningkatkan akuntabilitas di seluruh platform online.

Cetak biru ini mengidentifikasi area untuk bertindak, termasuk memperbarui undang-undang untuk menangani materi pelecehan seksual anak yang dihasilkan atau dimodifikasi oleh AI, memperbaiki cara penyedia online melaporkan sinyal pelecehan dan berkoordinasi dengan penyelidik, serta membangun perlindungan ke dalam sistem AI yang dirancang untuk mencegah penyalahgunaan. “Tidak ada satu intervensi pun yang dapat mengatasi tantangan ini sendirian,” tulis perusahaan tersebut. “Kerangka ini menyatukan pendekatan hukum, operasional, dan teknis untuk lebih baik mengidentifikasi risiko, mempercepat respons, dan mendukung akuntabilitas, sambil memastikan bahwa otoritas penegakan tetap kuat saat teknologi berkembang.” Cetak biru ini hadir ketika para advokat keselamatan anak telah menyampaikan kekhawatiran bahwa sistem AI generatif yang mampu menghasilkan gambar realistis dapat digunakan untuk membuat penggambaran anak yang dimanipulasi atau sintetis. Pada bulan Februari, UNICEF menyerukan agar pemerintah di seluruh dunia mengesahkan undang-undang yang mengkriminalisasi materi pelecehan anak yang dihasilkan oleh AI. Pada bulan Januari, European Commission meluncurkan penyelidikan resmi untuk mengetahui apakah X, yang sebelumnya dikenal sebagai Twitter, melanggar aturan digital UE dengan gagal mencegah model AI bawaan platform tersebut, Grok, menghasilkan konten ilegal, sementara regulator di Inggris dan Australia juga telah membuka penyelidikan. Mencatat bahwa hukum saja tidak akan menghentikan wabah materi pelecehan yang dihasilkan oleh AI, OpenAI mengatakan standar industri yang lebih kuat akan diperlukan seiring sistem AI menjadi semakin mampu. “Dengan menginterupsi upaya eksploitasi lebih cepat, meningkatkan kualitas sinyal yang dikirim ke penegak hukum, dan memperkuat akuntabilitas di seluruh ekosistem, kerangka ini bertujuan untuk mencegah bahaya sebelum terjadi dan membantu memastikan perlindungan yang lebih cepat bagi anak-anak ketika risiko muncul,” kata OpenAI.