JAWA BARAT — Apple memperbarui kebijakan moderasi App Store dengan mewajibkan pengembang memfilter konten intim non-konsensual, termasuk yang dihasilkan alat AI. Pengembang yang gagal menerapkan pengamanan memadai berisiko dikeluarkan dari toko aplikasi. Aturan anyar menyasar aplikasi berbagi konten buatan pengguna.
Apple memperketat pengawasan terhadap aplikasi yang memungkinkan pengguna mengubah foto biasa menjadi konten seksual eksplisit, atau yang lazim disebut "nudify". Perusahaan tidak hanya melarang aplikasi yang memang dibuat khusus untuk menghasilkan gambar cabul, tetapi kini menuntut pengembang aktif menjaga penggunaan aplikasinya.
Kebijakan baru menargetkan aplikasi yang menampung konten buatan pengguna (user-generated content). Pengembang diwajibkan memfilter gambar intim non-konsensual, termasuk yang dihasilkan lewat alat kecerdasan artifisial.
Kewajiban Baru bagi Pengembang
Apple merinci sejumlah tanggung jawab yang harus dipenuhi pengembang aplikasi dengan konten buatan pengguna. Aturan menekankan pencegahan sebelum konten tersebar, bukan sekadar penghapusan setelah laporan masuk.
- Memfilter gambar intim non-konsensual, termasuk yang dibuat menggunakan alat AI.
- Menyediakan mekanisme bagi pengguna untuk melaporkan konten ofensif.
- Memberi opsi memblokir akun yang melakukan penyalahgunaan.
- Mencegah pengguna mengunggah gambar jenis tersebut sejak awal.
- Menghapus konten yang lolos dari filter.
Pengembang yang tidak menerapkan pengamanan memadai, atau gagal memperbaiki pelanggaran setelah mendapat notifikasi, berisiko dikeluarkan dari App Store. Sanksi berlaku sebagai konsekuensi atas kelalaian menjaga ekosistem aplikasi.
Aturan Lebih Tegas untuk Aplikasi Bait-and-Switch
Apple juga memperjelas aturan terhadap aplikasi yang menipu saat proses peninjauan. Jika ditemukan aplikasi menyembunyikan tujuan aslinya dan ternyata memiliki kemampuan "nudifikasi", perusahaan akan mencabut aplikasi dari toko sekaligus mengeluarkan pembuatnya dari Apple Developer Program.
Langkah tersebut menutup celah yang kerap dipakai pengembang nakal: menampilkan fungsi wajar saat review, lalu mengaktifkan fitur terlarang setelah aplikasi lolos dan diunduh pengguna.
Dampak ke Pengguna dan Pasar Aplikasi
Bagi pengguna, kebijakan ini memperbesar peluang konten intim non-konsensual tidak muncul di aplikasi yang mereka pakai. Pengguna juga mendapat jalur pelaporan dan pemblokiran yang lebih jelas ketika menemukan konten bermasalah.
Apple memang telah lama melarang materi pornografi di App Store, dan aplikasi yang khusus dibuat untuk menghasilkan citra seksual eksplisit tidak diizinkan sejak lama. Perubahan terbaru memperluas tanggung jawab ke pengembang yang menyediakan ruang bagi konten buatan pengguna.
Aturan ini menuntut investasi teknis tambahan, terutama bagi pengembang aplikasi edit foto, media sosial, dan alat AI generatif yang beroperasi di ekosistem Apple. Filter otomatis dan sistem pelaporan mesti disiapkan agar aplikasi tetap bertahan di toko.
Konteks Regulasi Global
Langkah Apple sejalan dengan tekanan regulator di berbagai negara terhadap penyalahgunaan AI untuk membuat citra intim tanpa izin. Platform aplikasi kini dituntut tidak sekadar menjadi penyalur, tetapi ikut bertanggung jawab atas konten yang beredar lewat produk mereka.
Bagi pengembang Indonesia yang merilis aplikasi di App Store, kepatuhan pada aturan ini menjadi syarat agar produk tetap dapat diunduh pengguna lokal. Aplikasi berbasis konten buatan pengguna perlu menyesuaikan kebijakan moderasi sebelum pembaruan berikutnya diajukan ke Apple.
