Meta kini menjelaskan lebih lanjut tentang bagaimana mereka menggunakan AI untuk mendeteksi remaja yang memalsukan usia mereka di Instagram. Seperti yang dilaporkan Bloomberg, awal tahun depan, perusahaan akan meluncurkan “adult classifier,” alat yang dirancang untuk mengidentifikasi pengguna di bawah 18 tahun dan secara otomatis menerapkan pengaturan privasi yang lebih ketat untuk mereka.
Menurut Allison Hartnett, direktur produk manajemen untuk pemuda dan dampak sosial di Meta, software ini akan memperhatikan indikator seperti akun yang diikuti pengguna dan konten yang sering mereka interaksi. Jika alat ini mencurigai seseorang di bawah umur 18, pengguna akan otomatis dialihkan ke akun remaja, terlepas dari usia yang tertera di profil mereka.
Meta pertama kali mengumumkan rencana penggunaan AI untuk mengidentifikasi pengguna muda yang memalsukan usia mereka ketika perusahaan meluncurkan akun remaja di Instagram pada September lalu. Pada akun remaja ini, Instagram menerapkan pengaturan privasi yang paling ketat untuk anak-anak di bawah 16 tahun. Akun tersebut otomatis diatur ke mode privat, dan pengguna tidak bisa mengirim pesan ke orang asing. Meta telah mengimplementasikan sebagian besar pembatasan ini sebelum peluncuran akun remaja atas desakan para pembuat undang-undang dan orang tua, namun dengan adanya fitur akun remaja resmi, Meta memastikan pengaturan tersebut hanya dapat diubah dengan persetujuan orang tua.
Meta tidak mengungkapkan seberapa akurat alat adult classifier dalam menentukan usia seseorang. Meta mengatakan kepada Bloomberg bahwa mereka akan memberikan opsi bagi pengguna yang keliru teridentifikasi oleh software untuk mengajukan banding, meskipun proses banding ini masih dalam tahap pengembangan.
Meta juga akan meminta remaja yang mencoba mengubah usia di akun mereka secara manual untuk membuktikan identitas mereka. Pengguna akan memiliki opsi untuk mengunggah ID resmi atau berbagi video selfie melalui Yoti. Sebelumnya, Meta telah bermitra dengan Yoti untuk verifikasi usia di Facebook Dating. Algoritma pembelajaran mesin Yoti memperkirakan usia berdasarkan fitur wajah, dan setelah Yoti memberikan perkiraan usia kepada Meta, keduanya akan segera menghapus video tersebut.
Software adult classifier ini merupakan bagian dari upaya Meta yang lebih luas untuk mencegah orang memalsukan usia di Instagram. Selain itu, Meta berencana untuk memberi peringatan kepada remaja yang mencoba membuat akun baru dengan email yang sama namun dengan tanggal lahir berbeda. Meta juga berencana menggunakan ID perangkat untuk mendapatkan gambaran yang lebih jelas tentang siapa yang membuat profil baru.
