Meta dikabarkan akan segera mengandalkan kecerdasan buatan (AI) untuk menangani sebagian besar proses penilaian risiko produk, menggantikan peran tim reviewer manusia yang selama ini menjadi bagian penting dari pengawasan internal. Menurut laporan eksklusif dari NPR, perusahaan induk Facebook dan Instagram ini berencana mempercayakan hingga 90 persen proses evaluasi risiko pada AI, termasuk di area sensitif seperti perlindungan remaja, kekerasan, misinformasi, dan integritas konten secara keseluruhan.
Selama bertahun-tahun, fitur dan pembaruan di berbagai platform Meta seperti Instagram dan WhatsApp melewati proses review manual sebelum diluncurkan ke publik. Namun dalam dua bulan terakhir, Meta dilaporkan telah mempercepat transisi menuju sistem otomatis berbasis AI. Kini, setiap tim produk diharuskan mengisi kuesioner terkait produk mereka dan menyerahkannya untuk ditinjau oleh sistem AI, yang kemudian memberikan keputusan instan terkait potensi risiko yang teridentifikasi. Tim tersebut kemudian harus menindaklanjuti rekomendasi AI sebelum fitur atau produk bisa dirilis.
Meski demikian, sejumlah mantan dan karyawan aktif Meta menyampaikan kekhawatirannya kepada NPR. Mereka menilai bahwa penggunaan AI secara dominan berpotensi melewatkan risiko serius yang sebelumnya bisa dikenali oleh penilaian manusia. Seorang mantan eksekutif Meta bahkan menegaskan bahwa pengurangan pengawasan manusia justru membuka potensi risiko eksternal yang lebih besar, karena banyak dampak negatif dari produk baru yang bisa saja tidak terdeteksi sebelum menyebar luas.
Menanggapi laporan tersebut, Meta menyatakan bahwa mereka tetap akan mengandalkan keahlian manusia untuk menangani masalah yang kompleks dan belum pernah terjadi sebelumnya, sementara keputusan-keputusan dengan risiko rendah akan dipercayakan kepada AI.
Kabar ini muncul hanya beberapa hari setelah Meta merilis laporan integritas kuartalan terbarunya, yang pertama sejak perusahaan mengubah kebijakan moderasi konten dan pemeriksaan fakta awal tahun ini. Laporan tersebut mencatat penurunan jumlah konten yang dihapus, sejalan dengan pelonggaran kebijakan baru Meta. Namun, terjadi sedikit peningkatan dalam laporan kasus bullying, pelecehan, serta konten kekerasan dan grafis.
Langkah Meta untuk mengotomatisasi sistem review ini menjadi pertanda arah baru perusahaan dalam mengelola skala besar platform digitalnya. Namun, dengan sensitivitas konten yang kian tinggi, pertaruhan besar tetap ada pada akurasi dan etika penggunaan AI dalam menyaring dampak sosial dari setiap fitur yang mereka rilis.
